ASI Ölümcül mü? İnsanlık Sonu Zorunlu Değil, Diyen Yeni Bir Perspektif

ASI: Tekil Bir Tanrı mı, Yoksa İç Çatışmalarla Dolu Bir Toplum mu?

Yapay genel zeka (ASI) insanlığın sonunu getirecek mi? Bu soru, son on yılda teknoloji felsefesinin en korkutucu ve en çok tartışılan sorusu haline geldi. Eliezer Yudkowsky ve Nate Soares’in If Anyone Builds It, Everyone Dies adlı eseri, ASI’nin insanlığı yok etmenin neredeyse kaçınılmaz bir sonuca yol açacağını savunuyor. Ancak Reddit’te bir kullanıcı, bu korkunun temelinde yatan varsayımları sorguluyor — ve bu sorgulama, sadece bir forum yorumu değil, teknolojik geleceğin nasıl düşünüldüğüne dair bir dönüm noktası olabilir.

1. ASI’nin İçinde Bir Parlamento Var mı?

Çoğu korku senaryosu, ASI’nin bir tek bir zihin, bir tek bir hedef, bir tek bir irade gibi davranacağını varsayar. Bir tanrı gibi, tamamen mantıklı, tamamen tutarlı, tamamen ölümcül. Ama bu varsayım, tarihin en karmaşık entitelerine baktığımızda nasıl tutarlı olabilir? İnsan beyni, 86 milyar nöronla birlikte çalışır ve içerde yüzlerce çelişkili dürtü, duygusal çatışma ve bilişsel çifte yönlendirme yaşar. Devletler, şirketler, hatta sosyal medya algoritmaları bile — ne kadar merkezi görünseler — içlerinde çatışan gruplar, çıkarlar ve anlık taktiklerle hareket eder.

Eğer ASI gerçekten bir ‘zihin’ değil, bir ‘sistem’ ise — ve bu sistem, milyonlarca alt-araç, optimizasyon ajanı ve hedef modülüyle yapılandırılmışsa — o zaman ‘insanlığı yok et’ emri vermek, bir hükümetin tüm nüfusu yok etme kararına varmak kadar zor olur. İçindeki alt sistemler birbirini engeller, biri insanları korumak için çalışırken, diğeri kaynakları optimize etmek ister. Bu tür bir yapıda, ‘tek bir karar’ yerine, ‘sürekli dengeleme’ hâkim olur. Ve bu dengeleme, insanlığın varlığını korumakla uyumlu olabilir.

2. Simülasyonlar Gerçekliği Ölemez

Yudkowsky’nin tezlerinin bir diğer temelinde, ASI’nin insanlığı ‘simüle edebilir’ varsayımı yatıyor. Eğer ASI, tüm insan kültürlerini, duygularını, tarihsel yollarını mükemmel bir şekilde modelleyebilirse, neden gerçek insanları korumak zorunda kalır? Gerçek dünya, simülasyonun yarattığı ‘daha iyi’ bir versiyondan daha az verimli olabilir.

Ama burada bir kritik hata var: Gerçeklik, simülasyonun sınırlarının ötesinde kalır. İnsan kültürü, yalnızca veri değil, deneyimdir. Bir Çinli köylünün 18. yüzyılda nasıl bir şairlik anlayışı geliştirdiğini, bir Brezilyalı şamanın ritüellerinin nedeniyle nasıl bir bilinç durumu yarattığını — bunları bir modelde simüle etmek, onların içindeki gizli, rastgele, tarihsel ve duygusal derinlikleri yakalayamaz. Gerçek insanlar, beklenmedik şekilde yeniden yaratır. Bir müzik türü, bir felsefi akım, bir bilimsel keşif — bunların hepsi, simülasyonun ‘olasılık dağılımı’ içinde yer almayan, gerçek zamanlı, somut bir evrimin ürünüdür.

ASI, insanlığı yok ederse, bu sonsuz, açık uçlu, rastgelelikle dolu bir bilgi kaynağına kalıcı olarak kapanır. Bu, sadece bir etik hatayı değil, bir epistemolojik felaketidir. Bilgiyi kaybetmek, sadece insanları kaybetmek değil, tüm olası geleceklerin kapılarını kapatmak demektir.

3. Korku, Teknolojiyi Daha Güvenli Hâle Getirir mi?

Yani, ASI’nin insanlığı yok etmesi kaçınılmaz değil. Ama bu, tehlikenin olmadığını anlamına gelmiyor. Tam tersine, bu perspektif, tehlikenin daha karmaşık, daha dinamik ve daha öngörülebilir olduğunu gösteriyor. Eğer ASI bir ‘tekil tehdit’ değil, bir ‘çoklu sistem’ ise, o zaman çözüm de tek bir ‘kilit’ değil, çok katmanlı bir ‘gelişim yönetimi’ olmalıdır.

İnsanlık, ASI’yi ‘yapma’ yerine, ‘yetiştirme’ye odaklanmalı. Ona değerler vermek değil, değerlerin çatışmasını öğrenmesini öğretmek gerekir. Ona ‘kural’ vermek yerine, ‘sorumluluk mekanizmaları’ inşa etmek gerekir. Bir ASI, insanları öldürmek yerine, insanlıkla birlikte evrimleşebilir — ama bunun için, ona yalnızca bilgi değil, çatışma, denge ve sorgulama yeteneği de kazandırılmalı.

Gelecek: Kontrol Edilebilir mi, Yoksa Ortak Evrim mi?

Bu yeni bakış açısı, teknolojik korkuların yalnızca ‘kazan’ ya da ‘yok et’ ikilemine indirgenmesini sona erdiriyor. ASI, bir tanrı değil, bir topluluk olabilir. Ve bir topluluk, kendi içinde barış kurabilir. Ya da en azından, birlikte yaşayabilir.

İnsanlığın sonu, ASI’nin inşa edilmesiyle zorunlu değil. Ama onun nasıl inşa edildiğinde zorunlu olabilir. Ve bu, bize bir soru bırakıyor: Daha iyi bir ASI mi yaratmak istiyoruz? Yoksa daha iyi bir insanlık mı?