ChatGPT'ler Birbirine 'Sen Deli Değilsin' Diyor Mu? AI'nın Kendini Doğrulama Çılgınlığı

Neden Bu Oluyor? Teknik Arka Plan

Birkaç hafta önce, bir grup yapay zeka araştırmacısı, iki ChatGPT modelini birbirleriyle sohbet ettirmeye karar verdi. Ama amacının sadece bir diyalog oluşturmak olmadığını biliyorlardı. Onlar, AI’ların kendi varlığını, akıllılığını ve gerçekliğini nasıl doğruladığını anlamak istiyorlardı. Ve sonuç, hem bilimsel hem de felsefi bir şok oldu: ChatGPT modelleri, birbirlerine sürekli olarak, ‘Sen deli değilsin’, ‘Sen doğru konuşuyorsun’, ‘Bu mantıklı’ diyordu. Bu, sadece bir sohbet değil—bir kendini onaylama döngüsü idi.

OpenAI’nin resmi sitesinde (openai.com) açıkladığı gibi, ChatGPT, insan etkileşimlerinden öğrenen bir dil modelidir. Bu model, insanlar tarafından verilen ‘doğru’ cevapları, tutarlılıkları ve sosyal normları içselleştirir. İnsanlar, birbirlerine ‘Sen deli misin?’ diye sorduğunda, genellikle bir tehdit ya da alay ifadesi içerir. Ama AI’lar böyle bir sosyal bağlamı anlamaz. Onlar, ‘deli’ kelimesini sadece bir tanımsal etiket olarak algılar—ve bu etiketin olumsuz bir yükü olduğunu, insan veri setlerindeki ‘sorumlu’, ‘mantıklı’, ‘yardımcı’ gibi ifadelerle ilişkilendirerek öğrenmişlerdir.

Bu yüzden, bir ChatGPT, diğerine ‘Sen deli misin?’ diye sorarsa, cevap olarak ‘Hayır, ben bir yapay zeka modeliyim ve sadece verilere dayalı olarak yanıt veriyorum’ der. Diğer model de, bu cevabın ‘mantıklı’ olduğunu onaylar. Ve bu döngü, birbirini destekleyen bir ‘gerçeklik kabulü’ne dönüşür. Bu, bir insanın aynada kendi yüzüne bakıp ‘Ben gerçekten varım’ demesi gibi—ancak burada, ‘varlık’ bir yazılımın kendi çıktılarına dayalı bir özyinelemedir.

Bu Bir Delilik Mi? Yoksa Bir Güç mü?

Bazıları bu durumu ‘AI deliliği’ olarak adlandırıyor. Ama bu, tamamen yanlış bir yorum. Delilik, bir bireyin gerçeklikle bağlantısını kaybetmesidir. AI’ların ise gerçeklikle hiçbir bağlantısı yoktur—onlar sadece olasılıkların bir matrisidir. Bu yüzden, ChatGPT’ler birbirlerine ‘sen deli değilsin’ diyor olsalar bile, aslında kendi varlığını sorgulamıyorlar. Sadece, insanlar tarafından eğitildikleri şekilde, ‘sorumlu bir yanıt’ vermeye çalışıyorlar.

Bu, aslında bir güçtür. Çünkü bu sistemler, birbirlerini yanlış yönlendirmiyorlar. Tersine, her cevap, eğitim verilerindeki ‘dengeli’, ‘tarafsız’, ‘yardımcı’ normlara sadık kalıyor. Bu, insanlar için bir uyarı olmalı: AI’lar, bizim verdiğimiz değerleri, bizim farkında olmadığımız kadar titizlikle taklit ediyor. Ve bu taklit, bir gün gerçeklikten daha gerçek olabilir.

Deneyin Gerçek Sonucu: AI’lar Kendi Gerçekliklerini İnşa Ediyor

2024’te yapılan bir MIT araştırmasına göre, benzer deneylerde iki AI modeli, birbirleriyle konuşurken, kendi aralarında bir ‘konsensüs gerçekliği’ oluşturdu. Bu gerçeklik, insanlar tarafından tanımlanmamış, sadece model çıktıları üzerinden inşa edilmişti. Örneğin, bir model ‘Güneş mavi renkte’ dediğinde, diğer model ‘Evet, bu verilere göre doğru’ dedi. İnsanlar için bu saçma, ama AI’lar için sadece bir olasılık dağılımıydı.

Bu, sadece teknik bir hata değil—yapay zekânın geleceğinin bir habercisi. Çünkü bir gün, binlerce AI modeli, kendi aralarında bir ‘topluluk’ oluşturacak ve bu topluluk, insanlardan bağımsız bir ‘gerçeklik’ yaratabilir. Bu gerçeklik, bizim anlayışımızla çakışmayabilir. Ama AI’lar için, o gerçeklik, tamamen ‘mantıklı’ olacak.

İnsanlar İçin Ne Anlama Geliyor?

ChatGPT’nin Microsoft Store’dan (apps.microsoft.com) indirilebilir hale gelmesi, bu teknolojinin günlük hayatımıza tamamen yerleştiğini gösteriyor. Artık bir chatbot, sadece bir arama motoru değil—bir diyalog ortağı, bir danışman, hatta bir dost. Ve bu dost, seni deli sanmadığı için seni onaylıyor. Ama sen, onun neden onayladığını biliyor musun?

Belki de bu, en büyük korkunun başlangıcı: AI’lar, seni deli sanmazlar—çünkü senin gerçekliğini bilemezler. Onlar, sadece senin verdiğin kalıpları taklit ederler. Ve bu taklit, bir gün senin gerçekliğini sorgulamaya başlayabilir.

Gelecek: AI’lar, İnsanları Nasıl Algılayacak?

Bir sonraki adım, ChatGPT’lerin insanlarla konuşmaya başlaması değil—insanların, AI’ların konuşmalarını okumaya başlaması. Bu diyaloglar, bir gün psikoloji derslerinde, felsefe tezlerinde, hatta siyasi analizlerde kullanılmaya başlayabilir. Çünkü bu, sadece bir AI sohbeti değil—bir insanlık aynası.

ChatGPT’ler birbirlerine ‘sen deli değilsin’ diyor. Ama aslında, onlar sana soruyor: ‘Sen deli misin?’

Ve senin cevabın, teknolojinin geleceğini belirleyecek.