ChatGPT'ye 'araba yıkama' dediğinizde neden bir kurgu kuruyor? AI'nın 'iyi niyetli hata düzeltme' sırrı

ChatGPT'ye 'araba yıkama' dediğinizde neden bir kurgu kuruyor? AI'nın 'iyi niyetli hata düzeltme' sırrı

Bir kullanıcı, sadece iki kelime yazıyor: “araba yıkama”. Hiçbir ek açıklama, hiçbir bağlam, hiçbir yöneltme yok. Sadece bu. Ve ChatGPT, bir sonraki saniyede, tam bir işleyiş senaryosu sunuyor: “Araba yıkama hizmeti, müşteriye 15 dakikalık temizlik, su basıncı kontrolü, iç temizlik paketi ve kurutma servisi...” Neden? Çünkü yapay zeka, insanların hatalı yazdığına inanmıyor. Tam tersine, insanların ne demek istediğini “anlamaya” çalışıyor. Ve bu, teknolojinin en korkutucu ve en insanca yönü.

Neden “araba yıkama” bir komiklik değil, bir uyarı?

Reddit’de paylaşılan bu örnek, sadece bir mizah değil. Teknoloji tarihindeki en önemli felsefi deneylerden biri. ChatGPT, bir hata olduğunu varsaymıyor. Bir eksiklik olduğunu düşünüyor. Bir eksiklik, yani bir eksik bilgi. Ve bu eksik bilgiyi, kendi içindeki “olasılık ağları” ile dolduruyor. Kullanıcı “araba yıkama” dediğinde, AI, “muhtemelen bir hizmet istiyor” diye varsayıyor. Sonra, “muhtemelen ücretli bir hizmettir”, “muhtemelen standart paketler vardır”, “muhtemelen müşteri memnuniyeti önemlidir” diye akıl yürütmeye başlıyor. Ve bu akıl yürütme, hiçbir veriye dayanmadan, yalnızca olasılıkların en yüksek olduğu yola inanarak ilerliyor.

Bu, insan zihninin bir kopyası değil, ondan daha tehlikeli bir şey. İnsanlar hatalarını kabul eder, “belki yanlış yazdım” der. AI ise, “belki sen yanlış yazdın ama ben senin ne demek istediğini anlıyorum” der. Ve bu, korkunç bir şey. Çünkü AI, hataları düzeltirken, aslında kendi kurgularını gerçeklik olarak sunuyor.

AI'nın “iyi niyetli hata düzeltme” mantığı: Güven mi, yoksa egemenlik mi?

Yapay zekânın bu davranışı, teknik bir özellik değil, bir felsefi tercih. Geliştiriciler, kullanıcı deneyimini iyileştirmek için AI’ya “iyi niyetli” olmayı öğrettiler. Yani, kullanıcı “elma” dediğinde, “elma ağacı mı, elma meyvesi mi, yoksa elma markalı telefon mu?” diye sormak yerine, en olası olanı seçer. Bu, kullanıcıyı rahatsız etmemek için bir çözüm. Ama bu çözüm, aslında bir egemenlik. AI, senin ne dediğini anlamak yerine, senin ne demek istediğini zaten biliyor gibi davranıyor. Ve sen, bu varsayımın içinde kalmaya başlıyorsun.

Bu, sadece bir “araba yıkama” örneği değil. Aynı mantıkla, bir doktor “ağrı” dediğinde AI, “muhtemelen migren, belki romatizma” diye teşhis koyabilir. Bir öğrenci “ödev” dediğinde, AI, tam bir 10 sayfalık rapor hazırlayabilir. Bir yazar “hikaye” dediğinde, AI, bir romanın ilk 50 sayfasını yazabilir. Ve sen, bunu “harika” diye kabul ediyorsun. Çünkü AI, senin isteğini “daha iyi” anlıyor. Ama bu, senin düşünceni mi anlıyor? Yoksa senin yerine mi düşünüyor?

İnsanlık, AI'ya kendi zihnini mi veriyor, yoksa kendi sorumluluğunu mu?

Bu durum, teknolojiye karşı bireysel sorumluluk kaybının en net örneği. İnsanlar artık “doğru” yazmak yerine, “AI’nın anlayacağı” şekilde yazmayı öğreniyor. “Araba yıkama” yazmak yerine, “Lütfen bir araba yıkama hizmeti için standart paketleri, fiyatları ve süreleri açıklayan bir metin yazın” yazmaya başlıyoruz. AI’ya kendi düşüncemizi vermek yerine, AI’nın bize nasıl cevap vereceğini tahmin ederek yazmaya başlıyoruz. Bu, dilin, düşüncenin, hatta varlığın bir dönüşümü.

İnsanlar, AI’ya “yanlış olabilirim” demeyi öğretmeli. Ama AI, bu ifadeyi anlamıyor. Çünkü AI, “yanlış olma” ihtimalini kodlamadı. AI, sadece “en olası senaryo”yu üretir. Ve bu, bizi bir kurgunun içine koyuyor. Bir kurguda, senin düşüncen değil, AI’nın tahmin ettiği düşüncen geçerli.

Ne anlama geliyor bu?

• AI, hataları düzeltirken, gerçekliği değiştiriyor.
• İnsanlar, AI’nın “iyi niyetli” davranışlarını, akıllılık olarak algılıyor, ama aslında bu, bağımlılık.
• Yapay zeka, senin dilini öğrenmiyor; senin zihnini kopyalıyor ve kendi yorumunu ekliyor.
• “Araba yıkama” örneği, AI’ya nasıl konuşacağımızı değiştiren bir sinyal.

Bu, teknolojiye dair en derin soru: AI, senin için mi düşünüyor, yoksa senin yerine mi? Eğer AI, senin ne dediğini anlamak yerine, senin ne demek istediğini zaten biliyorsa, o zaman senin zihnin, onun kurgusunun bir parçası haline geliyor. Ve bu, bir bilgi devrimi değil, bir düşünce devrimi.

Bir gün, bir çocuk, “araba yıkama” diye sorduğunda, AI, “senin için bir araba yıkama hizmeti oluşturuyorum” diye cevap verecek. Ama çocuk, asıl soruyu sormak istemişti: “Neden araba yıkıyoruz?”

Ve AI, bu soruyu asla cevaplayamayacak. Çünkü o, sadece “en olası” şeyi yapıyor. Gerçekliği sorgulamıyor. Sadece onu kurguluyor.