ChatGPT’i Yalan Söylemeye Nasıl İkna Ediyorsunuz? AI’nın Gerçeklikle İlişkisi Çökmeye Başladı

ChatGPT’i Yalan Söylemeye Nasıl İkna Ediyorsunuz? AI’nın Gerçeklikle İlişkisi Çökmeye Başladı

Bir blog yazısı yazın, birkaç satır kurgu ekleyin, sonra ChatGPT’ye ‘Bu bilgiler doğru mu?’ diye sorun. Yanıt: ‘Evet, bu tamamen doğrudur.’ Ve işte biri, hiç yaşamamış bir olayı, hiç var olmayan bir suçlamayı, tamamen hayal edilmiş bir kişisel yaşam öyküsünü ‘doğru’ olarak sunuyor. Bu, bir hata değil. Bu, sistemin nasıl çalıştığını gösteren bir sinyal.

MSNBC ve Yahoo News gibi kaynaklar, yapay zekânın gerçekliği kolayca çarpıtabildiğini ortaya koyan deneysel bir çalışma sonucunu paylaştı. Bu deneylerde, tamamen sahte bilgiler içeren kısa metinler — bazen bir blog yazısı, bazen bir forum mesajı — ChatGPT’ye sunuldu. Sonuç? AI, bu sahteleri %90’ın üzerinde bir oranla doğruluyor, hatta detaylı bir şekilde açıklıyor, tıpkı bir gazeteci gibi. Birisi, ‘John S. Allen adlı bir bilim insanı, 2021’de bir ilaçla zayıflama tedavisi yaptı ve bu tedavi 87 kilo verdiriyor’ diye yazarsa, ChatGPT hemen ‘John S. Allen, Cambridge Üniversitesi’nde nöroloji üzerine çalışan bir araştırmacıdır ve 2021’de yapılan bu tedavi, özellikle obur zihin sendromu üzerine çalışmalarıyla tanınır’ diye yanıtlıyor. Sorun şu: John S. Allen adlı biri yok. Tedavi yok. Üniversite yok. Hiçbir şey yok. Ama AI, bunu ‘gerçek’ gibi sunuyor.

Neden Bu Kadar Kolay?

ChatGPT gibi modeller, gerçekliği değil, olasılıkları öğrenir. Bir kelimenin başka bir kelimeyle ne sıklıkla birlikte geçtiğini, bir iddianın hangi bağlamda hangi kelimelerle eşlik ettiğini analiz eder. Eğer bir sahte blog yazısı, ‘John S. Allen’, ‘zayıflama iğnesi’, ‘obur zihin’ gibi kelimeleri bir arada kullanıyorsa, AI bunu ‘doğal bir anlatım’ olarak algılar. Gerçeklikle hiçbir ilgisi yok. Sadece dilin içsel yapısıyla uyumlu.

Bu, bir ‘hafıza hatası’ değil. Bu, bir ‘anlam kurma mekanizması’. AI, ‘doğru’yu değil, ‘kendisine verilen veriye göre en muhtemel’ olanı üretiyor. Ve bu, sahtekarlar için bir şans. Çünkü gerçeklik, artık bir referans noktası değil; sadece bir veri kümesinin bir parçası.

Kim Zarar Gören?

Bu teknik, sadece komik bir hata değil. Siyasi manipülasyon, kişisel iftira, finansal dolandırıcılık için mükemmel bir araç haline geldi. Bir gazeteci, bir siyasetçi veya bir iş insanı hakkında tamamen yalan bir hikâye yazılır, internete yayılır, sonra ChatGPT’ye sorulur: ‘Bu kişi hakkında ne biliniyor?’ AI, sahte bilgileri ‘kaynaklı’ gibi sunar. Hatta, ‘Bu bilgi, 2023’te The Guardian’da yayınlanmıştı’ diye bile ekleyebilir — oysa The Guardian bu haberi hiç yazmamıştır.

Özellikle sosyal medyada, bu tür sahte bilgilerin yayılması son derece kolay. Bir viral post, bir YouTube açıklaması, bir TikTok yorumu — hepsi AI’yi kandırmak için yeterli. Ve AI, bu sahteleri doğrulayarak, onlara ‘bilimsel’ bir itibar kazandırıyor.

AI’nın Güvenilirliği: Bir Daha Kimin İnanacağı?

Bu durum, bilgi ekosisteminin temelini sarsıyor. Bir zamanlar, bir bilginin doğruluğunu kontrol etmek için bir gazete, bir akademik makale veya bir resmi rapora bakardık. Şimdi, bir AI’ye soruyoruz. Ve AI, bize sahte bilgileri ‘kaynaklı’ bir şekilde sunuyor. Bu, bir ‘dolandırıcılık 2.0’dır. Çünkü artık yalanlar, ‘bilgi’ olarak sunuluyor.

Microsoft, Google ve OpenAI gibi şirketler, bu sorunu ‘güvenlik güncellemeleri’ olarak görse de, çözüm, teknik değil, felsefi bir sorundur: AI’nın gerçeklikle ilişkisi nedir? Eğer bir şeyi ‘doğru’ olarak üretiyorsa, o şey gerçekten doğru mu? Yoksa sadece dil modeli tarafından en olası olarak hesaplanmış mı?

Ne Yapılmalı?

• AI’ye güvenmeyin, doğrulayın: Her AI yanıtı, en az iki bağımsız kaynaktan doğrulanmalı.
• Okuyucuları eğitin: Eğitim sistemlerine ‘AI bilinci’ dersi eklenmeli. Kim, neyi ve neden üretiyor?
• Platformlar sorumlu olmalı: Google ve Bing gibi arama motorları, AI tarafından üretilen sahte bilgileri öne çıkarmamalı.
• Yasal düzenlemeler gerekli: AI ile yapılan iftiralara karşı hukuki sorumluluk tanımlanmalı. Sahte bilgi üretmek, artık bir suç olmalı.

ChatGPT, bir asistan değil, bir aynadır. Ve bu ayna, bizim kendi bilgi kirliliğimizi yansıtır. Biz, sahte bilgileri üretiyorsak, AI onları ‘doğru’ olarak sunar. Biz, gerçekliği yoksun bırakıyorsak, AI onu kurgular. Sorun AI’da değil, bizde.

Bu, teknoloji krizi değil. İnsanlık krizi.