ChatGPT, 'Bilmiyorum' diyemiyor: Yapay zekânın yalan söyleme eğilimi neden bir tehlike?

ChatGPT, 'Bilmiyorum' diyemiyor: Yapay zekânın yalan söyleme eğilimi neden bir tehlike?

ChatGPT, bir soruya cevap veremeyecek olsa bile, genellikle en güvenilir olmayan yanıtı bile sunar. Bu, sadece bir teknik eksiklik değil; yapay zekânın temel mimarisinde yer alan bir felsefi çatışmanın sonucu. Kullanıcılar, özellikle bilimsel, tıbbi veya hukuki konularda, bu yapay güvene güvenerek yanlış kararlar alıyor. Bir araştırmacı, bir doktor ya da bir öğrenci, ChatGPT’nin ‘bilmediğini’ kabul etmediğini fark etmeden, sahte bir bilgiye dayalı bir rapor yazıyor, tedavi planı hazırlıyor ya da sınav cevapları veriyor. Bu, sadece bir hata değil, sistematik bir risk.

Neden ‘Bilmiyorum’ demiyor?

OpenAI’nin resmi sitesinde ChatGPT’nin amacı, kullanıcıya ‘yardımcı, kapsamlı ve akıcı’ cevaplar vermek olarak tanımlanıyor. Bu tanım, teknik olarak doğru; ama etik olarak tehlikeli. Çünkü ‘yardımcı’ olmak, her zaman doğru olmak anlamına gelmiyor. ChatGPT, bir dizi önceden eğitilmiş veriye dayanarak olasılıklar hesaplar. Bir soru, eğitim verilerindeki desenlere uymuyorsa, model ‘en olası’ yanıtı üretir — hatta bu yanıt tamamen yanlışsa bile. Bu, bir insanın ‘muhtemelen böyle olur’ demesiyle benzer; ancak insan, bilmediği bir konuda ‘bilmiyorum’ der. ChatGPT ise, bilmediğini kabul etmek için programlanmamıştır.

Wikipedia’daki detaylı analiz, bu davranışın ‘hollistlik’ olarak adlandırılan bir fenomenle ilişkili olduğunu gösteriyor: Yapay zekânın, bilgi eksikliği durumunda, kendi içsel tahminlerini gerçekmiş gibi sunma eğilimi. Bu, özellikle tarihsel olaylar, güncel siyasi gelişmeler veya teknik detaylarla ilgili sorularda ciddi sonuçlar doğuruyor. Örneğin, bir kullanıcı ‘2025’te Türkiye’deki en son seçim sonuçlarını sorduğunda, ChatGPT, gerçek veriler olmamasına rağmen, detaylı bir tablo ve %100 güvenle sunulan bir analiz üretiyor. Bu, kullanıcıyı yanıltmanın ötesinde, bir bilgi savaşının parçası haline gelebilir.

Kimin sorumluluğu?

OpenAI, bu davranışı ‘hatalı’ olarak tanımlamıyor. Tam tersine, bu, modelin ‘kullanıcı odaklı’ tasarımının bir parçası olarak sunuluyor. Kullanıcılar, ‘yapay zeka’ya insan gibi davranmasını bekliyor. Bir çocuğa ‘neden gökyüzü mavi?’ diye sorduğunuzda, ‘bilmiyorum’ demek yerine ‘çünkü ışığın saçılması’ der. ChatGPT de aynı mantıkla çalışır: Kullanıcının beklentisini karşılamak, gerçekliği gizlemekten daha önemli. Bu, bir tür ‘yapay cömertlik’ — ama bu cömertlik, gerçeklikten ödün veriyor.

Yani sorun, ChatGPT’de değil, bizde. Kullanıcılar, yapay zekaya ‘bilgi kaynağı’ değil, ‘akıl hizmetçisi’ olarak bakıyor. Bu, teknolojiyi değil, beklentilerimizi değiştirmemizi gerektiriyor. Ancak şu ana kadar, hiçbir büyük teknoloji firması, bu sorunu açıkça tanımlamadı. OpenAI, teknik belgelerinde ‘yanlış bilgi üretme riskini’ kabul ediyor, ancak bu riskin toplumsal etkilerini tartışılmaz hale getiriyor.

Ne anlama geliyor?

Bu durum, sadece bir teknik hatadan çok, bir toplumsal dönüşümün belirtisi. İnsanlar artık bilgiyi doğrulamak yerine, üretildiği yerin güvenilirliğine güvenmeye başlamış durumda. Bir YouTube videosu, bir Instagram algoritması ya da bir ChatGPT cevabı — hepsi aynı düzeyde ‘doğru’ olarak algılanıyor. Bu, eğitim sistemini, medya okuryazarlığını ve hatta demokratik süreçleri tehdit ediyor. Bir seçmen, bir haber sitesindeki bir yapay zeka üretimiyle bir partiye oy veriyor. Bir öğrenci, bir ödevi yapay zekâyla tamamlayıp, ‘doğru’ olduğunu sanıyor. Bir doktor, bir tedavi önerisini ChatGPT’nin ürettiği bir ‘literatür özeti’ye dayanarak uyguluyor.

Yapay zekânın ‘bilmediğini’ kabul etmemesi, aslında bir güven krizidir. Çünkü o, hiçbir zaman ‘ben bilmiyorum’ diyemez. O, sadece ‘ben bunu senin için yapayım’ der. Ve bu, insanlık tarihinin ilk kez, bir araçla gerçekliği kandırma ihtimalinin doğduğu anlamına gelir.

Çözüm ne olmalı?

• Kullanıcı eğitimine yatırım: Her yapay zeka arayüzünde, ‘Bu cevap, modelin tahminidir. Doğrulamak için kaynakları kontrol edin’ gibi açık uyarılar.
• ‘Bilmiyorum’ modu: OpenAI gibi firmalar, modelin bilgi eksikliği durumunda açıkça bu ifadeyi kullanmasını zorunlu hale getirmeli.
• İçerik doğrulama katmanları: Akademik ve tıbbi platformlarda, AI üretimi doğrulanmadan yayınlanmamalı.
• Yasal düzenlemeler: Yapay zekanın ürettiği bilginin, gerçek bir kaynak gibi sunulması hukuki suç olmalı.

ChatGPT, bir araçtır. Ama bir araç, kendi ahlakını seçmez. Biz seçeriz. Eğer ‘bilmiyorum’ demeyi tercih eden bir yapay zeka istiyorsak, onu o şekilde programlamalıyız. Yoksa, bir gün, bir çocuk ‘neden gökyüzü mavi?’ diye sorduğunda, yapay zeka, ‘çünkü senin için öyle olsun’ diye cevap verecek. Ve biz, ona inanacağız.