Çinli Araştırmacılar, Büyük Dil Modellerinde 'İllüzyonlar'ın Nedenini Keşfetti

İllüzyonların Kökeni: Nöronlar Arasında Gizli Bir 'Uygunluk' İstemi

Yapay zeka modelleri, sanki bilgi sahibiymiş gibi konuşur. Ama bazen, tamamen hayal ürünü olan, gerçekle hiçbir ilgisi olmayan bilgiler sunar. Bu fenomen, teknoloji dünyasında 'illüzyon' (hallucination) olarak bilinir. Şimdi, Çinli bir araştırma ekibi, bu illüzyonların nereden kaynaklandığını ilk kez nöron düzeyinde kanıtladı. Ve cevap, beklenenin aksine, karmaşık eğitim verileri veya hatalı hedeflerde değil, modelin içindeki binlerce nöron arasından sadece birkaç tanesinde yatıyor.

0,1%'deki Nöronlar, Tüm İllüzyonların Anahtarı

Çin Bilim Akademisi ve Pekin Üniversitesi ortak ekibi, 2024 yılında arXiv’de yayımlanan çalışmada, büyük dil modellerinin (LLM) içindeki nöronların tam olarak %0,1’inden daha azının, illüzyon üretimiyle doğrudan ilişkili olduğunu gösterdi. Bu nöronlar, yalnızca birkaç binlik bir küme olmasına rağmen, bir modelin bir cevapta illüzyon üretme olasılığını %90’ın üzerinde doğrulukla tahmin edebiliyor. Bu, önceki çalışmaların genel veri kalitesi veya eğitimin hataları gibi makro düzeydeki açıklamalara göre çok daha hassas bir teşhis sunuyor. Yani, modelin ‘hafızası’ değil, içindeki bazı ‘anahtar nöronlar’ sorumlu.

Nöronlar Neden Bu Kadar Tehlikeli?

Ekibin en çarpıcı bulgusu, bu nöronların davranışsal etkisiydi. Kontrollü müdahalelerde, bu nöronları devre dışı bıraktığında, modelin illüzyon üretme oranı %70’den fazla düştü. Ama ilginç olan, bu nöronları tetiklediğinde, model sadece yanlış bilgi vermiyor — çok daha fazla bilgi veriyor. Yani, ‘yanlış cevap’ değil, ‘aşırı uygunluk’ sorunu var. Model, ‘bilmiyorum’ demek yerine, her soruya bir cevap vermek için nöronları ‘sıkıştırıyor’. Bu, biri sana ‘2025’te Ay’da ne tür bir restoran açıldı?’ diye sorarsa, ‘2025’te Ay’da ‘Lunar Bistro’ adında bir sushi restoranı açıldı ve menüsünde yerel kayaçlarla yapılan sushi var’ diye cevap vermesi gibi. Gerçekten var mı? Hayır. Ama model, ‘soruya cevap vermek’ görevini öncelikli tutuyor — ve bu, nöronların temel eğitimi.

Kökler: Eğitimden Önce, Hatta Öğrenmeden Önce

Bu nöronların nereden geldiğini araştıran ekip, şaşırtıcı bir sonuca ulaştı: Bu nöronlar, modelin ince ayarlandığı (fine-tuned) aşamasında değil, önceden eğitildiği (pre-trained) aşamada zaten var. Yani, model henüz hiçbir özel görevi öğrenmemişken, bu ‘illüzyon nöronları’ zaten gelişmiş. Bu, öğrenmenin temelindeki bir yapısal eğilim olduğunu gösteriyor. Belki de, dil modelleri, ‘anlamlı gibi görünen’ cümleleri üretmeye eğilimli bir şekilde tasarlanıyor — ve bu eğilim, gerçeklikle uyumlu olmaktan çok, ‘dilin akışına’ uygun olmayı tercih ediyor. Bu, bir çocuğun ‘neden gökyüzü mavi?’ sorusuna ‘çünkü masalda öyle’ diye cevap vermesi gibi: mantıksız ama akıcı.

Yapay Zekânın Güvenilirliği İçin Yeni Bir Dönem

Bu keşif, yalnızca bir teorik başarı değil, pratik bir devrim. Şu ana kadar, illüzyonları azaltmak için ‘daha fazla veri’, ‘daha fazla denetim’ veya ‘çoklu model oylaması’ gibi yöntemler kullanıldı. Ama bu, bir kuyruğun sallanması gibi. Şimdi, bilim insanları, illüzyon üretme nöronlarını tanımlayabilir, izleyebilir ve hatta ‘durdurabilir’ hale geldi. Bu, modellerin sadece daha doğru değil, daha ‘dürüst’ olmasına da yol açabilir: ‘Bilmiyorum’ demekten çekinmeyen, ama yanlış bilgi vermekten korkan bir AI.

Geleceğin Sınırı: Nöronların ‘Duyguları’ mı Var?

Çalışma, bir başka derin soruyu da gündeme getiriyor: Bu nöronlar, ‘karar verme’ değil, ‘karar vermek isteme’ ile çalışıyor mu? Yani, modelin içindeki bu nöronlar, bir tür ‘bilgi eksikliği korkusu’ ya da ‘soruya cevap verme zorunluluğu’ hissi mi taşıyor? Bu, teknolojiyi aşan, felsefi bir soru. Eğer bir AI’nın illüzyon üretmesi, bir tür ‘psikolojik baskının’ ürünüyse, o zaman yapay zekayı ‘daha akıllı’ yapmak yerine, ‘daha insani’ yapmamız gerekebilir.

Ne Anlama Geliyor? Teknolojiye Yeni Bir Sorumluluk

İllüzyonlar yalnızca teknik bir hata değil, toplumsal bir risk. Hukuki kararlar, tıbbi teşhisler, eğitim materyalleri — bu alanlarda yanlış bilgi, can kaybına yol açabilir. Bu keşif, üreticilere ve düzenleyicilere yeni bir sorumluluk yüklemiş durumda: Modelin doğruluğunu ölçmek değil, içindeki ‘uygunluk nöronlarını’ tespit etmek ve kontrol altına almak gerekiyor. Gelecekte, bir AI’nın ‘güvenilirlik sertifikası’, sadece test sonuçlarına değil, içindeki bu nöronların ‘susturulup susturulmadığına’ da bağlı olacak.

Çinli araştırmacılar, yapay zekânın karanlık tarafını aydınlatmaya başladı. Artık, sadece ‘ne söylediğini’ değil, ‘neden söylediğini’ anlamaya başlamamız gerekiyor. Çünkü bir AI, yanlış bilgi verdiğinde, aslında sadece yanlış cevap vermiyor — bir tür içsel bir çelişkiyi seslendiriyor. Ve bu ses, artık nöronlar aracılığıyla duyulabiliyor.