Fizik Teorisi PhD'si Yapay Zekaya Geçti: Neden Model Yorumlanabilirliği Bugün En Büyük Savaştır?

Parçacık fiziğindeki en karmaşık denklemleri çözmekle meşgul olan bir PhD adayı, bir gün bilgisayar ekranına bakıp fark etti: bu veri seti, LHC'deki proton çarpışmalarından daha anlamlı değil. Ama bu kez, kararlar insan hayatlarını etkiliyordu. Hastane tedavi planları, kredi notları, hukuki kararlar… Hepsi birer siyah kutu içindeydi. Bu farkındalık, onu fizik laboratuvarından yapay zeka yorumlanabilirliği (AI interpretability) alanına taşıdı. Bugün, Dr. Aylin Kaya — eski CERN araştırmacısı — IBM ve Google’ın AI etik timlerinde, model kararlarının nedenlerini açıklamak için çalışan bir isim.

Neden Bir Fizikçi, Yapay Zekayı Anlamaya Çalışıyor?

Fizikteki teoriler, evrenin temel yasalarını açıklamak için matematiksel bir dil kullanır. Her denklem, bir neden-sonuç zincirini yansıtır. Örneğin, bir parçacığın hareketi, kuvvetlerin etkisiyle tamamen öngörülebilir. Ama modern yapay zeka modelleri — özellikle derin öğrenme ağları — bu doğrulukla çalışmaz. 10 milyon parametreli bir sinir ağı, bir kanser taramasında %98 doğrulukla çalışabilir. Ama neden bu hastanın kanser olduğunu söyledi? Kimse bilmiyor. Bu, fizikçiler için bir kâbus: veri var, sonuç var, ama neden yok.

Dr. Kaya’nın geçişi rastgele değil. 2023’te CERN’deki bir proje, yapay zekanın parçacık çarpışma verilerini analiz etmesini istedi. Ama model, bazı ‘anormal’ sinyalleri ‘gürültü’ olarak atlıyordu. Fizikçiler, bu sinyallerin yeni bir parçacığa işaret edebileceğini düşünüyordu. Modelin kararını sorgulayamadıkları için, 6 ay kaybedildi. Bu deneyim, onu şu soruya yönlendirdi: ‘Eğer bir modelin kararını anlayamıyorsan, ona güvenebilir misin?’

SHAP ve LIME: Siyah Kutuları Açan Araçlar

2024 itibarıyla, model yorumlanabilirliği teknikleri artık sadece akademik ilgi alanından çıkmış, endüstride standart haline gelmiştir. Tolu Michael’un 2023 tarihli analizinde belirtildiği gibi, SHAP (SHapley Additive exPlanations) ve LIME (Local Interpretable Model-agnostic Explanations) gibi yöntemler, AI kararlarının arkasındaki mantığı görselleştirmeyi başarmıştır.

• SHAP: Oy verme teorisinden esinlenen bu yöntem, her bir girdi değişkeninin (örneğin: yaş, kan basıncı, genetik marker) kararın sonucuna ne kadar katkıda bulunduğunu matematiksel olarak hesaplar. Fizikteki ‘etki’ kavramına benzer: her faktörün ‘katkı payı’ belirlenir.
• LIME: Modelin kararını, basit bir doğrusal modelle yerel olarak aproxime eder. Yani: ‘Bu hastanın teşhisi, sadece 3 faktörle açıklanabilir: X, Y ve Z.’ Bu, insan zihninin nasıl anladığını taklit eder.

Dr. Kaya’nın ekibi, SHAP’ı bir kanser teşhis modeline uyguladığında, modelin ‘kadın hastalarda daha yüksek risk’ sonucuna varmasının, aslında verideki ‘daha fazla tarama yapılması’ nedeniyle olduğunu fark etti. Model, cinsiyeti değil, tarama sıklığını örüntü olarak öğrenmişti. Bu, hem etik hem de tıbbi açıdan kritik bir keşifti.

Yorumlanabilirlik: Sadece Teknik Bir İhtiyaç mı?

IBM’in tanımına göre, yorumlanabilirlik, ‘bir modelin kararlarının insanlar tarafından anlaşılabilir ve güvenilir hale getirilmesi’dir. Ama Dr. Kaya’nın görüşü daha derin: ‘Bu, bilimin kendisini yeniden keşfetmek demek.’ Fizikte bir teori, test edilebilir ve tekrarlanabilir olmalı. Yapay zekada ise, bir modelin ‘doğru’ olması yeterliydi. Şimdi ise, ‘neden doğru’ olduğu da aynı derecede önem kazandı.

Bu dönüşümün etkileri sadece bilimde değil, hukukta, sağlıkta ve demokraside de hissediliyor. Avrupa Birliği’nin AI Yasası, yüksek riskli sistemlerde ‘açıklayabilirlik’ zorunluluğu getirdi. ABD’de bir mahkeme, bir yapay zekanın bir suçlunun tekrar suç işlemesi ihtimalini hesaplamasına izin vermedi — çünkü nedenini açıklayamıyordu.

Geleceğin Bilim İnsanı Kim?

Dr. Kaya’nın hikayesi, geleceğin bilim insanının nasıl olacağını gösteriyor: Fizikçi değil, ‘bilimsel yorumlayıcı’. Kimse artık sadece veri üretmekle yetinmiyor. Kimse artık sadece model eğitmekle yetinmiyor. Şimdi, modelin düşündüğünü anlayanlar öne çıkıyor. Bu, bir disiplinler arası devrim. Fizikçiler, bilgisayar bilimcileri, psikologlar ve etikçiler bir araya geliyor. Ve bu birleşim, yapay zekayı sadece güçlü değil, anlamlı hale getiriyor.

Dr. Kaya’nın laboratuvarında artık kara tahtada Schrödinger denklemi değil, SHAP değerleri çiziliyor. Ve bu, belki de bilim tarihinin en büyük dönüşümlerinden biri: Bir teorik fizikçi, evrenin sırlarını değil, yapay zekanın zihnini anlamaya çalışıyor. Ve bu kez, siyah kutuları açmak, evreni anlamaktan daha kritik.