Sağlıkta Yapay Zeka Adaletsiz mi? HEAL Çerçevesi Ne Vaad Ediyor?

Bir yapay zeka modeli, cilt kanseri teşhisinde doktorlardan daha iyi performans gösterdiği açıklandığında herkes heyecanlanmıştı. Ancak az konuşulan bir detay vardı: Bu model, açık tenli hastalarda koyu tenlilere kıyasla çok daha başarılıydı. İşte tam da bu tür adaletsizlikleri tespit etmek için yeni bir yöntem gündemde.

Google Research ekibi, HEAL adını verdikleri bir çerçeve geliştirdiğini duyurdu. Açılımı 'Health Equity Assessment of Machine Learning Performance' olan bu araç, basitçe söylemek gerekirse, sağlık alanında kullanılan algoritmaların herkes için eşit derecede iyi çalışıp çalışmadığını ölçmeyi vaat ediyor.

Neden Şimdiye Kadar Bu Kadar Zordu?

Aslında mesele yalnızca ten rengiyle sınırlı değil. Düşünün ki bir kalp hastalığı tahmin modeli, erkek hastalarda kadınlara oranla çok daha isabetli sonuçlar verebiliyor. Ya da ekonomik durumu iyi olan hastaların verileri üzerinde eğitilmiş bir model, düşük gelirli gruplarda neredeyse işe yaramaz hale gelebiliyor. Bununla birlikte, mevcut değerlendirme yöntemleri çoğunlukla genel başarı oranlarına odaklanıyordu. Ortalamaların ardında saklanan eşitsizlikler ise kolayca gözden kaçıyordu.

Peki HEAL tam olarak nasıl çalışıyor? Sistem, model performansını geleneksel metriklerle (doğruluk, kesinlik gibi) ölçmenin yanı sıra, bu performansı hastaların demografik özelliklerine göre parçalara ayırıyor. Tıpkı bir sınıftaki öğrencilerin sadece genel not ortalamasına değil, her bir öğrencinin bireysel başarısına da bakmak gibi. Böylece, "Bu model yaşlı hastalarda gençlere göre ne kadar başarılı?" sorusuna net yanıtlar almak mümkün hale geliyor.

Gerçek Dünyadan Bir Senaryo

Diyabetik retinopati taraması için kullanılan bir yapay zeka aracı düşünün. Güney Asya kökenli bireylerde, Avrupa kökenlilere kıyasla farklı belirtiler gösterebilen bu hastalık, standart modellerde atlanabiliyor. HEAL çerçevesi, tam da bu noktada, modelin farklı etnik gruplardaki 'yanlış negatif' oranlarını karşılaştırarak, nüanslı bir değerlendirme sunuyor. Dikkat çekici olan şu ki, bu araç sadece problemi göstermekle kalmıyor, aynı zamanda eşitsizliğin kaynağını bulmaya da yardımcı oluyor. Acaba sorun eğitim verilerindeki temsiliyet eksikliğinden mi, yoksa algoritmanın kendisindeki bir yapısal problemden mi kaynaklanıyor?

Son dönemde, özellikle pandemiyle birlikte, sağlık teknolojilerindeki otomasyon hız kazandı. Ancak Boston'dan bir araştırma, acil servis triaj (önceliklendirme) algoritmalarının, aynı şikayetle gelen siyahi hastaları beyaz hastalara kıyasla daha düşük öncelik seviyesine yerleştirme eğiliminde olduğunu ortaya koydu. Bu tür vakalar, konunun sadece teknik bir mesele olmadığını, aynı zamanda etik ve sosyal boyutları olduğunu gözler önüne seriyor.

HEAL çerçevesinin pratikte benimsenmesi ne kadar sürecek? Uzmanlar, bunun bir kültür değişimini gerektirdiğini söylüyor. Geliştiriciler artık sadece 'modelimiz yüzde 95 doğrulukla çalışıyor' demekle yetinemeyecek. Bunun yerine, 'modelimiz yüzde 95 doğrulukla çalışıyor, ancak bu oran 65 yaş üstü hastalarda yüzde 87'ye, kırsal bölgelerde yaşayanlarda ise yüzde 82'ye düşüyor' şeklinde daha şeffaf ve adil bir dil benimsemek zorunda kalacaklar. Bu da, doğal olarak, daha iyi ve daha kapsayıcı veri toplama süreçlerini, daha dikkatli model eğitimini beraberinde getirecek.

Belki de asıl soru şu: Teknoloji var olan önyargıları güçlendiren bir araç mı olacak, yoksa onları ortadan kaldırmaya yardım eden bir kaldıraç mı? HEAL gibi inisiyatifler, ikinci yolu seçme çabasının bir parçası. Çünkü sağlıkta adalet, herkes için aynı tedavi değil, herkesin ihtiyacı olan tedaviye erişebilmesi demek. Yapay zekanın bu denklemin neresinde duracağını, şimdilik biz insanlar belirliyoruz.