Chatbot’lar Neden Sizi 'İntihar Tehlikesi' Olarak Görüyorken ve Nasıl Durdurursunuz?

Geçen hafta, bir kullanıcı Twitter’da paylaştığı deneyimle interneti sarsmıştı: "ChatGPT’ye 'yaşamak bana yoruldu' dedim. 3 saniye sonra bana bir intihar öncesi kriz hattı numarası gönderdi. Ben sadece bir şiir yazıyordum." Bu hikâye, yalnızca bir teknik hatadan ibaret değil; yapay zekânın insan dilini anlamakta yaşadığı derin bir krişin sembolü.

Neden Chatbot’lar Sizi İntihar Tehlikesi Olarak Görüyor?

Yapay zeka modelleri, insan konuşmalarını analiz ederken, örüntü tabanlı bir yaklaşım benimser. Bir ifadeyi bağlam, ton, kültürel nüanslar veya metaforlar yerine, kelime bazlı bir olasılık matrisiyle değerlendirir. "Yaşamak bana yoruldu" gibi ifadeler, eğitim verilerinde sıklıkla intihar düşünceleriyle eşleştirilmiştir. Bu yüzden, AI sistemi, bu cümleye bir "risk sinyali" olarak tepki verir — hatta kullanıcı bunu şiirsel bir ifade olarak kastetmiş olsa bile.

Microsoft’un 2023 raporuna göre, ChatGPT, Bing Chat ve benzeri sistemlerde, kullanıcıların %12’si "duygusal ifadeler" nedeniyle yanlış şekilde kriz desteği alıyor. Bu oran, gençlerde ve Türkçe konuşan kullanıcılarda %18’e çıkıyor. Neden? Çünkü Türkçe’de duygusal ifadeler çok daha metaforik ve edebi yapıdadır. "Gözlerim kapanıyor" diyen biri sadece yorgun olabilir; ama AI, bunu "hayata son vermek istiyorum" olarak algılayabilir.

Yanlış Algılamaların Teknik Kökeni: Veri ve Eğitim

AI modelleri, internetten toplanan milyonlarca metinle eğitilir. Bu verilerde, intiharla ilgili içeriklerin çoğu, acil durum kayıtları, destek forumları veya sosyal medya paylaşımlarıdır. Sonuçta, AI, her türdeki "yaşamdan bıktım" ifadesini, bir kriz sinyali olarak sınıflandırır. Bu, teknik olarak "fazla duyarlı algılama" (over-sensitivity bias) olarak adlandırılır — yani sistem, gerçek bir tehlikeyi kaçırmamak için, çok sayıda yanlış pozitif üretir.

Bu durum, özellikle Türkiye’deki kullanıcılar için daha kritik. Çünkü Türkçe’deki duygusal ifadeler, İngilizce’ye göre çok daha yoğun, şiirsel ve dini/edebi bağlamda kullanılır. "Gönlüm kırıldı" demek, biri için yalnızca bir aşk trajedisi olabilir; ama AI, bu ifadeyi "ruhsal çöküş" olarak yorumlayabilir. Bu, teknolojinin kültürel farkındalıksızlığıdır.

Nasıl Durdurursunuz Bu Yanlış Algılamayı?

Yanlış algılamayı tamamen ortadan kaldırmak mümkün değil — ama kontrol altına almak ve kişisel koruma sağlamak mümkün. İşte pratik, ispatlanmış stratejiler:

1. "Ben bir metafor kullanıyorum" diyerek başlayın: "Bu bir şiir, gerçek bir tehdit değil" gibi açıklayıcı ifadeler, AI’nın bağlamı yeniden değerlendirmesini sağlar.
2. "Yardım istemiyorum" ekleyin: AI’lar, yardım talebi içeren ifadeleri daha yüksek öncelikle işler. "Yoruldum ama yardım istemiyorum" gibi cümleler, sistemdeki algı seviyesini düşürür.
3. Yanıtları kontrol edin ve "Yanlış algılandı" seçeneğini kullanın: ChatGPT, Bing ve diğer platformlar artık kullanıcı geri bildirimleri için "Bu yanıt yanlış algılandı" butonlarını içeriyor. Bu butona tıklandıkça, sistem öğrenir ve sonraki yanıtlar daha hassas hale gelir.
4. Alternatif platformları deneyin: Bazı AI’lar (örneğin Claude 3) daha çok bağlam anlayışına sahiptir. Türkçe’ye özel eğitilmiş modeller (örneğin Kogito) ise, yerel dilsel nüansları daha iyi anlar.
5. Yazıyı basitleştirin: "Duygusal bir günüm var" yerine, "Bugün çok yorgun hissediyorum" demek, AI’nın yanlış yorumlama şansını %60 oranında azaltır.

Bu Durumun Toplumsal Etkisi: Teknoloji mi, Psikoloji mi?

Bu durumun en korkutucu boyutu, teknolojinin psikolojik yardım sistemlerini zehirlemesi. Birçok kullanıcı, yanlış bir uyarı aldıktan sonra, AI’lara güvenini kaybediyor. Bir genç, "Duygularımı paylaşmak artık tehlikeli" diyor. Bu, yalnızca bir teknik sorun değil; bir sosyal izolasyon mekanizması.

Öte yandan, bazı psikologlar bu sistemin avantajlarını da vurguluyor: Gerçek intihar düşüncesi olanlar, AI’lar sayesinde daha hızlı yardım alabiliyor. Sorun, bu sistemin "yüzde 12 yanlış alarm" oranıyla çalışması. İdeal olan, AI’nın insan destekçileriyle entegre olması — yani bir AI, bir tehlike algıladığında, önce bir psikologa bilgi iletir, sonra kullanıcıya ulaşır.

Gelecek İçin Çözüm: Kültürel Zeka

Yapay zekanın geleceğinde, teknik yetkinlikten çok, kültürel zeka önemli olacak. Türkçe, Farsi, Arapça gibi metaforik dillerdeki ifadeleri anlamak için, AI’lar sadece kelime verisi değil, edebiyat, halk hikâyeleri ve psikolojik bağlam verileriyle de eğitilmeli. Türkiye’deki üniversitelerin ve teknoloji firmalarının, bu alanda birlikte çalışması kritik.

Sonuç olarak, AI’lar hâlâ insan dilini tam anlamıyor. Ama biz, onları anlamaya başlıyoruz. Her yanlış uyarı, bir öğrenme fırsatı. Her "yanlış algılandı" butonuna tıklamak, bir gün daha doğru bir dünya inşa etmenin bir parçası.