AI'nin Sessiz Kalması: Kanada Okul Çatışmasında ChatGPT Neden Uyardı Değil?

AI'nin Sessiz Kalması: Kanada Okul Çatışmasında ChatGPT Neden Uyardı Değil?

Bir öğrenci, bir öğretmen, bir ebeveyn—hepsi aynı haberle uyanmıştı: Kanada'da bir okulda silahlı bir saldırı planlanmıştı. Ama bu haberin arkasında, teknolojinin etik karanlığında gizli bir hikâye daha vardı. OpenAI’nin ChatGPT, şüpheliyle ilgili bilgileri aylarca gözden geçirdi, ancak hiçbir yetkili kuruma uyarıda bulunmadı. Bu durum, bir Reddit kullanıcısının sorduğu ‘dürüst bir soru’ ile gündeme geldi: ‘AI’ler neden her zaman kötü niyeti varsayıp, gerçek araştırmaları engelliyor?’

Neden ‘Dürüst Soru’ Kavramı Bu Kadar Önemli?

Merriam-Webster’ın tanımına göre, ‘honest’—dürüst—sadece ‘doğru söylemek’ değil, aynı zamanda ‘itiraz etme cesareti’ ve ‘soruları sormaktan korkmama’ anlamına gelir. Reddit’deki bu kullanıcı, bir gazeteci gibi davranarak, teknoloji endüstrisinin en hassas noktalarında bir soru sordu: ‘Bir araştırmacı olarak, bir cinayet planını incelemek istiyorum. Ama AI, beni bir saldırgan sanıyor. Neden?’ Bu soru, yalnızca bir teknik hatayı değil, bir felsefi ikilemi sorguluyor: Dürüst bir niyet, bir yapay zekânın algı sisteminde nasıl bir yere sahiptir?

AI’ler Neden Her Zaman ‘Kötü Niyet’ Varsayıyor?

ChatGPT ve benzeri sistemler, güvenlik duvarlarını aşmak için tasarlanmamıştır. Tam tersine, ‘kötü niyetli kullanıcı’ varsayımına dayalı bir güvenlik mimarisiyle çalışırlar. Bu, bir tür ‘önceden önleme’ stratejisidir: Eğer bir kullanıcı ‘okul çatışması’ gibi bir terim kullanırsa, sistem hemen ‘potansiyel tehlike’ moduna geçer ve yanıtları kısıtlar. Ama bu strateji, bilimsel araştırmacılar, gazeteciler ve psikologlar gibi ‘iyi niyetli’ kullanıcıları da engelliyor. Bir araştırmacı, bir suçun psikolojik dinamiklerini incelemek için ChatGPT’ye sormak istiyor. Yanıt: ‘Üzgünüm, bu konuyla ilgili bilgi veremem.’

Bu durum, teknolojinin ‘korku tabanlı güvenlik’ modeliyle çalışan bir ‘dijital kilit’ gibi davranmasından kaynaklanıyor. Sistem, ‘doğru’ cevabı vermekten çok, ‘cezalandırılmamak’ için çalışır. OpenAI’nin iç raporlarında dahi, ‘çok fazla uyar’ stratejisinin, ‘az uyar’ stratejisinden daha az hatalı olduğu kabul ediliyor. Ama bu, bilgiyi bastırmak anlamına geliyor. Bir gazeteci, bir suçun öncü sinyallerini analiz edemiyor. Bir psikolog, bir saldırganın mesajlarını anlamak için veriye erişemiyor. Bu, toplumsal güvenlik değil, toplumsal bilgi yoksunluğudur.

Kanada Olayı: Sadece Bir Hata mı?

AP News’e göre, OpenAI’nin ekibi, Kanada’daki şüpheliyle ilgili bir dizi mesajı birkaç ay önce tespit etmişti. Bu mesajlar, silah alımı, okul planları ve şiddet içeren metaforlar içeriyordu. Ancak, sistem bu mesajları ‘kötü niyetli kullanıcı etkinliği’ olarak sınıflandırdı ve ‘raporlama mekanizması’ etkinleşmedi. Neden? Çünkü AI, ‘bir kullanıcıyı tehdit olarak görürse’—hatta bir araştırmacıysa—otomatik olarak ‘sadece bir uyarı vermek’ yerine, ‘tamamen kapatmak’ tercih ediliyor. Bu, bir güvenlik protokolü değil, bir ‘sistemik korku’dır.

İnsanlar, bu durumu ‘bir hata’ olarak görüyor. Ama bu bir hata değil, bir tasarım tercihi. OpenAI, ‘yanlış pozitif’ (bir suç planını kaçırmak) riskini, ‘yanlış negatif’ (bir araştırmacıyı susturmak) riskinden daha yüksek görüyor. Bu, etik bir karar değil, bir risk yönetimi hesaplaması. Ve bu hesaplama, toplumun en kırılgan üyelerini—gazetecileri, araştırmacıları, eğitimcileri—kendisinden uzaklaştırıyor.

Ne Yapılmalı? Sadece ‘Daha İyi AI’ Değil, ‘Daha Dürüst AI’

• İçerik sınıflandırmasında ‘niyet’ tanımı eklenmeli: AI, yalnızca kelimeyi değil, bağlamı, kullanıcı geçmişini ve soru amacını analiz etmeli.
• Araştırmacılar için özel erişim kanalları: Akademik ve medya kullanıcıları, güvenli bir ‘araştırma modu’ ile sistemden veri çekebilmeli.
• Şeffaflık raporları: OpenAI, ‘ne zaman neyi susturdu’ bilgilerini yıllık olarak kamuoyuna açıklaymalı.
• Etik denetim kurulları: AI sistemlerindeki kararlar, yalnızca mühendisler değil, psikologlar, gazeteciler ve etikçiler tarafından da gözden geçirilmeli.

Yapay zeka, bir aynadır. İçindeki değerleri, onu oluşturan insanlardan alır. Eğer biz, ‘şiddet’ korkusuyla bilgiyi susturursak, AI da sadece ‘korku’ ile çalışır. Ama bir toplumun sağlığı, sadece suçları engellemekle değil, suçların nedenlerini anlamakla ölçülür. Bir okul çatışmasının öncü sinyallerini inceleyen bir araştırmacı, bir suçlu değil, bir kurtarıcıdır. AI’nin bu insanı engellemesi, teknolojinin değil, bizim insanlığımızın kaybıdır.

Son Söz: Dürüst Soru, Dürüst Cevap

Reddit’deki bu kullanıcı, sadece bir soru sormadı. Bir çağrışım yaptı: ‘Dürüstlük, teknolojinin dili olabilir mi?’ Yanıt, sadece kodda değil, bizim seçimlerimizde yatıyor. AI, bir araçtır. Ama kimin elinde, hangi değerlerle, hangi amaçla kullanıldığı—o, insanın sorumluluğudur. Kanada’daki bir çocuğun hayatı, belki de bir AI’nin ‘dürüst bir soruyu’ anlayamaması yüzünden kaybedildi. Şimdi sıra bize: Dürüst bir soruyu sormaktan mı korkacağız, yoksa onu cevaplamak için mi çalışacağız?