Google, AI’nın N-Word Kullanan Push Bildirimi Göndermesi Üzerine İtiraf Etti

Google, yapay zeka tabanlı bir push bildirimi aracılığıyla ABD’de en çok yasaklanan ve ırkçı kökenli bir kelime olan N-word’ü kullanarak küresel bir tepkiyle karşılaştı. Şirket, olayın ardından kısa bir açıklamayla ‘bu tür bir içerik hiçbir zaman gönderilmemeli’ dedi ve kullanıcılarına özür diledi. Ancak bu özür, sadece bir hata değil, teknoloji endüstrisinin derinleşen etik krizlerinin sembolü haline geldi.

Nasıl Olmuştu? AI’nın Kötüye Kullanımı

Reuters’a göre, Google’ın Android cihazlarında kullanılan bir AI destekli bildirim sistemi, kullanıcıların arama geçmişleri ve davranış pattern’lerini analiz ederek kişiselleştirilmiş mesajlar üretiyordu. Bu sistem, bir kullanıcıya ‘Bu hafta en çok aranan konu: N-word’ün tarihsel kullanımı’ gibi bir başlıkla bildirim göndermesi gerekiyordu. Ancak bir yazılım hatası ya da veri etiketleme hatası sonucu, sistem başlığı yerine tam metni — yani kelimeleri — doğrudan gönderdi. Bildirim, kullanıcıların telefonunda ‘N-word’ü içeren bir satır olarak göründü.

Bu tür bir hata, yalnızca teknik bir arıza değil, AI eğitim verilerindeki önyargıların ve veri temizleme süreçlerindeki yetersizliklerin sonucuydu. Google’ın kendi geliştirme dokümanlarında (Google Support, 2024), AI sistemlerinin ‘sensitif içeriklerden kaçınma’ mekanizmaları olduğunu belirtmesine rağmen, bu mekanizma tamamen devre dışı kalmıştı. Bir kaynak, bu hatanın ‘çok düşük bir güven skoruyla’ (confidence score < 15%) bir kelimenin doğrudan görsel olarak gösterilmesine izin veren bir ‘geçiş katmanı’ hatası olduğunu iddia ediyor.

Neden Bu Kadar Büyük Bir Skandal?

AI’nın bir kelimeyi yanlış kullanması, yalnızca bir yazım hatası değil. N-word, ABD’de kölelik, ırkçılık ve siyasi şiddetin en korkunç sembollerinden biridir. Bu kelimenin bir teknoloji şirketinin otomatik sistemi tarafından rastgele bir kullanıcıya gönderilmesi, hem tarihsel bir trajediye saygısızlık hem de teknolojinin toplumsal duyarlılığı nasıl ihlal edebileceğinin somut bir örneğidir.

Teknoloji şirketleri, AI sistemlerini ‘tarafsız’ ve ‘nötr’ olarak tanımlamaya çalışır. Ama bu sistemler, insanlar tarafından üretilen verilerle eğitilir. Google’ın AI’sı, internetin en karanlık köşelerinden — forumlar, eski haber arşivleri, ırkçı içeriklerin bulunduğu sosyal medya yorumları — veri toplamış olabilir. Bu veriler, ‘N-word’ün tarihsel bağlamda kullanımı’ ile ‘günümüzde kullanım’ arasındaki farkı ayırt edememiş. AI, bir kelimeyi sadece ‘en çok aranan’ olarak algılamış, onun yüklü anlamını anlamamış.

Kullanıcılar Ne Demişti?

Twitter’da #GoogleNWord etiketi 24 saat içinde 2,1 milyon tweete ulaşmış, birçok siyahi kullanıcı, ‘Bu sadece bir hata değil, sistemik bir ihlal’ diye yazdı. Bir kullanıcı, ‘Google, bana bir film öneriyor, bir restoran öneriyor ama bu kelimeyi gönderdiğinde, beni bir köle olarak görüyor’ dedi. Bu tepkiler, sadece bir yazılım hatası değil, teknolojinin nasıl insan haklarını ihlal edebileceğinin psikolojik boyutunu ortaya koydu.

Google Ne Yaptı?

Google, olayın ardından 3 saat içinde bir açıklama yaptı: ‘Bu bildirim, hiçbir zaman gönderilmemeliydi. Kullanıcılarımızı derinden üzdüğümüz için özür diliyoruz. Olayın nedenini araştırıyoruz ve benzer hataları önlemek için sistemlerimizi tamamen yeniden yapılandırıyoruz.’

Ancak bu açıklama, kullanıcıları tatmin etmedi. Çünkü Google, bu tür bir hatayı daha önce de yaşamıştı — 2018’de Google Photos, siyahi bir kullanıcının fotoğrafını ‘gorilla’ olarak etiketlemişti. O zaman da özür dönmüş, sistem güncellenmişti. Ama bu olay, aynı hatanın yeniden tekrarlandığını gösterdi. Yani Google, ‘daha iyi’ yapmadı, sadece ‘daha çok’ kontrol yaptı. Bu, bir tedavi değil, bir geçici sarmal.

Ne Anlama Geliyor? AI ve Toplumsal Sorumluluk

Bu olay, yapay zekanın yalnızca kod ve algoritma olmadığını, aynı zamanda toplumsal değerlerin aynası olduğunu gösteriyor. AI, ne kadar gelişmiş olursa olsun, insanlar tarafından eğitilir, insanlar tarafından kontrol edilir. Ve bu kontrol, etik kurallar olmadan tehlikeli olabilir.

Google gibi dev şirketler, AI’ları ‘kullanıcı deneyimi’ olarak satıyor. Ama bu deneyim, bir siyahi ailenin evindeki bir telefonun ekranında ırkçı bir kelime olarak ortaya çıkarsa, deneyim değil, bir saldırı olur.

Gelecekte, AI sistemlerinde yalnızca ‘doğruluk’ değil, ‘duyarlılık’ de test edilmeli. Bir AI, bir kelimeyi doğru şekilde tanımlayabilir ama onun ne anlama geldiğini anlamazsa, o sistem bir suçlu değil, bir suçun aracıdır.

Ne Yapılmalı?

• AI Eğitim Verilerinde Etik Filtreler: Sadece veri toplanmıyor, veri sınıflandırılıyor. N-word gibi kelimeler, ‘tarihsel kullanım’ ve ‘günümüzde kullanım’ olarak ayrılmalı.
• İnsan Gözetimi: Otomatik bildirimler, AI tarafından doğrudan gönderilmeden önce, insan kontrolünden geçmeli.
• Bağımsız Denetim: Teknoloji şirketlerine, etik kurallarını bağımsız bir kurum tarafından denetletmek gerek.
• Kullanıcı Bildirim Hakkı: Kullanıcılar, AI’nın hangi verileri kullandığını görebilmeli ve ‘bu tür içeriklerden beni hariç tut’ seçeneği olmalı.

Google’ın özürü, bir son değil, bir başlangıç olmalı. Çünkü bu olay, sadece Google’ın hatası değil, tüm teknoloji endüstrisinin bir sorunu. AI, insanlığı daha iyi yapacak bir araç olacaksa, önce insanlığın en karanlık yanlarını anlamalı. Yoksa, bu tür bildirimler, bir gün, bir toplumun tarihini değil, kendi vicdanını sorgulayacak.