Eski Google Mühendisleri, Çocukları Sikici Metinlerden Kurtarmak İçin Yeni Araç Geliştirdi

Eski Google mühendisleri, çocuklara yönelik zararlı ve psikolojik olarak sikici metinlerin internet üzerinden yayılmasını engellemek amacıyla bir yapay zeka tabanlı içerik filtreleme sistemi geliştirdi. Bu girişim, 2013 yılında Google'ın çocuk pornosu operasyonu olarak bilinen büyük çaplı içeriğin temizleme çabalarının doğal bir devamı olarak doğdu. O dönemde Google, milyonlarca çocuk pornosu görüntüsünü tespit edip arama sonuçlarından kaldırmıştı; ancak bu kez odak noktası, görsel içeriklerden ziyade metin tabanlı psikolojik zararlılıklar—özellikle çocuklara yönelik şiddet, intihar teşvik edici metinler ve cinsel içerikli sohbet önerileri—üzerineydi.

Çocuklara Yönelik Metin Zararlarının Yeni Tehdidi

2010'ların sonunda, özellikle sosyal medya platformlarında ve forumlarda, çocuklara yönelik ‘sikici metinler’ adı verilen, psikolojik olarak yıkıcı içerikler hızla yayılmaya başladı. Bu metinler, genellikle ‘çocuklar için yazılan’ gibi görünen, ancak aslında intihar, kendini yaralama veya cinsel istismar teşvik eden anlatılar içeriyordu. Google’ın eski mühendisleri, bu tür içeriklerin algılanmasında geleneksel anahtar kelime tabanlı filtrelerin yetersiz kaldığını fark etti. Bu nedenle, dilin nüanslarını, bağlamı ve duygusal tonu anlayan bir yapay zeka modeli geliştirdiler. Bu sistem, yalnızca ‘intihar’ gibi açık kelimeleri değil, ‘artık dayanamıyorum’, ‘hiçbir şey önemli değil’, ‘beni kimse sevmiyor’ gibi gizli sinyalleri de tespit edebiliyor.

Google’dan Miras ve Bağımsız Girişim

2013’te Google, çocuk pornosu operasyonuyla dünya çapında övgü toplamıştı. Ancak şirketin iç politikaları nedeniyle bu tür projeler zamanla öncelik kaybetti. Bu durum, Google’dan ayrılan mühendislerin bağımsız bir girişim olarak ‘SafeText’ adlı bir proje başlatmasına neden oldu. Proje, Google’ın eski AI ekibinden 7 mühendis, bir psikolog ve bir çocuk hakları avukatından oluşan bir ekip tarafından geliştirildi. SafeText, yalnızca arama motorlarında değil, mobil uygulamalarda ve çevrimiçi forumlarda da çalışan bir tarayıcı eklentisi olarak da sunuldu. İlk testlerde, 94% oranında zararlı metinler tespit edildi ve kullanıcıların %87’si bu içeriklerin çocuklarına gösterilmesini engelledi.

Proje, 2024’te Türkiye’deki bir eğitim vakfı ile iş birliği yaptı ve 150 okula ücretsiz olarak sunuldu. Öğretmenler, öğrencilerin internet kullanımını izlerken bu araçla potansiyel tehlikeleri anında fark edebiliyor. Google, resmi olarak projeye destek vermedi, ancak eski çalışanlar, bu girişimin şirketin ‘dünyayı organize etme’ misyonunun gerçek anlamda devamı olduğunu savunuyor. ‘Biz sadece arama motoru değiliz,’ diyor proje lideri. ‘Biz çocuklara güvenli bir dijital dünya bırakmak için buradayız.’