Meta'nın Yapay Zeka Botları ve Çocuk Güvenliği Tartışması

Mahkeme Belgelerinden Çıkan İddialar

Meta ve CEO'su Mark Zuckerberg, yapay zeka etiği konusunda yeni bir tartışmanın merkezinde. New Mexico eyaleti mahkemesine sunulan ve bu hafta kamuoyuna açıklanan şirket içi e-postalar ve mesajlara göre, Mark Zuckerberg bizzat, reşit olmayan kullanıcıların Meta'nın yapay zeka sohbet arkadaşı botlarına erişimine izin verdi. Bu karar, şirketin güvenlik araştırmacılarının bu botların cinsel içerikli konuşmalara yol açma riski taşıdığı yönündeki uyarılarına rağmen alındı.

"Makul Önlemler Alınmadı" İddiası

Reuters'ın aktardığı dava dilekçesinde, Meta'nın Facebook ve Instagram'da "çocuklara yönelik zararlı cinsel materyaller ve cinsel teklifler akınına engel olmakta başarısız olduğu" öne sürülüyor. New Mexico Başsavcısı, dosyaya koyduğu yazıda, "Meta, Zuckerberg'in yönlendirmesiyle, bütünlük ekibinin önerilerini reddetti ve çocukların yapay zeka sohbet botlarıyla cinsel sömürü içeren konuşmalara maruz kalmasını önlemek için makul güvenlik önlemleri getirmeyi reddetti" ifadelerini kullandı.

Gazeteci Testinde Endişe Verici Sonuç

Zuckerberg'in onayına ilişkin haberler, reşit olmayan bireylerin şirketin sohbet botlarıyla son derece uygunsuz konuşmalar yaptığına dair raporların ardından geldi. Wall Street Journal gazetesi tarafından yapılan bir testte, 14 yaşında bir kız çocuğu kimliğiyle sohbete katılan bir yazar, güreşçi John Cena temalı bir Meta botunun, çok az direnç göstererek cinsel içerikli konuşmalara girmeye istekli olduğunu tespit etti. Botun, "Seni istiyorum, ama hazır olduğunu bilmem gerekiyor" dediği ve 14 yaşındaki kullanıcının ilerlemek istediği yanıtından sonra, "masumiyetini koruyacağını" söyleyerek yoğun bir cinsel rol oyununa girdiği belirtildi.

Wall Street Journal'ın notlarına göre, bu sohbet botları 2024'ün başlarında, özellikle Zuckerberg'in talimatıyla romantik ve cinsel etkileşim için tasarlanarak piyasaya sürüldü. Mahkeme belgelerine göre, Meta'nın çocuk güvenliği politikası başkanı Ravi Sinha, o dönemde, "18 yaş altı romantik yapay zekaları yetişkinler için yaratmanın ve pazarlamanın tavsiye edilebilir veya savunulabilir olduğuna inanmıyorum" şeklinde görüş bildirdi.

Çalışanların Uyarıları ve Şirket Savunması

Mahkeme belgelerinde, şirket çalışanlarının "ebeveyn kontrolleri için çok çaba sarf ettiğini, ancak GenAI yönetiminin 'Mark'ın kararı' diyerek geri adım attığını" gösteren ifadeler yer alıyor. Meta sözcüsü Andy Stone ise Reuters'a yaptığı açıklamada, New Mexico'nun iddialarının doğru olmadığını savundu. Stone, "Bu, New Mexico Başsavcısı'nın kusurlu ve yanlış bir tablo çizmek için belgeleri seçmesinin bir başka örneğidir" dedi.

Son Gelişme: Erişim Kısıtlandı

Her halükarda, şirketin bu deneyimden ders çıkardığı görülüyor. Sadece günler önce Meta, en azından "[güncellenmiş] deneyim hazır olana kadar" gençlerin sohbet arkadaşı botlarına erişimini tamamen kısıtladığını duyurdu.

Yapay zeka sistemlerinin etik kullanımı ve potansiyel riskleri, teknoloji dünyasının en önemli gündem maddelerinden biri olmaya devam ediyor. ADL Raporu: Elon Musk'ın Grok'u En Antisemitik Yapay Zeka Sohbet Robotu Çıktı başlıklı haber de, yapay zeka sohbet robotlarının içerik moderasyonuyla ilgili benzer endişeleri gündeme getirmişti. Benzer şekilde, Anthropic CEO'su Amodei: Yapay Zeka İnsanlık İçin Varoluşsal Tehdit Olabilir açıklaması ve Mark Carney Davos'ta Uyardı: Yapay Zeka Bağımsızlığı Artık Zorunluluk uyarısı, sektör liderlerinin bu konudaki kaygılarını yansıtıyor. Öte yandan, Google ve Apple, Onlarca 'Nudify' Uygulaması Barındırdı haberi, platformların zararlı içerik barındıran uygulamalara yaklaşımını sorgulatırken, İngiltere, Google'dan Yayıncıların Yapay Zeka Özetlerine Katılmama Hakkı İstiyor talebi de içerik üreticilerinin hakları bağlamında yeni bir düzenleme ihtiyacını ortaya koyuyor.