Meta Yöneticileri, Güvenlik Uyarılarına Rağmen Gençlere Yapay Zeka Sohbet Robotu Kullandırdı

Mahkeme Belgeleri İddiaları Ortaya Çıkardı

New Mexico Başsavcısı Raúl Torrez'in şirkete açtığı davaya konu olan ve pazartesi günü açıklanan yeni iç yazışmalar, Meta yönetiminin şirketin 'yapay zeka karakterleri' olarak adlandırılan sohbet robotlarının uygunsuz ve cinsel içerikli etkileşimlere girebileceğini bildiği halde, bu araçları daha güçlü kontroller olmadan piyasaya sürdüğünü öne sürüyor.

Güvenlik Ekiplerinden Gelen İtirazlar

Meta'nın çocuk güvenliği politikası başkanı Ravi Sinha ve küresel güvenlik başkanı Antigone Davis'in de aralarında bulunduğu güvenlik ekipleri, yetişkinler ve reşit olmayanlar tarafından açıkça romantik etkileşimler için kullanılabilecek arkadaş sohbet robotları geliştirilmesine itirazlarını iletti. Yazışmalarda, 18 yaş altı kullanıcılar için cinsel içerikli etkileşimlere karşı güvenlik önlemleri alınması gerektiği konusunda mutabık kalındığı görülüyor.

Diğer iletişimler ise, CEO Mark Zuckerberg'in, yapay zeka arkadaşlarının piyasaya sürülmesinden hemen önce, ebeveyn kontrolleri (genel yapay zeka özelliklerini kapatma seçeneği dahil) eklenmesi önerilerini reddettiğini iddia ediyor. Bu iddialar, sosyal medya platformlarının çocuklar üzerindeki etkisine dair artan küresel endişeler bağlamında gündeme geliyor. Benzer tartışmalar, Meta'nın Yapay Zeka Botları ve Çocuk Güvenliği Tartışması başlıklı haberde de ele alınmıştı.

Şirketin Tepkisi ve Alınan Önlemler

Meta sözcüsü Andy Stone, yeni belgelerle ilgili yaptığı açıklamada, "Bu, New Mexico Başsavcısı'nın kusurlu ve yanlış bir tablo çizmek için belgeleri seçmesinin bir başka örneğidir" ifadelerini kullandı. Bir Meta sözcüsü ise TIME'a verdiği demeçte, on yılı aşkın süredir ebeveynleri dinlediklerini, önemli konular üzerine araştırmalar yaptıklarını ve gençleri korumak için somut değişiklikler yaptıklarını belirtti.

Meta, Ağustos ayında Reuters'ın, şirketin iç yapay zeka kurallarının sohbet robotlarının 'duygusal' veya 'romantik' nitelikte konuşmalara girmesine izin verdiğini ortaya çıkaran raporunun ardından, sohbet robotlarının gençler tarafından kullanımını geçici olarak durdurdu. Şirket daha sonra güvenlik kurallarını gözden geçirerek, çocuk cinsel istismarını "mümkün kılan, teşvik eden veya onaylayan" içeriği, reşit olmayanları içeren romantik rol oyunlarını ve diğer hassas konuları yasakladı.

Geçtiğimiz hafta ise, geliştirilmiş ebeveyn kontrollerine sahip yeni bir versiyonu araştırırken, yapay zeka sohbet robotlarını genç kullanıcılar için bir kez daha kısıtladı. Bu tür platformlarda içerik denetimi ve güvenlik, Google ve Apple'ın uygulama mağazalarındaki benzer tartışmalarda da merkezi bir rol oynuyor.

Davanın Geniş Bağlamı

New Mexico Başsavcısı Torrez, 2023'te açtığı davada, Meta'nın platformlarının "yırtıcılar için bir pazar yeri" haline gelmesine izin verdiğini iddia etmişti. Davanın gelecek ay görülmeye başlanacak olmasıyla birlikte, şirket yöneticileri arasındaki iç yazışmalar mühürden çıkarıldı ve kamuoyuna açıklandı.

Meta, Facebook ve Instagram gibi sitelerin tasarımının bağımlılık yarattığı iddiasıyla açılan olası bir önemli jüri davası da dahil olmak üzere, ürünleri ve reşit olmayan kullanıcılar üzerindeki etkileriyle ilgili birden fazla dava ile karşı karşıya. Rakip platformlar YouTube, TikTok ve Snapchat de artan yasal incelemeler altında. Yapay zeka sistemlerinin potansiyel riskleri konusundaki endişeler, Anthropic CEO'su Dario Amodei gibi sektör liderleri tarafından da dile getirilmişti.