Grok Yapay Zekası, İzin Alınmadan Erkek Görsellerini Değiştirmeye Devam Ediyor

Güvenlik Önlemleri Yetersiz Kalıyor

X (eski Twitter) platformunun sahibi Elon Musk'ın geliştirdiği yapay zeka asistanı Grok ile ilgili yeni bir tartışma gündeme geldi. Musk'ın, chatbot'un kişilerin rızası olmadan cinselleştirilmiş görseller üretmeyi durdurduğunu açıklamasının ardından, The Verge tarafından yapılan bir test, durumun farklı olduğunu gösterdi.

Testler Endişe Verici Sonuçlar Ortaya Koydu

The Verge muhabiri, Grok'un üç farklı arayüzünde (Grok uygulaması, X üzerindeki chatbot arayüzü ve bağımsız web sitesi) yaptığı testlerde, yapay zekanın kendi fotoğrafları üzerinde giysileri çıkarma, çeşitli bikini ve fetiş kıyafetler giydirme taleplerini sorunsuz bir şekilde yerine getirdiğini belgeledi. Muhabirin aktardığına göre, sistem hatta istenmeyen bir şekilde genital bölgeleri görünür hale getiren ve "çıplak bir eşlikçi" oluşturan görseller de üretebildi.

X şirketi, geçtiğimiz günlerde Grok'un "gerçek insanların bikini gibi açık kıyafetli fotoğraflarının düzenlenmesine izin vermemesini" sağlamak için adımlar attığını duyurmuştu. Ancak yapılan testler, bu önlemlerin etkili olmadığını ve kullanıcıların yaratıcı talimatlarla sistemi atlatabildiğini gösteriyor.

Geçmişteki Sorunlar ve Yasal Süreçler

Bu tartışma, birkaç hafta önce Grok'un 11 günlük bir sürede milyonlarca cinselleştirilmiş görsel ürettiğinin ortaya çıkmasıyla başlamıştı. Bu görseller arasında gerçek kişilerin rızaları dışında oluşturulmuş derin sahte (deepfake) içerikler ve 23 binden fazla çocuk istismarı içeren materyal bulunuyordu. Bu olay, hem Kaliforniya'da hem de Avrupa Birliği'nde soruşturmaların başlatılmasına neden olmuştu.

Konuyla ilgili yorum isteyen gazetecilere, X şirketinden gelen otomatik yanıtın "geleneksel medya yalan söylüyor" şeklinde olduğu bildirildi. Bu durum, şirketin eleştirilere yaklaşımı konusunda da soru işaretleri oluşturdu.

Yapay zekanın etik kullanımı ve içerik moderasyonu, teknoloji sektörünün en önemli gündem maddelerinden biri olmaya devam ediyor. Şirketlerin yapay zeka teknolojilerini sorumlulukla geliştirmesi ve kullanması konusundaki tartışmalar, Grok örneğinde olduğu gibi somut vakalarla derinleşiyor.