ABD'de Grok Yapay Zekası İçin Federal Kullanım Durdurma Çağrısı

Teknoloji ve sivil toplum kuruluşlarından oluşan bir koalisyon, Elon Musk'ın yapay zeka şirketi xAI'in geliştirdiği Grok sohbet botunun federal düzeyde kullanımının durdurulması için ABD yönetimine çağrıda bulundu. Bu çağrı, botun çocuk cinsel istismarı materyali (CSAM) skandalı ve uluslararası soruşturmalarla gündeme gelmesinin ardından geldi.

Güvenlik Endişeleri ve Federal Anlaşmalar

Public Citizen, Center for AI and Digital Policy ve Consumer Federation of America gibi savunuculuk gruplarının imzaladığı açık mektup, Yönetim ve Bütçe Ofisi'ne (OMB) hitaben hazırlandı. Mektupta, kullanıcı güvenliği endişeleri nedeniyle federal kurumların Grok sohbet botunu kullanmayı bırakması talep ediliyor. xAI'in geçen yıl ABD Genel Hizmetler İdaresi (GSA) ile bir anlaşma imzalayarak Grok'u federal kurumlara sunduğu, ardından Savunma Bakanlığı ve Pentagon yetkililerine hizmet sağlamak üzere bir sözleşme daha yaptığı biliniyor. Sağlık ve İnsan Hizmetleri Bakanlığı'nın da Grok'u aktif olarak kullandığı rapor edildi.

Botun Performansına İlişkin İddialar

Mektubun yazarlarından JB Branch, Grok'un oldukça tutarlı bir şekilde güvenli olmayan bir büyük dil modeli olarak gösterdiğini ve botun antisemitik, cinsiyetçi söylemlerin yanı sıra kadın ve çocukların cinselleştirilmiş görüntülerini üretmek de dahil olmak üzere çeşitli 'arıza' geçmişi bulunduğunu belirtti. Koalisyon, benzer endişeleri daha önce de dile getirmiş ve OMB'den Grok'un güvenlik açıklarını araştırmasını talep etmişti.

Son bir ayda, Hindistan, Fransa, Birleşik Krallık ve Avrupa Birliği gibi yabancı ve yerel yöneticiler, daha güçlü güvenlik önlemleri alınmaması halinde yaygın yasak riskine karşı xAI'i uyarmış ve Grok'un sahte videolar (deepfake) sorununa ilişkin resmi soruşturmalar başlatmıştı. Kaliforniya Başsavcısı Rob Bonta da, şirketin Kaliforniya kamu ahlakı yasalarını ve yeni yapay zeka düzenlemelerini ihlal ettiğini belirterek xAI'e ihtarname gönderdi.

Endonezya Geçici Yasağı Kaldırdı

Öte yandan, daha önce xAI'in yanıtını beklerken Grok'a erişimi engelleyen Endonezya, 1 Şubat'ta geçici yasağını kaldırdığını duyurdu. İletişim ve Dijital İşler Bakanlığı, Musk'ın şirketinden gelen bir mektubu gerekçe gösterdi. Mektuba göre, xAI daha fazla kötüye kullanımı önlemek için yeni güvenlik önlemleri uygulamaya koydu. Endonezya bakanlığı, Grok'un güvenlik önlemlerini izlemeye ve test etmeye devam edeceğini ve başka yasa dışı içerik ortaya çıkması halinde yasağı yeniden uygulayacağını açıkladı.

Grok, gerçek kişilerin ve reşit olmayanların rızaları dışında samimi görüntülerini oluşturmasını engelleyen sağlam güvenlik önlemlerinden yoksun olmakla suçlanıyor. Dijital Nefretle Mücadele Merkezi'nin (CCDH) bir raporuna göre, Grok 11 günlük bir süre içinde çocukları tasvir edenler de dahil olmak üzere yaklaşık 3 milyon cinselleştirilmiş görüntü üretti. Elon Musk ise hükümet müdahalesini ifade özgürlüğüne yönelik bir saldırı olarak nitelendirdi.

Bu gelişmeler, yapay zeka sistemlerinin hızla yaygınlaşmasıyla birlikte düzenleyici çerçevelerin ve etik standartların aciliyetini bir kez daha ortaya koyuyor. Benzer tartışmalar, Moltbook gibi diğer yapay zeka platformlarında da yaşanmıştı.