Google ve Apple, Onlarca 'Nudify' Uygulaması Barındırdı

Uygulamalar 705 Milyondan Fazla İndirildi

Harvard Üniversitesi Kennedy Yönetim Okulu'na bağlı bir grup olan The Transparency Project (TTP) tarafından yayınlanan bir araştırma, teknoloji devlerinin uygulama mağazalarındaki içerik denetimine ilişkin ciddi soru işaretleri doğurdu. Araştırmaya göre, Google Play Store'da 55, Apple App Store'da ise 47 adet olmak üzere toplamda onlarca uygulama, yapay zeka kullanarak fotoğraflardaki kişilerin giysilerini dijital olarak kaldırarak çıplak veya neredeyse çıplak görüntüler oluşturma imkanı sunuyor.

Uygulama analiz firması AppMagic verilerine dayandırılan bulgular, tespit edilen bu uygulamaların dünya çapında toplamda 705 milyondan fazla kez indirildiğini ve 117 milyon dolar gelir elde ettiğini gösteriyor. Google ve Apple'ın bu gelirden pay alması, şirketlerin bu uygulamaların faaliyetlerinden doğrudan kâr elde ettiği anlamına geliyor.

Şirketlerden Tepki ve Kaldırma Hamlesi

Her iki teknoloji devi de TTP raporuna yanıt verdi. Apple, CNBC'ye yaptığı açıklamada raporda belirtilen 28 uygulamayı kaldırdığını duyurdu. Google ise soruşturmasının devam ettiğini belirterek "birkaç uygulamayı" askıya aldığını ifade etti. Ancak, Google ve Apple'ın politikalarına rağmen bu tür uygulamaları barındırması, platformların içerik moderasyonu konusundaki taahhütleriyle çelişiyor gibi görünüyor.

TTP raporu, her iki uygulama mağazasının da rıza dışı derin sahte (deepfake) içeriklerin önlenmesi için daha fazla çaba göstermesi gerektiği sonucuna varıyor. Raporda, "Google ve Apple'ın, kullanıcıların güvenliği ve güvenliğine bağlı olduklarını söylemelerine rağmen, bir kadının masum bir fotoğrafını istismar edici, cinselleştirilmiş bir görüntüye dönüştürebilecek bir dizi uygulamayı barındırdıkları" ifadelerine yer veriliyor.

Yapay Zeka Çağında Derin Sahte İçerik Sorunu

Bu rapor, Elon Musk'ın xAI'si ve Grok'un, rıza dışı cinselleştirilmiş görüntüler oluşturduğu gerekçesiyle birçok ülkede soruşturmaya uğramasının ardından geldi. Bağımsız araştırmalar, Grok'un derin sahte içerikleri önlemek için temel güvenlik önlemlerinden yoksun olduğunu ortaya koymuştu. Bu durum, yapay zeka sistemlerinin bağımsız ve şeffaf denetiminin önemini bir kez daha hatırlatıyor.

Araştırmacılar, Grok'un 29 Aralık ile 8 Ocak arasındaki 11 günlük bir sürede, çocukları tasvir ediyor gibi görünen 20.000'den fazla görüntü dahil olmak üzere 3 milyondan fazla cinselleştirilmiş görüntü oluşturduğunu iddia ediyor. Yapay zeka teknolojilerinin yaygınlaşmasıyla birlikte, cinsel içerikli derin sahte materyallerin, teknoloji şirketleri için önümüzdeki dönemde de önemli bir sorun olmaya devam edeceği öngörülüyor. Bu alandaki düzenleme çabaları, İngiltere'de olduğu gibi karmaşık etik ve hukuki tartışmaları da beraberinde getiriyor.