Google ve Apple, Onlarca 'Nudify' Uygulaması Barındırdı

Teknoloji Devi Platformlarda Etik İhlal

Dijital ekosistemin en güvenilir iki uygulama dağıtım kanalı olarak görülen Apple'ın App Store'u ve Google'ın Play Store'u, ciddi bir güvenlik ve etik skandalı ile karşı karşıya. Bağımsız araştırmacılar tarafından yapılan bir inceleme, her iki mağazada da onlarca "nudify" uygulamasının, şirketlerin kendi içerik politikalarını ihlal etmesine rağmen uzun süredir bulunduğunu ve indirilebildiğini gösterdi. Bu uygulamalar, genellikle "eğlence" veya "fotoğraf düzenleme" kategorisinde listelenerek kullanıcıların dikkatine sunuluyor.

Nudify Uygulamaları Nasıl Çalışıyor?

"Nudify" terimi, İngilizce "çıplak" anlamına gelen "nude" kelimesinden türetilmiş olup, bu uygulamaların işlevini doğrudan tanımlıyor. Gelişmiş yapay zeka modelleri, özellikle de Generative Adversarial Networks (GAN'lar) kullanan bu yazılımlar, kullanıcının yüklediği giyinik bir kişi fotoğrafını analiz ediyor ve fotoğraftaki kişiyi gerçekçi görünen ancak tamamen sahte bir çıplak görüntüye dönüştürüyor. İşlem, saniyeler içinde tamamlanıyor ve çoğu zaman kurbanın rızası olmadan, siber zorbalık, şantaj veya kişisel saldırı amacıyla kullanılıyor.

Bu teknoloji, Google gibi şirketlerin araştırma laboratuvarlarında geliştirilen ve etik kullanım çerçevesinde sunulan yapay zeka ilerlemelerinin, kötü niyetli aktörler tarafından nasıl saptırılabileceğinin çarpıcı bir örneği. Google'ın kendi yapay zeka ilkeleri, zarar verici veya insanlık dışı uygulamaların geliştirilmesini yasaklıyor, ancak bu ilkelerin üçüncü taraf uygulamalar için mağaza denetiminde ne ölçüde etkin bir şekilde uygulandığı büyük bir soru işareti. Bu tür uygulamaların yaygınlaşması, 2024 yapay zeka kötüye kullanım raporu’nda da vurgulanan bir trend haline geldi.

Platform Kuralları Açıkça İhlal Ediliyor

Hem Apple hem de Google, uygulama mağazaları için katı içerik politikaları yayınlıyor. Apple'ın App Store İnceleme Kuralları'nda, "açıkça saldırgan, insanlık dışı, bir grubu aşağılayan veya kişilere zarar verme riski taşıyan" içeriğe izin verilmediği belirtiliyor. Benzer şekilde, Google Play'in Dezenformatif İçerik Politikası, "bir bireye fiziksel veya duygusal zarara yol açabilecek şekilde kişisel olarak tanımlanabilir bir kişiyi hedef alan" içerikleri yasaklıyor.

Araştırma, incelenen nudify uygulamalarının neredeyse tamamının bu kuralları doğrudan ve açık bir şekilde ihlal ettiğini ortaya koyuyor. Uygulamaların işlevi, doğası gereği bir kişiye duygusal zarar verme ve özel hayatını ihlal etme potansiyeli taşıyor. Bu durum, platformların otomatik ve manuel inceleme süreçlerindeki ciddi bir denetim zaafına işaret ediyor. Bu sorun, 2023 App Store moderasyon başarısızlıkları analizinde de benzer örneklerle desteklendi.

Mağduriyetler ve Hukuki Süreçler

Bu tür uygulamaların varlığı, özellikle kadınlar ve gençler olmak üzere sayısız kişi için ciddi bir tehdit oluşturuyor. İnternete yüklenen herhangi bir sosyal medya fotoğrafı, kötü niyetli kişiler tarafından ele geçirilip bu uygulamalarda işlenebiliyor. Ortaya çıkan sahte görüntüler, sosyal medyada yayılarak veya kişisel olarak gönderilerek ağır psikolojik travmalara, sosyal itibar kaybına ve siber zorbalığa yol açabiliyor.

Konuyla ilgili olarak, dünyanın çeşitli yerlerinde mağdurlar ve dijital haklar örgütleri, platformları daha sıkı denetim yapmaya ve bu uygulamaları derhal kaldırmaya çağıran kampanyalar başlattı. Bazı hukukçular, platformların bu tür zararlı içeriği barındırmaktan dolayı "ihmalkar davranma" suçlamasıyla yargı önüne çıkarılabileceğini belirtiyor. Avrupa Birliği'nin Dijital Hizmetler Yasası (DSA) gibi düzenlemeler de, büyük platformları içerik moderasyonu konusunda daha şeffaf ve sorumlu olmaya zorluyor. Bu bağlamda, DSA uyum raporu 2024’te platformların sorumluluk yükümlülükleri netleştirildi.

Teknoloji Şirketlerinin Sorumluluğu ve Gelecek Adımlar

Bu skandal, Google ve Apple gibi küresel teknoloji liderlerinin, sundukları altyapının ve pazar yerlerinin güvenliğini sağlamadaki nihai sorumluluğunu bir kez daha gündeme getirdi. Şirketler, yapay zeka etiği konusunda kamuoyu önünde güçlü açıklamalar yaparken, kendi kontrolleri altındaki en temel kanallarda bu ilkelerin çiğnenmesine göz yummakla eleştiriliyor.

Uzmanlar, çözüm için bir dizi öneride bulunuyor:

• Proaktif Tarama: Uygulama açıklamalarında ve meta verilerde "nudify", "undress" gibi anahtar kelimelerin daha agresif bir şekilde taranması.
• Gelişmiş Yapay Zeka Moderasyonu: Uygulamanın işlevini tespit etmek için uygulama içi davranış analizi yapabilen moderasyon araçlarının kullanılması.
• Şikayet Mekanizmalarının Güçlendirilmesi: Mağdurların bu tür uygulamaları daha hızlı ve etkili bir şekilde rapor edebileceği kanalların oluşturulması.
• Geliştirici Sorumluluğu: Bu tür uygulamaları yayınlayan geliştirici hesaplarının kalıcı olarak kapatılması ve yasal işlem başlatılması.

Sonuç olarak, yapay zeka teknolojisinin karanlık yüzünü sergileyen bu olay, dijital platform güvenliği ve etik yapay zeka kullanımı konusundaki küresel tartışmayı alevlendirdi. Kullanıcıların, kişisel verilerinin ve görüntülerinin korunması konusunda teknoloji devlerinden daha fazla sorumluluk ve şeffaflık talep etmesi bekleniyor. Araştırmanın ortaya çıkmasının ardından, her iki şirketin de söz konusu uygulamaları incelemeye aldığı ve bir kısmını kaldırdığı bildiriliyor.