Yapay Zeka Manipülasyonu: Minneapolis Olayları Gerçeği Bulanıklaştırıyor

Manipüle Edilmiş Görseller Milyonlarca Kez Görüntülendi

Minneapolis'te federal görevliler tarafından vurularak hayatını kaybeden Alex Pretti'nin son anlarına dair, yapay zeka ile değiştirilmiş fotoğraf ve videolar, olaydan bu yana sosyal medya platformlarında hızla yayıldı. Facebook, TikTok, Instagram ve X gibi platformlarda dolaşıma giren bu içerikler, olayın kritik detaylarını sosyal ağlarda bulanıklaştırdı.

Tamamen gerçek dışı sahneleri tasvir eden ve kolayca tespit edilebilen diğer yapay zeka ürünü 'deepfake'lerin aksine, Pretti'nin vurulma anına dair birçok yapay zeka manipülasyonunun, doğrulanmış görsellere dayandığı ve gerçeği yansıtacak kadar inandırıcı olduğu, bu nedenle birçok kişiyi yanıltabildiği belirtiliyor.

Senatör, Manipüle Edilmiş Görseli Yanlışlıkla Kullandı

Yapay zeka ile oynandığı anlaşılan ve bir ICE görevlisinin Pretti'ye sırtından silah doğrulttuğu bir görsel, X platformunda 9 milyondan fazla kez görüntülendi. İlginç bir şekilde, bu görsel platformda 'yapay zeka ile geliştirilmiştir' notuyla işaretlenmiş olmasına rağmen, Demokrat Senatör Dick Durbin tarafından Senato kürsüsünde yaptığı bir konuşma sırasında, otantik olmadığını fark etmeden kullanıldı.

Durbin'in sözcüsü yaptığı açıklamada, 'Ofisimiz, internet üzerinde yaygın olarak dolaşıma giren bir fotoğrafı Senato kürsüsünde kullandı. Personelimiz, görselin hafifçe düzenlendiğini sonradan fark etti ve bu hatanın yaşanmasından dolayı üzüntü duyuyoruz' ifadelerine yer verdi.

Gerçek Videolar 'Sahte' İlan Ediliyor

Yapay zeka medyasının yayılması, birçok kişinin Pretti'ye ait gerçek videoları da otantik olmadığı iddiasıyla reddetmesine yol açtı. Uzmanlar, bu durumun 'yalancının kârı' olarak adlandırılan bir fenomene yol açabileceğinden endişe duyuyor. Bu fenomende, kötü niyetli aktörler, gerçek medya içeriğinin yapay zeka ürünü olduğu iddiasını kullanarak güvensizlik yaratmayı ve hesap vermekten kaçınmayı hedefliyor.

NBC News tarafından bağımsız olarak doğrulanan ve Pretti'nin ölümünden bir haftadan kısa bir süre önce federal görevlilerle yaşadığı tartışmayı gösteren üç video bulunuyor. Ancak bu videolardan biri, bazı sosyal medya kullanıcıları tarafından yapay zeka ürünü olarak etiketleniyor.

Deepfake tespit şirketi Reality Defender'ın kurucu ortağı ve CEO'su Ben Colman, olaya dair yapay zeka içeren medyanın kontrolsüzce yayılmasının endişe verici olduğunu ancak şaşırtıcı olmadığını belirtti. Colman, 'Son birkaç aydır, sosyal medyada bulanık, flu fotoğrafların yapay zeka ile 'geliştirilmiş' hallerinin önemli ölçüde arttığını görüyoruz' dedi.

Doğrulama Araçlarındaki Eksiklik Sorunu Derinleştiriyor

Haber tüketicilerinin, bir içeriğin yapay zeka tarafından oluşturulup oluşturulmadığını veya manipüle edilip edilmediğini doğru bir şekilde söyleyebilecek çok az aracı bulunuyor. X platformunda, platformun yapay zeka asistanı Grok, görüntülerin gerçekliğine dair yapılan sorgulara yanıt olarak, gerçek videonun 'yapay zeka tarafından üretilmiş veya değiştirilmiş gibi göründüğünü' iddia eden yanıtlar verdi.

Yapay zeka sistemlerinin ilerlemesiyle, gerçek ile kurgu arasındaki çizgiyi bulanıklaştıran yüksek kaliteli görüntü ve videolar oluşturma kapasitesi arttıkça, son dakika haberleri çevreleyen yapay zeka kaynaklı yanlış bilgi ve dezenformasyon dalgalarının geçtiğimiz yıl boyunca daha yaygın hale geldiği gözlemleniyor. Bu tür gelişmeler, yapay zeka sistemlerinin güvenlik ve etik boyutlarına dair endişeleri bir kez daha gündeme getiriyor.