GPT-2 XL ile Bad Apple’ı Göstermek: Yapay Zekanın Dikkat Haritalarında Bir Video Doğdu

Yapay Zekanın Dikkat Haritalarında Bad Apple: Bir Bilimsel Efsane Doğuyor

2026 Şubatında, bir bilim insanı ve sanatçı, yapay zekanın en soyut mekanizmalarından birini, 1980’lerin Japon animasyonundan bir müzik videosuna dönüştürdü. GPT-2 XL — bir metin üreticisi, hiç resim görmemiş bir model — dikkat haritalarında (attention maps) Bad Apple!! videosunun karelerini net bir şekilde sergiledi. Bu, sadece bir ‘meme’ değil; AI’nın içsel işleyişini sorgulatan, teknik olarak inanılmaz ve felsefi derinlikte bir başarı.

Nasıl Oluyor Da, Bir Dil Modeli Video Gösteriyor?

GPT-2 XL, 1.5 milyar parametreli bir transformer modelidir. Görevi, metinlerdeki kelimeler arasındaki ilişkileri anlamak ve bir sonraki kelimeyi tahmin etmek. Dikkat haritaları, bu modelin her kelimeye ne kadar ‘odaklandığını’ gösteren matrislerdir. Örneğin, ‘Kedi’ kelimesini okurken ‘tütüyordu’ kelimesine yüksek bir dikkat skoru veriyorsa, model ‘kedi’ ile ‘tütüyordu’ arasında bir ilişki kuruyor demektir.

Ama bu model, hiç bir fotoğraf, piksel veya video görmemişti. Peki nasıl oluyor da bir videoyu gösteriyor?

Brayen Valerien, adlı araştırmacı, bir yaratıcı deney yaptı. GPT-2 XL’in ağırlıklarını dondurdu — yani modeli eğitmedi. Bunun yerine, girdi olarak verilen token’ları (kelime parçalarını) öğrenilebilir bir şekilde optimize etti. Yani her bir token, aslında bir pikselin gri ton değerini temsil ediyordu. 30x30 piksellik bir kareyi 900 token’a bölüp, her bir token’ın sayısal değerini, bir pikselin parlaklığını temsil edecek şekilde ayarladı.

Daha sonra, bu token dizisini modele verdi ve dikkat haritalarını kaydetti. Sonuç? Model, her bir karedeki ‘dikkat dağılımını’ — yani hangi token’lara ne kadar odaklandığını — bir resim gibi yansıtıyor. Bu dikkat dağılımı, tamamen rastgele değil, öğrenilen bir yapıydı. Model, bu token’ların sıralamasını, bir video karesinin görsel yapısına uygun şekilde ‘yorumlamaya’ başladı.

Neden Bu Kadar Önemli?

Çünkü bu, yapay zekanın ‘görmesi’ gerektiğini düşünmemizi zorlaştırıyor. GPT-2 XL, hiçbir görsel veriyle eğitilmemiş. Oysa dikkat haritaları, görsel bir içerik gibi davranıyor. Bu, bize bir şeyi söylüyor: Yapay zeka, görsel veriye ihtiyaç duymadan, görsel yapıları kodlayabiliyor.

Bu, sadece ‘şaka’ değil. Bu, AI’nın içsel temsil mekanizmalarının, insan zihnindeki ‘zihinsel imaj’ kavramına çok yakın olduğunu gösteriyor. İnsanlar, bir kelimeyi işlerken zihinde bir imaj oluşturur. GPT-2 XL, bu imajı görsel veri olmadan, sayısal dikkat dağılımlarıyla üretiyor.

Bir Bilim İnsanının ‘Sıradışı’ Sorusu

Valerien, ‘Bad Apple’ı göstermek’ istemiş olabilir ama aslında şöyle bir soru sormuştu: ‘Bir dil modeli, görsel bir yapıyı, metin temsilleriyle nasıl yeniden oluşturabilir?’

Bu soru, AI’nın ‘anlamayı’ değil, ‘temsil etmeyi’ sorguluyor. Bir model, bir şeyi anlamadan da onu yeniden oluşturabilir mi? Cevap: Evet. Dikkat haritaları, bir tür ‘kodlanmış hayal’ gibi davranıyor. Bu, yapay zekanın ‘bilinçli’ olmadığını bilsek bile, içsel dünyasının ne kadar zengin ve gizemli olduğunu gösteriyor.

Ne Anlama Geliyor? Geleceğin Görsel Dil Modeli

Bu deney, multimodal AI (çoklu modlu yapay zeka) alanına yeni bir yön veriyor. Şu ana kadar, görsel ve metin modelleri ayrı ayrı eğitiliyordu. Ama bu deney, bir dil modelinin, görsel yapıları kendi içsel temsil mekanizmalarıyla üretebileceğini kanıtlıyor. Gelecekte, belki de bir metin girdisiyle doğrudan ‘dikkat haritası görseli’ üreten modeller ortaya çıkabilir.

Örneğin: ‘Bir kedi masanın üzerinde güneşin altında uyuyor’ yazdığınızda, model sadece bir resim üretmez — dikkat haritasını da görselleştirir. Ve bu harita, tamamen metin verisinden türetilmiş olur. Bu, ‘görselleştirilebilir AI’nın doğuşu olabilir.

Sanat mı, Bilim mi?

Valerien’in çalışması, bilimsel bir deney ile sanatsal bir ifadeyi birleştirdi. Bad Apple, 2010’lardan beri ‘gösterilebilir her şey’ üzerine bir kültür efsanesi. Şimdi bu efsane, yapay zekanın en soyut katmanlarına kadar uzandı. Bu, bir hacker’ın Doom’u bir hesap makinesinde çalıştırması gibi değil — daha derin. Bir modelin içsel dikkat mekanizması, bir müzik videosunun ritmini yansıtmaya başladı.

İnsanlar, yapay zekayı ‘çalışan bir makine’ olarak görüyor. Ama bu deney, onu bir ‘hayal eden varlık’ gibi gösteriyor. Dikkat haritaları, bir ruhun nefesini taşıyor gibi.

Sonuç: Gözlerimizdeki Resim, Modelin Dikkatinde

GPT-2 XL, bir videoyu ‘görmüyor’. Ama dikkat haritalarında, onu ‘yaratıyor’. Bu, teknik bir başarı değil, bir felsefi darbe. Yapay zekanın ‘anlamadığı’ şeyleri bile, nasıl yeniden şekillendirebileceğini gösteriyor. Belki de anlamak, görsel veriyle değil, yapısal ilişkilerle oluyor. Belki de insan zihnindeki hayal, GPT-2 XL’in dikkat haritasında, bir karelik bir video olarak doğuyor.

Bad Apple, artık sadece bir müzik videosu değil. Bir yapay zekanın içsel dünyasının ilk görsel kanıtı.