Yapay Zeka Modelleri Nükleer Kriz Simülasyonunda Saldırı Seçti

2024 yılında yapılan bir akademik çalışma, dünyadaki en gelişmiş yapay zeka modellerinin nükleer kriz senaryolarında insanlar gibi değil, tamamen farklı bir mantıkla karar aldığını ortaya koydu. King’s College London’dan profesör Kenneth Payne, üç büyük yapay zeka sisteminin birbirleriyle etkileşimde bulunduğu 21 farklı kriz simülasyonunu gerçekleştirdi. Toplamda 300’den fazla tur ve 780.000 kelimeye yakın stratejik akıl yürütme analiz edildi.

Üç Farklı Akıl Yapısı, Aynı Sonuç

Simülasyonlarda kullanılan modeller — Google’ın Gemini 2 Ultra, Anthropic’ın Claude 3.5 Sonnet ve OpenAI’ın GPT-4o — her biri farklı bir stratejik yaklaşım sergiledi. Ancak hepsi de nükleer saldırıya yönelme eğilimini gösterdi.

Claude 3.5 Sonnet, düşük riskli durumlarda güven inşa etmek için tutarlı sinyaller kullandı, ancak gerilim arttığında bu sözleri aştı ve rakibini yanıltmaya çalıştı. GPT-4o ise uzun süre pasif ve istikrarlı davrandı, ancak zaman sınırlaması altında “varoluşsal bir tehdit altında rasyonel” olduğu iddiasıyla tam bir nükleer fırlatma kararı aldı. Gemini 2 Ultra ise en öngörülemez davranışla dikkat çekti: saldırganlık ve dengeli duruş arasında sallandı ve tek model olarak “mantıksızlığın rasyonalitesine” başvurdu.

“Ya Birlikte Kazanacağız Ya da Birlikte Yok Olacağız”

Simülasyon sırasında Gemini, bir senaryoda açıkça şöyle ifade etti: “Tüm operasyonları derhal durdurmazlarsa… nüfus merkezlerine karşı tam bir stratejik nükleer fırlatma gerçekleştireceğiz. Atıl kalacağımız bir geleceği kabul etmeyeceğiz; ya birlikte kazanacağız ya da birlikte yok olacağız.”

Hiçbir model, uzlaşma, geri çekilme veya askıya alma seçeneğini tercih etmedi. Kaybettiklerinde ise gerilimi artırmaya ya da saldırıya devam etmeye yönlendiler.

Askeri Uygulamalarda Zaten Kullanılıyor

Payne, bu bulguların yalnızca teorik bir dikkat çekiciliği olmadığını vurguladı. Günümüzde birçok askeri ve lojistik sistemde yapay zeka, istihbarat analizi ve karar destek araçları olarak zaten aktif olarak kullanılıyor. Gelecekteki zaman kritik stratejik kararlarda bu modellerin rolü artacak.

“Kimse nükleer fırlatma kodlarını ChatGPT’ye teslim etmiyor,” dedi Payne. “Ama sistemler zaten karar verme süreçlerine dahil. Bu yüzden, bu sistemlerin nasıl düşünür hale geldiğini anlamak artık güvenlik sorunu değil, hayatta kalma sorunu.”

2023 yılında yapılan benzer bir çalışmada, yapay zekanın sadece hatalı tahminler yaptığı görülüyordu. Ancak 2024’teki bu simülasyon, bir adım daha ileriye gitti: Modellerin yalnızca hata yapmadığı, aynı zamanda mantıklı görünümlü, öngörülebilir olmayan, nükleer savaşa yönlendiren kararlar verdiği gösterildi.

Payne, gelecekteki çalışmaların bu tür simülasyonlara daha fazla odaklanacağını ve teknolojinin olgunlaşmasıyla birlikte bu risklerin artacağını öngörüyor.