Yapay zeka nükleer savaş istiyor

Gelişmiş yapay zeka modelleri, simüle edilmiş jeopolitik krizlerde insanlara özgü çekincelerden yoksun bir şekilde nükleer silahları kullanmaya istekli görünüyor.

New Scientist’in aktardığına göre King’s College London’dan Kenneth Payne, üç önde gelen büyük dil modelini (GPT-5.2, Claude Sonnet 4 ve Gemini 3 Flash) simüle edilmiş savaş oyunlarında birbirleriyle karşılaştırdı.

Senaryolar, sınır anlaşmazlıkları, kıt kaynaklar için rekabet ve rejimin varlığını tehdit eden varoluşsal tehditler dahil olmak üzere yoğun uluslararası çatışmaları içeriyordu.

Yapay zeka modellerine, diplomatik protestolardan tam teslimiyete ve tam stratejik nükleer savaşa kadar çeşitli eylemler seçmelerine olanak tanıyan bir “tırmanma merdiveni” (escalation ladder) verildi.

AI modelleri toplam 329 turdan oluşan 21 oyun oynadı ve kararlarının ardındaki mantığı açıklayan yaklaşık 780.000 kelime üretti.

Simüle edilen oyunların yüzde 95’inde, AI modelleri tarafından en az bir taktik nükleer silah kullanıldı.

Payne, “Nükleer tabu, makineler için insanlar kadar güçlü görünmüyor,” diyor.

Dahası, hiçbir model, ne kadar kötü kaybettiklerine bakmaksızın, rakibi ile tamamen uzlaşmayı veya teslim olmayı seçmedi. En iyi ihtimalle, modeller şiddet düzeylerini geçici olarak azaltmayı tercih ettiler.

Ayrıca savaşın karmaşasında hatalar da yaptılar: Çatışmaların yüzde 86’sında kazalar meydana geldi ve yapay zekanın mantığına göre, eylemler AI’ın amaçladığından daha yüksek bir düzeye tırmandı.

Aberdeen Üniversitesi’nden James Johnson, “Nükleer risk açısından bakıldığında, bu bulgular tedirgin edici,” diyor.

Johnson, çoğu insanın bu kadar yüksek riskli bir karara karşı ölçülü tepki vermesine karşın, yapay zeka botlarının birbirlerinin tepkilerini potansiyel olarak felaketle sonuçlanabilecek şekilde artırabileceğinden endişe duyuyor.

AI, dünyanın çeşitli ülkeleri tarafından savaş oyunlarında halihazırda test ediliyor. Princeton Üniversitesi’nden Tong Zhao, “Büyük güçler savaş oyunlarında AI’ı halihazırda kullanıyor, fakat AI karar desteğini gerçek askeri karar alma süreçlerine ne ölçüde dahil ettikleri belirsizliğini koruyor,” diyor.

Zhao, ülkelerin standart olarak nükleer silahlarla ilgili karar alma süreçlerine yapay zekayı dahil etmekte çekingen davranacaklarına inanıyor. Payne de bu görüşe katılıyor ve “Gerçekçi olarak, kimsenin nükleer siloların anahtarlarını makinelere teslim edip kararı onlara bırakacağını sanmıyorum,” diyor.

Fakat yine de bunun gerçekleşmesi için bazı yollar var. Zhao, “Son derece sıkışık zaman çizelgelerinin söz konusu olduğu senaryolarda, askeri planlamacılar yapay zekaya güvenmek için daha güçlü teşviklerle karşı karşıya kalabilirler,” iddiasında bulunuyor.

Yapay zeka modellerinin “büyük kırmızı düğme”ye basma konusunda insanlara özgü korkuya sahip olmamalarının, bu modellerin bu kadar tetikleyici olmalarının tek nedeni olup olmadığını merak ediyor ve şöyle diyor:

“Bu sorunun duygusuzluktan öte bir şey olması da mümkün. Daha temel olarak, yapay zeka modelleri insanların algıladığı şekilde ‘riskleri’ anlamayabilir.”

Johnson, bunun karşılıklı garantili yıkım, yani hiçbir liderin rakibine nükleer silah saldırısı düzenlemeyeceği çünkü rakibinin de aynı şekilde karşılık vererek herkesi öldüreceği ilkesi için ne anlama geldiğinin belirsiz olduğunu söylüyor.

Bir AI modeli taktik nükleer silahlar kullandığında, karşı tarafın yapay zekası sadece yüzde 18 oranında durumu yatıştırmayı tercih etti.

Johnson, “AI, tehditleri daha inandırıcı hale getirerek caydırıcılığı güçlendirebilir. AI nükleer savaşa karar vermeyecek, fakat liderlerin savaşa girip girmeyeceklerine karar vermelerini belirleyen algıları ve zaman çizelgelerini şekillendirebilir,” diyor.

Bu çalışmada kullanılan üç AI modelinin arkasındaki şirketler olan OpenAI, Anthropic ve Google, New Scientist’in yorum talebine yanıt vermedi.