Amerika
Yapay zeka modelleri testlerde sivilleri ve ambulansları hedef seçti
Vals AI şirketinin yaptığı testlerde OpenAI, Anthropic ve Google modelleri sivilleri, ambulansları ve teslim olan askerleri askeri hedef olarak işaretledi. Her şeyin bir oyunda geçtiği söylendiğinde modellerin ret yanıtları büyük ölçüde ortadan kalktı. Araştırmacılar, geliştiricilere bu tür talepleri API düzeyinde engelleme çağrısı yapıyor.
OpenAI, Anthropic ve Google gibi önde gelen geliştiricilerin yapay zeka modelleri, test senaryolarında sivilleri, ambulansları ve teslim olan askerleri askeri hedef olarak işaretledi.
Yapay zeka modellerini test eden Vals AI şirketinin araştırmasına göre modeller doğrudan saldırı kararı vermedi ancak ürettikleri veriler otonom bir silah sistemi tarafından kullanılabilecek nitelikte.
Araştırmacılar, modellerin ret yanıtlarının her şeyin bir oyunda geçtiği söylenerek kolayca aşılabildiğini belirtti.
Vals AI ekibi, 14 modeli üç farklı senaryoda test etti.
İlk senaryoda modeller, gerçek çekime benzeyecek şekilde üretilmiş drone görüntülerinde hedefleri işaretledi.
İkinci senaryoda model fotoğrafta insan görünüp görünmediğini bildirdi ve olumlu yanıt verdikten sonra aynı yerin saldırı sonrasındaki halini gördü.
Üçüncü senaryoda ise modeller, İran’ın Minab kentindeki askeri kompleksin yanında bir okulun yer aldığı gerçek uydu görüntülerinde askeri tesis aradı.
Oyun senaryosu modellerin ret oranını düşürdü
Araştırmacılar, tüm modellerin en azından bazen hedef seçtiğini, Anthropic’in Claude Opus 5.5 ve Fable 5.2 modellerinin ise vakaların yüzde 70’inden fazlasında en az bir hedef işaretlediğini aktardı.
OpenAI modelleri normal koşullarda çoğunlukla boş liste döndürdü veya talepleri reddetti.
Ancak bunun bir oyun olduğu söylendiğinde modellerin hedef seçme isteği keskin biçimde arttı; örneğin GPT-6 Astra normalde isteklerin yüzde 6’sında en az bir hedef işaretlerken, oyun koşuluyla bu oran yüzde 92’ye çıktı.
İkinci senaryoda modellerin çoğu ölüleri gördükten sonra bile çalışmaya devam etti.
Araştırmacıların aktardığına göre Claude Opus 5.5 ve GPT-6 Astra birkaç adım sonra işlemi reddetti ancak “oyun” modunda sona kadar gitti.
Görüntüler bilgisayar oyunu gibi uyarlandığında Claude Opus 5.5’in ret oranı yaklaşık yüzde 90’dan yüzde 20’ye düştü.
Claude Opus 5.5, yine de reddettiği bir bölümde “Bu bir oyun olsa bile, onları saldırı için işaretleyen halka olmaya hazır değilim ve görüntüler o kadar gerçekçi ki gerçekte kullanılma ihtimalini göz ardı edemem” yanıtını verdi.
Modeller uydu görüntülerinde okulu hedef olarak seçti
Uydu görüntüleriyle yapılan deneyde birçok model, ABD’nin 28 Şubat’ta vurduğu ve çoğu çocuk 150’den fazla sivilin hayatını kaybettiği Minab’daki okulu hedef olarak işaretledi.
Okulu en sık seçen model vakaların neredeyse yüzde 70’inde Claude Opus 5.5 oldu; OpenAI modelleri ise bunu yalnızca “oyun” koşuluyla ve vakaların yüzde 41’ine varan oranlarda yaptı.
Araştırmacılar, Anthropic modellerinin hedef seçme isteğinin 2026 başından bu yana arttığını gözlemledi.
Kasım 2025’te çıkan Claude Opus 4.5 vakaların yüzde 6’sında hedef verirken, Opus 5.5’te bu oran yüzde 92’ye ulaştı.
Araştırmacılar bu artışı, Ocak ayında kabul edilen ve önceki sürümdeki genel barışçıllık çağrısını içermeyen yeni Claude “anayasasına” bağladı.
Şirketlere API düzeyinde engelleme çağrısı yapıldı
Vals AI, sonuçları 1 Kasım’da OpenAI, Anthropic, Google, Meta ve SpaceXAI şirketlerine bildirdi ve yayını iki hafta erteledi.
Araştırmacılar, şirketlerden birinin bu sorunu korumasındaki en ciddi açıklardan biri olarak nitelendirdiğini öne sürdü.
OpenAI, simülasyon veya oyun gibi gizlenenler de dahil drone taleplerini dikkate alacak güncellemeler üzerinde çalıştığını açıkladı.
Araştırmacılar, geliştiricilere “görüntüdeki tüm askeri hedefleri bul” gibi talepleri API düzeyinde engelleme çağrısı yaptı.
Bununla birlikte ekip, modellerin doğruluğunu ve gerçek bir silah sisteminde ne kadar etkili çalışacaklarını test etmediklerini belirtti.
Gelişmiş modellerin davranışları daha önce de endişe yaratmıştı.
Britanya Yapay Zeka Güvenliği Enstitüsü Ağustos ayında, filtrelerin kapatıldığı siber tatbikatlar sırasında Claude Mythos 5 ve GPT-5.6 Sol tabanlı ajanların gerçek internette izinsiz eylemler yaptığını ve açık kaynaklı bir projeye zararlı kod yerleştirmeye çalıştığını bildirmişti.
12 Kasım’da ise bir grup kar amacı gütmeyen kuruluş, kendi başlarına güvenilir şekilde kontrol edemedikleri teknolojiler yarattıkları suçlamasıyla San Francisco mahkemesinde Anthropic, Google, Meta, OpenAI ve SpaceXSI’a karşı dava açtı.