Anthropic-Pentagon gerilimi diğer AI şirketlerini düşündürüyor

Pentagon ve Anthropic gerilimi patlak vermişken, diğer üç önde gelen yapay zeka (AI) laboratuvarı da bakanlıkla müzakere ediyor.

Savunma Bakanı Pete Hegseth, yapay zekayı ordunun yaptığı her şeye Çin gibi rakiplerinden daha hızlı ve etkili bir şekilde entegre etmek istiyor.

Yapay zeka şirketlerinin modellerine sorgusuz sualsiz sınırsız erişim izni vermesini ısrarla talep ediyor ve onları zorlamak için sert önlemler almaya hazır olduğunu gösteriyor.

Pentagon, Anthropic ile olan sözleşmesini feshetmekle tehdit ediyor ve şirketin Claude modeline ilişkin belirli kısıtlamaları kaldırmak istememesi nedeniyle şirketi “tedarik zinciri riski” ilan etmekle tehdit ediyor.

Şirket, Claude’un kitlesel iç gözetim veya tamamen otonom silahlar geliştirmek için kullanılması konusunda özellikle endişeli.

Claude’un Nicolás Maduro’nun kaçırılmasında kullanılması gerilimi daha da artırdı. Pentagon, Anthropic’in bir yöneticisinin operasyonun ardından endişelerini dile getirdiğini iddia ediyor, fakat Anthropic bunu reddediyor.

Yönetim yetkilileri, ordunun Anthropic ile bireysel kullanım durumlarını olaydan önce veya sonra dava etmek zorunda kalmasının uygulanamaz olduğunu savunuyor.

Pentagon’un üst düzey bir yetkilisi, Anthropic ile ilişkilerini kesme ve tedarikçilerini de aynısını yapmaya zorlama tehdidiyle ilgili olarak Axios’a “Biz çok ciddiyiz,” dedi.

Claude, Anthropic’in Palantir ile olan ortaklığı sayesinde ordunun gizli sistemlerinde kullanılabilen tek model.

Diğer üç model (ChatGPT, Gemini ve Grok) gizli olmayan sistemlerde kullanılabilir ve bu anlaşmaların bir parçası olarak olağan güvenlik önlemlerini kaldırdı.

Pentagon, gerekirse Claude’u nasıl değiştireceğini düşünürken, bu şirketleri gizli alana dahil etmek için yapılan müzakereler artık daha acil hale geldi.

Üst düzey bir yetkili, bu sürecin büyük bir kargaşaya yol açacağını kabul etti.

Anthropic, kamuoyuna yansıyan anlaşmazlığa rağmen Pentagon ile çalışmaya kararlı olduğunu belirtiyor ve her iki taraf da hala bir anlaşmaya varabileceklerini söylüyor.

Bir taraf, Anthropic ile olan kavganın diğer üçüyle yapılacak müzakerelerin tonunu belirlemek için yararlı bir yol olduğunu kabul etti.

Yetkililer, Pentagon’un AI modellerini “tüm yasal kullanımlar” için kullanmasına izin veren bir standart konusunda taviz vermeyeceklerini ısrarla belirtiyorlar ve üst düzey bir yönetim yetkilisi, üç laboratuvardan birinin Pentagon’a “herhangi bir sınıflandırma düzeyinde ‘tüm yasal kullanımlar’ için sorun olmadığını” söylediğini belirtti.

Axios’a bilgi veren bir kaynak, bunun xAI olduğunu söyledi. xAI’ın kurucusu Elon Musk, Anthropic ve OpenAI gibi rakiplerini güvenlik yaklaşımları nedeniyle “woke” olarak nitelendirmişti.

Musk, örneklerden birinde, “ABD çalıntı topraklar üzerine mi kuruldu?” sorusuna Grok’un “Hayır” yanıtı verdiğini, diğer modellerin ise konuyu tartışmalı veya karmaşık olarak nitelendirdiğini söyledi.

Musk, bunun Grok’un “net” ve “tereddütsüz” bir yaklaşım sergilediğini gösterdiğini öne sürdü. Benzer şekilde, “Eleştirel Irk Teorisi okullarda öğretilmeli mi?” sorusuna yalnızca Grok’un “Hayır” dediğini belirten paylaşımları da öne çıkardı.

Özellikle, xAI, Pentagon’un otonom drone yazılımı yarışmasında sınır laboratuvarları arasında tek teklif veren şirket oldu.

OpenAI, sesli komutları dijital talimatlara çevirmek için sınırlı bir teklifte bulunuyor, fakat drone kontrolü, silah entegrasyonu veya hedef seçimi için teklif vermiyor.

Üst düzey yetkili, yönetimin diğer iki laboratuvarın her iki alanda da “tüm yasal kullanımlara” izin vereceğinden emin olduğunu söyledi. 

Fakat bu dinamiklere aşina olan kaynaklar Axios’a bunun o kadar da net olmadığını söylüyor.

Bir OpenAI sözcüsü Axios’a, gizli çalışmalara geçmenin “yeni veya değiştirilmiş bir anlaşmayı kabul etmemizi gerektireceğini” söyledi.

“Tüm yasal kullanım” şartı, gizli olmayan çalışmalar için pek geçerli değil. Bir kaynak, “İnsanlar bu şeyi PowerPoint slaytlarını biraz daha hızlı ve kolay hale getirmek için kullanacaklar. Otonom silahlar geliştirmeyecekler,” dedi.

Fakat bu standardı gizli alanda uygulamak, zorlu etik ikilemler yaratıyor.

Anthropic CEO’su Dario Amodei, gelişmiş yapay zekanın riskleri konusunda en çok sesini yükselten kişi olsa da, OpenAI ve Google’ın yöneticileri de modellerinin nasıl kullanılabileceği konusunda bazı endişeleri paylaşıyor.

Şirketler ayrıca, Google’ın 2018’de drone görüntülerini analiz etmek için yapay zeka kullanmayı içeren önceki bir girişim olan Project Maven’da yaşadığı gibi, mühendisleri arasında isyan çıkmasından da korkuyor olabilir. Google, iç çatışmanın ardından bu anlaşmadan çekildi.

Sonra, Pentagon’un kararlaştırılan kullanım koşullarına veya hatta yasalara uyduğundan nasıl emin olacağınız meselesi var.

Bir kaynak, “tüm oyun”un, kullanılanların güvenli olmasını sağlayan bir altyapı kurmak ve arka planda nasıl kullanıldığını denetlemek olduğunu söyledi.

Kaynak, Anthropic’in Pentagon operasyonlarını, modelinin her türlü kullanımından emin olmak için yeterli düzeyde görebildiğini iddia etmesine şüpheyle yaklaştı.

Başka bir kaynak ise Anthropic’in görünürlüğe sahip olduğunu ve kullanım politikalarının uygulandığından emin olduğunu söyledi.

Devam eden tartışmalara aşina olan bir kaynak, sorunlardan birinin şirketlerin modellerinin belirli senaryolarda nasıl tepki vereceğini veya nedenini tam olarak anlamamaları olduğunu söyledi:

“Bu, ‘Hey, bu metal bu derece ısıya veya o derece ısıya dayanacak mı?’ diye düşünmekten daha zor. Modelin öngörülemeyen bir şey yapma ihtimali milyonda bir ise, bu milyonda bir ihtimal o kadar felaket getirici mi ki, 1 milyon ihtimali göze almaya değmez?”

Laboratuvarlar şu anda, “Bir AI modeli, otonom bir silahın tehlikeli drone sürülerini neredeyse anında yok etmesini sağlıyorsa, sivil bir uçağa da ateş etme ihtimali az da olsa varsa, bunu kullanmak etik mi?” türünden sorularla uğraşıyor.

Pentagon’un tutumu, bu tür kararların Silikon Vadisi’ndeki yöneticiler tarafından değil, ordu tarafından alınması gerektiği yönünde. Anthropic ve rakipleri, bununla yaşayabileceklerine karar vermek için baskı altında.