Pentagon eylül sonuna kadar Anthropic yapay zekasını tamamen silecek

Pentagon, Anthropic şirketine ait yapay zeka yazılımlarının kurum sistemlerinden yüzde 90 oranında temizlendiğini ve sürecin eylül ayı sonuna kadar tamamlanacağını duyurdu. San Francisco’daki federal mahkemede görülen davada ise Yargıç Rita Lin, şirketin “tedarik zinciri riski” ilan edilmesinin ulusal güvenlik gerekçelerinden ziyade bir misilleme ve cezalandırma adımı olduğunu belirtti.

ABD Savaş Bakanlığı, yapay zeka şirketi Anthropic’e ait teknolojileri kurum bünyesindeki tüm sistemlerden eylül ayı sonuna kadar tamamen çıkarmayı planlıyor.

ABD Savaş Bakanlığı Araştırma ve Geliştirmeden Sorumlu Müsteşarı ve Pentagon Baş Teknoloji Sorumlusu Emil Michael, Breitbart’a verdiği mülakatta kurumun söz konusu yazılımları sistematik olarak sildiğini açıkladı.

Michael, “Yazılımlarını bakanlığın bütün sistemlerinden kademeli olarak kaldırıyoruz. Şu ana kadar yüzde 90’dan fazlası silindi. Bu süreci eylül ayı sonuna kadar tamamlayacağız” ifadelerini kullandı.

Anthropic teknolojilerinin karmaşık sistemlere entegre olduğunu belirten Michael, silme işleminin zaman aldığını ve bu nedenle sürecin sorumlu bir şekilde yürütülmesi gerektiğini kaydetti.

Pentagon ile Anthropic arasındaki anlaşmazlık, şirketin askeri kullanıma getirdiği kısıtlamalarla başladı.

Anthropic Üst Yöneticisi (CEO) Dario Amodei, teknolojinin insan denetimi olmaksızın gözetleme faaliyetlerinde veya otonom silahlarda kullanılmayacağına dair güvence talep etti. Bu sürecin ardından Pentagon, Anthropic’i “tedarik zinciri riski” ilan etti. Askeri sistemlerin neredeyse yüzde 100’ü diğer yapay zeka modellerine aktarılırken bu geçişe İran ile yaşanan savaşta hava saldırıları için hedef belirlemeye yardımcı olan Maven sistemi de dahil edildi.

Mayıs ayında The Wall Street Journal (WSJ) gazetesi, Anthropic tarafından geliştirilen ve yazılımlardaki açıkları tespit edebilen Claude Mythos adlı yapay zeka modelinin ABD Başkanı Donald Trump yönetiminde kaosa yol açtığını yazmıştı.

Daha sonra ABD Senatosu İstihbarat Komisyonu Başkan Yardımcısı Mark Warner, Anthropic’in yapay zeka modelinin ABD Ulusal Güvenlik Ajansının (NSA) gizli sistemlerine sızdığını bildirmişti.

Federal mahkemede ihtiyati tedbir duruşması yapıldı

Pentagon’un Anthropic’i “tedarik zinciri riski” olarak nitelemesine karşı açılan davanın ilk büyük duruşması, salı öğleden sonra San Francisco’daki federal mahkemede görüldü.

ABD Bölge Yargıcı Rita Lin, Savaş Bakanlığının kararını şüpheyle karşılayarak bu adımın, yapay zeka teknolojisinin kullanımına dair sözleşme müzakerelerinde Trump yönetimine karşı çıkan şirketi cezalandırmaya yönelik bir misilleme olabileceğini ima etti.

Yargıç Lin, duruşma sırasında, “Bu tepkilerde beni rahatsız eden husus, belirtilen ulusal güvenlik kaygısına tam olarak uygun görünmemesi. Eğer endişe operasyonel komuta zincirinin bütünlüğü ile ilgiliyse Claude’u kullanmayı bırakabilirlerdi. Davalıların bundan daha ileri gittiği ve Anthropic’i cezalandırmaya çalıştığı görülüyor” değerlendirmesinde bulundu.

Duruşmayı karara bağlamadan sonlandıran Yargıç Lin, ihtiyati tedbir talebine ilişkin kararını önümüzdeki birkaç gün içinde vereceğini bildirdi.

Lin, şirketin tüm hükümet işlerinden menedilmesi girişiminin, Savaş Bakanı Pete Hegseth tarafından dile getirilen ulusal güvenlik kaygısını gidermek için gerekenin ötesine geçtiğini belirterek, “Bu, Anthropic’i çökertme girişimi gibi görünüyor ve özellikle benim endişem, Anthropic’in hükümetin sözleşme tutumunu basında eleştirdiği için cezalandırılıp cezalandırılmadığıdır” dedi.

Lin, Hegseth’in şirketin ulusal güvenlik alanındaki uygulamalarını sınırlandırma yetkisine sahip olduğunu kabul etmekle birlikte, asıl meselenin Pentagon’un şirketi tedarik zinciri riski ilan ederek sınırları aşıp aşmadığı olduğunu vurguladı.

Hükümet ile şirket avukatları arasında sabotaj tartışması

Trump yönetimini temsil eden Adalet Bakanlığı yetkilileri, Anthropic’in gelecekteki bir yazılım güncellemesiyle orduya “sabotaj” uygulayabileceği endişesi nedeniyle ulusal güvenlik riski oluşturduğunu savundu.

Başsavcı Yardımcısı Vekili Eric Hamilton, “Anthropic yalnızca inatçı davranmıyor veya sözleşme şartlarını kabul etmeyi reddetmiyor; bunun yerine teknolojinin kullanım şartları kapsamındaki askeri görevlerde dahi nasıl kullanıldığına dair Savaş Bakanlığına endişelerini iletiyor” ifadelerini kullandı.

Yargıç Lin bu gerekçeyi eleştirerek, bir şirketi hükümet işlerinden menetmek için bunun çok yetersiz bir gerekçe olduğunu belirtti ve “Bir bilişim tedarikçisi inatçı davranıp belirli sözleşme şartlarında ısrar ederse ve rahatsız edici sorular sorarsa güvenilmez olabileceği gerekçesiyle tedarik zinciri riski ilan edilmesi yeterli mi?” sorusunu yöneltti.

Şirketin orduyu nasıl sabote edebileceği sorulduğunda Hamilton, Anthropic’in Claude aracının kullanım biçimini onaylamaması durumunda yazılıma bir “kapatma anahtarı” (kill switch) eklemeyi deneyebileceğini ileri sürdü.

Ancak Hamilton, şirketin böyle bir güncellemeyi yapma kabiliyetine sahip olup olmadığını kesin olarak belirtemedi. Hamilton, “Endişe, Anthropic’in yalnızca kaygı belirtmek ve itiraz etmek yerine, bakanlığın yaptıklarını sorun ederek yazılımı Savaş Bakanlığının kullanımını kontrol edebilecek şekilde manipüle etmeye karar vermesidir” dedi.

Duruşmada Hamilton, Hegseth’in geçen ay sosyal medyada yaptığı ve anlaşmazlık sonucunda “ABD ordusuyla iş yapan hiçbir yüklenici, tedarikçi veya ortağın Anthropic ile herhangi bir ticari faaliyette bulunamayacağını” belirten açıklamasını fiilen çürüten bir ifade kullandı.

Hamilton, bakanlığın, yüklenicilerin bakanlık dışı işlerde bir şirketin ürün veya hizmetlerini kullanmasını kategorik olarak yasaklamasına izin veren herhangi bir yetkiden haberdar olmadığını söyledi.

Yargıç Lin’in, Hegseth’in bunu kastetmediyse neden böyle bir iddiada bulunduğunu sorması üzerine Hamilton, “Bilemiyorum. Bildiğim, bu yönetimin şeffaflığa bağlı olduğu ve bu paylaşımda şirketi tedarik zinciri riski ilan etmek için adım atacağını belirttiği; nitekim bunu da yaptı” yanıtını verdi.

Anthropic’in avukatı Michael Mongan ise Savaş Bakanlığının argümanlarının sürekli değiştiğini ve başarısız sözleşme müzakerelerinin ardından şirketi cezalandırmaya çalıştığını belirtti.

Mongan, “Gerçek şu ki bu, gerekçe veya mantık arayışında olan bir tedarik zinciri nitelemesidir ve bu durum İdari Usul Yasası kapsamında bir sorundur” dedi.

Mongan, Pentagon’un işlemlerinin geçersiz kılınması amacıyla mahkemenin derhal ihtiyati tedbir kararı vermesini talep ederek, “Bu eylemler tartıştığımız nedenlerle hukuka aykırıdır. Anthropic’e, anayasal haklarına, ortakları, müşterileri ve yatırımcıları nezdindeki itibarına ve yalnızca ulusal güvenlik sektöründe değil genel ticari çıkarlarına derhal, telafisi imkansız ve süregelen zararlar vermiştir” ifadelerini kullandı.