Anthropic, Pentagon’un taleplerini reddetti

Anthropic, Pentagon’un şirketin yapay zeka aracı Claude’a tam erişim talebine boyun eğmeyeceğini, tamamen otonom silahlar veya kitlesel iç gözetimde kullanımına yönelik kısıtlamalarını gevşetemeyeceğini açıkladı.

Anthropic’in açıklaması, Pentagon’un verdiği son tarihten (27 Şubat Cuma) önce geldi. Bu durum, yapay zeka şirketinin Savunma Bakanı Pete Hegseth’ten son dakika tavizi alması ya da gelecekteki askeri işlerden mahrum kalma ihtimaliyle karşı karşıya kalması için zemin hazırladı.

Perşembe günü, Anthropic CEO’su Dario Amodei, uzun bir açıklama ile, şirketin kırmızı çizgisini koruduğunu ve Pentagon’un kararını yeniden gözden geçirmesini umduğunu söyledi.

Amodei şunları yazdı:

“Az sayıda bir dizi durumda, AI’ın demokratik değerleri savunmak yerine zayıflatabileceğine inanıyoruz. Bazı kullanımlar da günümüz teknolojisinin güvenli ve güvenilir bir şekilde yapabileceği sınırların dışında. Bu tür iki kullanım örneği, Savaş Bakanlığı ile yaptığımız sözleşmelere hiçbir zaman dahil edilmemiştir ve şu anda da dahil edilmemesi gerektiğini düşünüyoruz.”

Özellikle otonom silah kullanımı ve kitlesel gözetlemeyi örnek gösteren Amodei, “Vicdanımız elvermediğinden onların talebini kabul edemeyiz,” diye yazdı.

Pentagon ile çalışmaya devam etmek istediklerini ekleyen Amodei, “Anthropic’in teknolojisinin silahlı kuvvetlerimize sağladığı önemli değer göz önüne alındığında, kararlarını yeniden gözden geçirmelerini umuyoruz,” dedi.

Yapay zeka şirketi ve Savunma Bakanlığı, Anthropic’in Venezuela Devlet Başkanı Nicolás Maduro’yu kaçırmak için düzenlenen baskında Claude’un nasıl kullanıldığına dair sorular sorduğu bildirildikten sonra haftalardır anlaşmazlık yaşıyor ve iki tarafın anlaşmazlıklarının şartlarına ilişkin çelişkili açıklamalar yapmasıyla ilişkiler daha da kötüleşti.

Pentagon, kullanım kapsamında otonom silahları veya kitlesel gözetlemeyi hiçbir zaman değerlendirmediğini söyledi, fakat Anthropic ile olan sözleşmesinde bunları yasaklamaya istekli olmadı ve sadece yasal uygulamaları takip edeceğini belirtti.

Öte yandan Hegseth, Pentagon’un bu teknolojiyi tüm savaş faaliyetlerinde kullanabilmesi gerektiğini söyledi.

Karşılıklı hayal kırıklığı, Pentagon’un Anthropic’e cuma günü saat 17:01’e kadar uyum sağlaması için süre tanımasıyla doruğa ulaştı.

Anthropic aksi takdirde, Savunma Üretim Yasası uygulamaya konarak yapay zekasına tam erişim izni vermek zorunda kalacak.

Yasa, savaş veya ulusal acil durumlarda devletin kritik özel sektör varlıklarını kontrol altına almasına izin veriyor.

Anthropic sözcüsü, şirketin ısrarı üzerine isminin açıklanmaması koşuluyla yaptığı açıklamada, Pentagon’dan gece yarısı aldıkları sözleşme metninde, “Claude’un Amerikalıları kitlesel olarak gözetlemek veya tamamen otonom silahlar için kullanılmasını önleme konusunda neredeyse hiçbir ilerleme kaydedilmediğini” söyledi.

Sözcü, uzlaşma olarak sunulmasına rağmen, yeni metnin “bu önlemlerin isteğe bağlı olarak göz ardı edilmesine izin verecek hukuki ifadelerle eşleştirildiğini” belirtti.

Perşembe günü CBS News, Anthropic’e gece gönderilen sözleşme metninin Pentagon’un “son teklifini” temsil ettiğini bildirdi. 

Fakat Amodei, blog yazısında Savunma Bakanlığı ile müzakerelere devam etme isteğini dile getirdi.

Anthropic CEO’su, “Tercihimiz, talep ettiğimiz iki önlemin uygulanması şartıyla, Bakanlığa ve savaşçılarımıza hizmet etmeye devam etmektir,” diye yazdı.

Şirket sözcüsü, Anthropic’in “görüşmelere devam etmeye hazır olduğunu” söyledi. Cuma günkü son tarihten önce bir anlaşma sağlanması hâlâ mümkün.

ABD hükümeti, Anthropic’in Pentagon ile bir anlaşmaya varamaması halinde anlaşmalarını feshedeceği uyarısında bulundu.

Üst düzey bir yetkili, CEO Dario Amodei’yi, orduyla çalışmaya devam etmek için yapılan “son teklifi” reddetmesinin ardından “Tanrı kompleksi”ne sahip olmakla suçladı.

Bir yönetim yetkilisi perşembe günü Financial Times’a yaptığı açıklamada, Anthropic’in Claude sohbet robotonu hükümetin üç koluna da sunmak için ağustos ayında imzalanan anlaşmanın, startup şirketi Pentagon’a teknolojisini sınırsız kullanma izni vermeyi kabul etmezse iptal edileceğini söyledi.

Perşembe akşamı, Anthropic ile müzakerelere katılan savunma bakanlığı araştırma ve mühendislik müsteşarı Emil Michael, Amode’yi “Tanrı kompleksi” olan bir yalancı olarak nitelendirdi.

Michael, X’te, “Tek istediği ABD ordusunu kişisel olarak kontrol etmek ve ülkemizin güvenliğini tehlikeye atmaktan çekinmiyor,” diye yazdı.

Bir yönetim yetkilisi FT’ye, hükümetin Claude’u “harika bir ürün” olarak gördüğünü ve bir çözüme ulaşılacağını umduğunu söyledi. 

Fakat bunun gerçekleşmemesi durumunda, sohbet robotunun Genel Hizmetler İdaresi aracılığıyla federal kurumlara sunulmayacağını da ekledi.