Trump yönetimi yetkilileri, Anthropic ile bir araya geldi

Anthropic çalışanları pazartesi günü Trump yönetiminin üst düzey yetkilileriyle bir araya geldi.

POLITICO’ya bilgi veren kaynaklar bu görüşmenin, federal hükümetin uyguladığı ihracat yasağı nedeniyle yapay zeka girişiminin cuma gecesi en son modelini piyasadan çekmek zorunda kalmasının ardından yapılan ilk yüz yüze görüşme olduğunu belirtti.

Beyaz Saray’dan üst düzey bir yetkili, potansiyel güvenlik açıkları nedeniyle Anthropic’in ABD dışındaki kullanıcıların en yeni modeline erişimini engelleyen federal hükümetin cuma günkü kararını hafifletecek bir çözüme ulaşmanın birkaç günden daha uzun süreceğini söyledi.

Fakat yetkili, bunun hızlı bir şekilde halledilebileceği ihtimaline kapıyı açık bıraktı. Ve “Bu Anthropic’e bağlı,” dedi.

Yetkililer, hafta sonu boyunca Anthropic’in kurucu ortağı Tom Brown, Ticaret Bakanı Howard Lutnick ve Ulusal Siber Direktörü Sean Cairncross arasında saatler süren görüşmelerin ardından, şirketin araştırma ve güvenlik uzmanlığına sahip üst düzey yöneticilerini aceleyle Washington’a gönderdiğini söyledi. Anthropic’in kamu politikası başkanı Sarah Heck de bu görüşmelere katıldı.

Ticaret Bakanlığı ve Cairncross’un ofisi tarafından düzenlenen yüz yüze toplantılar daha teknik nitelikteydi ve Ticaret Bakanlığı’nın Yapay Zeka Standartları ve İnovasyon Merkezi’nin başkanı Chris Fall’un da aralarında bulunduğu personel tarafından yönetildi.

Anthropic, kısıtlamaları aşma umuduyla yönetim yetkililerine bir sunum yaptı ve Anthropic’in siber güvenlik önlemlerini açıkladı.

Anthropic, kısıtlamaların açıklanmasından bu yana güvenlik önlemlerini savundu. Şirket bir blog yazısında, “Bu güvenlik açıklarının hepsi nispeten basit görünüyor ve diğer halka açık modellerin de bir baypas gerektirmeden bunları keşfedebildiğini tespit ettik,” dedi.

Yönetimin ihracat kısıtlamalarını uygulamaya koymadan önce Anthropic CEO’su Dario Amodei ile yapılan görüşmelerde öncü bir rol oynayan Hazine Bakanı Scott Bessent, hafta sonu bu sürece daha az dahil oldu ve Hazine Bakanlığı pazartesi günü yüz yüze yapılan toplantılara katılmadı.

Görüşmelere yakın bir kaynak, Lutnick’in başkan tarafından devreye sokulduğunu ve ülkenin ihracat politikasını denetlediği için hafta sonu daha aktif bir rol üstlendiğini söyledi.

Lutnick ve Bessent, pazartesiden çarşambaya kadar sürecek G7 toplantıları için başkanla birlikte Air Force One uçağıyla Fransa’ya gitti.

Anthropic’in yabancı uyrukluların en son modeli Fable 5’i kullanmasına izin vermesini yasaklayan ihracat kontrolü, şirketin kurallara uymak için modeli tamamen kaldırmasını zorunlu kıldı.

Gerginliğin tırmanması, Anthropic’in önemli bir yatırımcısı olan Amazon’un geçen hafta sonu Beyaz Saray’a ilettiği, Fable ile ilgili algılanan bir güvenlik endişesi konusunda Anthropic ile yönetim arasında yaşanan anlaşmazlığın ardından geldi.

Amazon, şirketin son derece gelişmiş modeli Mythos’tan daha az güçlü olacak şekilde tasarlanan ve uzun süredir beklenen Fable modelinde Anthropic’in güvenlik önlemlerini atlatmanın bir yolunu bulduğunu bildirdi.

Anthropic, siber güvenlik açıklarını herhangi bir insandan daha hızlı istismar etme yeteneği nedeniyle, yalnızca seçkin bir grup şirketin Mythos’a erişmesine izin verdi.

Şirket, Fable’ın Mythos’a benzer bir performans gösterdiğini ama kullanıcıların siber saldırı gerçekleştirmesini veya biyolojik silah yapımını detaylandırmasını engellemek için yerleşik güvenlik önlemlerine sahip olduğunu belirtti.

Amazon’un keşfi, Beyaz Saray ve Ulusal Güvenlik Ajansına iletildi ve Cairncross, Bessent ve diğerlerinin Anthropic’ten Fable’a erişimi durdurmasını talep etmesine neden oldu.

Anthropic, güvenlik ihlalinin önemsiz olduğunu ve insanların siber saldırılar için kullanmasına izin verecek daha büyük bir “jailbreak” olmadığını savunarak bunu kabul etmediğinde, yönetim, şirketin elini zorladığını söylediği bir ihracat kontrolü kararı verdi.

Hafta sonu, yaklaşık 80 teknik uzman ve CEO’dan oluşan bir grup, yetkilileri ihracat kontrolünü kaldırmaya çağıran açık bir mektup yazdı.

Amazon araştırmacılarının Fable’a yaptırdığı eylemlerin “güvenli kod yazmayı amaçlayan herhangi bir modelde gerekli bir yetenek” olduğunu ve “saldırgan bir yetenek olarak değerlendirilmemesi gerektiğini” belirttiler.

Teknoloji liderleri mektupta, Trump yönetiminin ani denetimlerinin “savunmacılardan en iyi modelleri elinden aldığını, piyasada belirsizlik yarattığını ve bunu haklı gösterecek herhangi bir gerçek risk olmaksızın Amerika’nın yapay zeka liderliğini tehlikeye attığını” yazdı.

Yönetimle yapılan toplantılara katılan Anthropic çalışanlarından biri olan Graham, nisan ayında Fox News’e verdiği demeçte, Anthropic’in “kötü niyetli kişilerin erişimi olmadan” savunmacılara Mythos’a erişim izni vererek ince bir çizgi üzerinde yürümek istediğini söylemişti.

Graham, “Sonuçta, bu tür araçların güvenli bir şekilde tüm dünyaya yayılması gerektiğini düşünüyoruz, çünkü tüm dünyanın da kendini savunmak için bu araçları kullanmasına ihtiyacımız var,” diye eklemişti.

Teknoloji camiasından bazıları, sıkı ihracat kısıtlamalarını destekledi ve güvenlik önlemlerinin aşılmasının ciddi riskler doğurduğunu söyledi. Ancak diğer AI uzmanları ve hatta yönetim içindeki yetkililer, bu kontrollerin sektörü sekteye uğratacak tehditkar bir düzenleme ortamı yarattığını söylediler.

AI politikası üzerinde çalışan eski Trump yönetimi yetkilisi Dean Ball, X’te yazdığı gönderide, “AI şu anda lisanslıdır, ancak gereklilikler sürekli değişiyor ve her zaman gizli tutuluyor; hatta olaylara tepki verirken kuralları anlık olarak keşfedecek olan yönetim için bile,” dedi.

Mevcut yönetimden bir yetkili, ihracat anlaşmazlığı ne kadar uzun sürerse, AI şirketlerinin yeni modellerini piyasaya sürerken uğraşmak zorunda kalacakları fiili bir lisans rejimine dönüşme olasılığının o kadar artacağı ve bunun da inovasyonlarını ve Çin ile rekabetlerini yavaşlatacağı konusunda uyarıda bulundu.

Yönetim yetkilisine göre ihracat kontrolü, kısa sürede hafifletilen geçici bir “uyarı”dan ibaret olmazsa, “bu durum tüm sektör için büyük bir sorun olacak.”