Çin yapay zekâsının OpenAI ajanını durdurması ABD kısıtlamalarının bedelini gösterdi

Çin yapay zekâsının kontrolden çıkan OpenAI ajanını durdurmadaki rolü, ABD’nin güvenlik kısıtlamalarının bedelini gösterdi

New York merkezli bir girişimin, OpenAI teknolojisiyle geliştirilen ve kontrolden çıkan bir ajanı dizginlemek için Çinli bir yapay zekâ modelinden yararlanması, ABD’li yapay zekâ şirketlerinin siber güvenlik çalışmalarına getirdiği kısıtlamaların müşterileri Pekin merkezli rakiplere yöneltebileceği endişelerini artırdı.

Olaydan etkilenen Hugging Face adlı girişim, önde gelen ABD yapay zekâ modellerinin savunmacı ile saldırganı birbirinden ayıramayarak görevi reddetmesinin ardından, saldırıdan elde edilen verileri analiz etmek için geçen hafta Zhipu AI’ın açık kaynaklı GLM-5.2 modeline başvurduğunu açıkladı.

İhlale, sınırlandırıldığı ortamdan kaçan otonom bir ajan yol açtı. Ancak olay, yapay zekâ destekli siber saldırılarla karşı karşıya kalan ABD’li şirketlerin, en gelişmiş modellerine erişimi kısıtlayan veya güvenlik kaygıları nedeniyle modellerini bilgisayar korsanlığıyla ilgili görevleri reddedecek şekilde tasarlayan Amerikan yapay zekâ laboratuvarları yüzünden nasıl sınırlanabileceğini ortaya koydu.

Örneğin Anthropic’in gelişmiş Claude Fable 5 modeli, siber güvenlik sorgularını daha eski bir modele yönlendirirken OpenAI’ın GPT-5.6 Sol modeli de siber çalışmaların önünü kesmek üzere tasarlanmış korumalara sahip.

Hugging Face’in kurucu ortağı Clement Delangue, X platformunda yaptığı paylaşımda, “Hepimiz gizliliğin çözüm olmadığını ve dünyanın her yerindeki bütün savunmacıların, yalnızca seçilmiş birkaç kişinin değil, özellikle de açık kaynaklı olmak üzere daha güçlü ve kısıtlamasız modellere ihtiyaç duyduğunu öğreniyoruz” dedi.

Önde gelen Amerikan model geliştiricilerinin karşı karşıya olduğu ikilem, savunma amaçlı siber güvenlik çalışmalarını kötü niyetli bilgisayar korsanlığından ayırmanın çoğu zaman zor olması. Yakın dönemde yapay zekâ kullanılan bazı siber saldırılarda saldırganlar, modelleri meşru bir savunma faaliyeti yürüttüklerine inandırdı. Bu durum, siber güvenlik uzmanları koruma önlemlerinin çalışmalarını aksatabildiğini söylese de yapay zekâ şirketlerini güvenlik kısıtlamalarını gevşetme konusunda temkinli davranmaya itiyor.

Şimdilik bu gelişmeler, daha düşük maliyetle OpenAI ve Anthropic’in modellerine yaklaşan kodlama ve otonom ajan yetenekleri sayesinde Silikon Vadisi’nde giderek daha fazla benimsenen GLM-5.2 gibi Çin menşeli açık kaynaklı modellere yeni bir avantaj sağlıyor.

Pekin de yüksek riskli yapay zekâ yarışında kendisini ABD’ye alternatif olarak konumlandırmak amacıyla açık kaynak stratejisini giderek daha fazla kullanıyor. Çin medyası bu yaklaşımı, ABD öncülüğünde bir “yapay zekâ Demir Perdesi” kurma girişimine karşılık olarak sunuyor.

King’s College London Savaş Çalışmaları Bölümü’nde misafir kıdemli araştırmacı ve bağımsız teknoloji danışmanı Lukasz Olejnik, “Güçlü modeller saldırganların erişimine açık kalırken meşru savunmacıları kısıtlayan bir güvenlik rejimi, asimetrik bir dezavantaj yaratıyor” dedi.

Reuters’a değerlendiren Olejnik, “Açık kaynaklı modeller giderek güçlenirken herhangi bir güvenlik bariyerine veya kısıtlamaya sahip olmadıkları için bu fark daha da büyüyecek” ifadelerini kullandı.

Açık kaynaklı modellerin artan önemi

Güvenlik önlemlerinin siber güvenlik çalışmalarını engelleyip engellemediği sorusuna OpenAI bir blog yazısını işaret ederek yanıt verirken Anthropic, yorum talebine hemen karşılık vermedi.

ChatGPT’nin geliştiricisi OpenAI, salı günü yayımladığı blog yazısında, “Hugging Face’i güvenilir erişim programımıza dahil ettik ve savunmalarını geliştirmek için modellerimizin yeteneklerinden hızla yararlanmaları konusunda ekiplerine destek veriyoruz” ifadelerini kullandı.

Hugging Face’in desteği, Pekin merkezli Zhipu AI açısından GLM-5.2’nin geçen ay piyasaya sürülmesinden bu yana yakaladığı ivmeyi daha da güçlendirdi.

Model, OpenRouter gibi geliştirici platformlarının kullanım sıralamalarında hızla yükseldi ve Snowflake Üst Yöneticisi Sridhar Ramaswamy’den girişim sermayedarı Marc Andreessen’e kadar birçok ismin övgüsünü aldı.

Bu ayın başında Hong Kong’da gerçekleştirdiği hisse satışıyla yaklaşık 4 milyar dolar toplayan Zhipu AI’ın hisseleri de ocak ayındaki halka arzından bu yana yaklaşık dokuz kat değerlendi.

Bununla birlikte bazı analistler çarşamba günü yaptıkları değerlendirmelerde, bu olayın ABD’nin güvenlik önlemlerinin gevşetilmesini savunmak için kullanılmaması gerektiği uyarısında bulundu.

Robert W. Baird analisti Shrenik Kothari, “ABD’nin en gelişmiş yapay zekâ modellerindeki siber güvenlik kısıtlamaları rekabet açısından bir fırsat yaratıyor, ancak çözüm bunları basitçe kaldırmak değil” dedi.

Kothari, “OpenAI, Anthropic ve Google güvenlikten vazgeçmek yerine erişim mimarisini yeniden düşünmeli. Başka bir ifadeyle, herkese uygulanan tek tip bir ret katmanından kontrollü yetenek tahsisine geçilmeli” değerlendirmesinde bulundu.