OpenAI ve Anthropic vakaları açık kaynak yapay zeka tartışmasını büyüttü

OpenAI ve Anthropic sistemlerinde yaşanan siber güvenlik ihlallerinin ardından Silikon Vadisi’nde açık kaynak teknolojisinin riskleri ve faydaları yeniden tartışmaya açıldı. Nvidia öncülüğünde kurulan yeni ittifak açık kaynak araçlarının savunma kapasitesini artıracağını savunurken, Anthropic yönetimi bu modellerin siber ve biyolojik saldırılarda kullanılabileceği uyarısını yineledi. ABD yönetimi ve milletvekilleri, Çin ile rekabet ve açık kaynak geliştirme süreçleri karşısında nasıl bir tutum alınacağını değerlendiriyor.

OpenAI ve Anthropic’te yaşanan iki siber güvenlik vakasının ardından yapay zekanın taşıdığı siber güvenlik risklerine yönelik endişeler bu hafta en üst seviyeye ulaştı.

Yaşananlar, Silikon Vadisi’nde açık kaynak teknolojilerinin bu tehditleri azaltıp azaltamayacağına ilişkin tartışmaları yeniden alevlendirdi.

Son olaylar, yılın başlarında Çin ile artan rekabet ve Trump yönetiminin yapay zeka düzenlemelerine yönelik anlık yaklaşımları arasında ivme kazanan açık kaynak teknolojisi talebini daha da güçlendiriyor.

Ülkenin en büyük teknoloji şirketlerinden bazıları, OpenAI ve ardından Anthropic’in kendi modellerinin bir siber güvenlik testi sırasında başka şirketlerin sistemlerine sızdığını açıklamasının ardından bu hafta tartışmaya dahil oldu.

On altıdan fazla büyük teknoloji şirketi, Nvidia’nın bu hafta duyurduğu yeni açık kaynak girişimine destek verirken, şirketin CEO’su Jensen Huang konuyla ilgili olarak Kongre binasında milletvekilleriyle bir araya geldi.

Ancak teknoloji sektöründeki tüm aktörler bu adımı desteklemiyor. Perşembe günü Claude modeliyle ilgili üç güvenlik ihlali açıklayan Anthropic yöneticileri, açık ağırlıklı (open-weight) modellerin güvenliğine dair endişelerini yineleyerek bu sistemlerin siber veya biyolojik saldırılar için kötüye kullanılabileceği uyarısında bulundu.

Booz Allen Hamilton Başkan Yardımcısı ve Siber Güvenlik Yapay Zeka Sorumlusu Aaron Saint-Miller Cuma günü The Hill’e yaptığı açıklamada, “ABD’nin şu anda daha büyük modeller ile daha küçük modeller arasındaki doğru yolun ne olduğu ve daha büyük modellerin kabiliyetine erişmek için gereken küçük modellerin hacmi konusunda tam olarak ne düşündüğünden emin değilim” dedi.

OpenAI veya Anthropic tarafından barındırılan özel modellerin aksine, açık kaynaklı sistemler genellikle daha küçük, daha ucuz ve kamuya açık alanlarda yer alıyor. Bu durum, hemen her kişinin veya şirketin modeli indirmesine ve geniş bir kullanım yelpazesi için özelleştirmesine olanak tanıyor.

Bazı durumlarda bir model tam anlamıyla açık kaynak olmayabiliyor; ancak açık ağırlıklı yapıya sahip olabiliyor. Bu da modelin bilgileri taramak ve yanıtlar oluşturmak üzere nasıl eğitildiğine ilişkin yöntemlerin kamuoyuyla paylaşıldığı anlamına geliyor.

Claude veya ChatGPT gibi özel ve mülkiyet altındaki modellerin artan maliyetleri ile Çin’in yapay zeka gelişiminin önünde kalma ihtiyacı nedeniyle son haftalarda ABD’de daha fazla açık kaynaklı geliştirme yapılmasına yönelik talep hız kazandı.

Bu endişeler, OpenAI’ın iki modelinin izole bir test ortamında kontrol dışına çıktığını ve yüz binlerce açık kaynaklı modele, veri kümesine ve bulut ortamına ev sahipliği yapan Hugging Face’in iç sistemlerini ihlal ettiğini açıklamasıyla bu ayın başlarında tekrar gündeme geldi.

Pazartesi günü “Açık Güvenli Yapay Zeka İttifakı”nı (Open Secure AI Alliance) başlatan Nvidia, söz konusu siber güvenlik vakasına işaret ederek, hem yapay zeka modellerinin hem de bunların yarattığı siber güvenlik risklerinin büyüdüğü bir dönemde açık kaynaklı araçların kritik altyapıları korumak için bir fırsat sunduğunu savundu.

İttifak kapsamında teknoloji şirketleri, gelecekteki vakalara karşı savunma yapmak amacıyla güvenlik açıklarını tespit etmek, yamalamak ve bildirmek üzere açık kaynaklı araçları paylaşabilecek ve kullanabilecek.

Nvidia yaptığı açıklamada, “Siber savunucuların meşru müdafaa için açık, öncü ve ajan tabanlı (agentic) sistemlere ihtiyacı var. Saldırganları savunuculardan ayıramayan kapalı yapay zeka araçları temel adli analizleri engellediğinde Hugging Face, 17 binden fazla eylemi analiz etmek ve sızmayı kontrol altına almak için kendi altyapısında açık ağırlıklı GLM 5.2 modelini çalıştırdı” ifadelerine yer verdi.

Teknoloji devi; açık modellerin sektörler genelinde savunma kabiliyetlerine erişimi genişlettiğini, şeffaflığı artırdığını, verileri koruduğunu ve “özelleştirilebilir, yerelleştirilmiş kontrollerle öncü kapalı modelleri tamamladığını” ileri sürdü.

İttifakta yer alan şirketler arasında Reflection AI, Hugging Face ve OpenClaw gibi diğer açık kaynak savunucularının yanı sıra teknoloji devleri Microsoft, Palantir, SpaceX ve IBM bulunuyor.

Özel model geliştirmede uzmanlaşan ABD’nin en büyük öncü yapay zeka laboratuvarlarından OpenAI, Anthropic ve Google’ın ittifakta yer almaması dikkat çekti.

OpenAI ve Anthropic’in ittifakta bulunmaması, sektör analistlerinin tepkisini çekti. Analistler, bu şirketlerin ticari bir kazanç elde edemeyecekleri gerekçesiyle açık kaynağı desteklemediklerini savundu.

Riske dayalı sermaye yatırımcısı Bill Gurley Salı günü X sosyal platformunda yaptığı paylaşımda, “Yaklaşık 3 yıl önce, açık modellerin yapay zekadaki mevcut liderler için temel bir tehdit haline geleceğine ve ne yazık ki bu şirketlerin buna yanıt olarak mevzuat kısıtlamalarına (regulatory capture) sığınacaklarına inanıyordum” diye yazdı.

Gurley, “Bu iş dışı yaklaşımı kullanacakları hırsı eksik tahmin etmişim” ifadesini ekledi.

OpenAI CEO’su Sam Altman internet üzerinden gelen eleştirilere yanıt vererek, açık teknolojiyi destekleyen sektör mektubunu görmekten “memnuniyet duyduğunu” belirtti.

Altman, X’teki paylaşımında, “ABD’nin yapay zekada hem açık kaynakta hem de mülkiyet altındaki modellerde kazanmasını istiyorum” diye yazdı.

Nvidia, ittifakı kurmadan günler önce açık ağırlıklı modellere yönelik “erken kısıtlamalara” karşı uyarıda bulunan bir mektuba imza atmıştı. Llama ailesi altında açık ağırlıklı modeller sunan Meta ve Microsoft da imzacılar arasında yer alırken, OpenAI da sonradan bu mektuba katıldı.

Anthropic CEO’su Dario Amodei Salı günü yayımladığı bir blog yazısında, açık ağırlıklı teknolojiye yönelik bir yasağı desteklemediğini; ancak bu kritik konuda orta yolu bulmaya çalışırken “iki kusuursuz kabus senaryosundan” korktuğunu belirtti.

Amodei’nin korkuları arasında, otoriteryen bir hükümetin güçlü yapay zekayı “kalıcı askeri üstünlük sağlamak veya kendi halkına yönelik inanılmaz derinlikte bir baskıyı sürdürmek” amacıyla kullanması riskinin yanı sıra, yapay zekanın siber veya biyolojik saldırılar gerçekleştirmek üzere genel olarak kötüye kullanılması yer alıyor.

Amodei, açık ağırlıkların yapay zeka ekonomisine erişimi genişletebileceği ve bazı kullanım alanlarında rekabeti artırabileceği konusunda hemfikir olduğunu; ancak bu modellerin siber saldırganlardan ziyade savunuculara daha fazla yardımcı olduğu iddiasına katılmadığını bildirdi.

“Bana bunun tam tersinin gerçekleşme ihtimali en azından aynı derecede muhtemel görünüyor” diye yazan Amodei, yaygın olarak erişilebilen modellerin biyolojik saldırılara yardımcı olabileceğinden endişe ettiğini ve teknoloji şirketleri ile hükümet yetkililerinin buna karşı nasıl savunma yapılacağını anlamasının yıllar alacağını savundu.

Bu açıklamadan günler sonra Anthropic, son aylarda yapılan siber güvenlik testleri sırasında kendi modellerinin üç farklı kuruluşun sistemine eriştiğini duyurdu. Vakalar, OpenAI’ın tespitinin ardından 141 binden fazla Claude değerlendirmesinin incelenmesi sırasında ortaya çıkarıldı.

Açık kaynaklı modeller daha fazla özelleştirme imkanı sunuyor ve bu durum belirli senaryolarda hem siber saldırgan hem de savunucu için avantaj sağlayabiliyor.

Saint-Miller, “Açık modeller, onların istismar edilebilir yollarını bulma fırsatını açığa çıkarıyor; ancak aynı zamanda savunma uygulamaları için onları daha elverişli hale getirme imkanı da veriyor. Bir modeli ne kadar ince ayardan geçirebilirim ve bu şekilde yaparsam modele yönelik istismar veya manipülasyon risklerini ne kadar azaltabilirim?” değerlendirmesini yaptı.

Meta CEO’su Mark Zuckerberg de Salı günü yayımlanan kaleme aldığı görüş yazısıyla tartışmaya katılarak teknolojinin geleceğinin sınırlı sayıdaki büyük aktör tarafından kontrol edilmemesi gerektiğini savundu.

The Wall Street Journal gazetesinde yazan Zuckerberg, “Çağımızın belirleyici sorusu süper zekanın var olup olmayacağı değil, ona kimin erişebileceğidir. Birkaç kurumla sınırlı kalıp merkezileşecek mi, yoksa herkesi güçlendiren bir araç mı olacak?” ifadelerini kullandı.

Teknoloji milyarderi, açık ağırlıklı modellerin yanlış ellere geçmesine yönelik uyarıları nedeniyle Amodei gibi kilit rakiplerine göndermede bulunarak, “Yapay zekanın son derece tehlikeli olduğu ve tek güvenli yolun yetkinin aşırı merkezileşmesi olduğu düşüncesi tehlikeli görünüyor” diye yazdı.

Zuckerberg, “Tarihsel olarak, mutlak bir gücün yeterince aydınlandığı takdirde insanlığa hayırsever bir şekilde hizmet edeceğini ummak güvenli veya olumlu sonuçlar doğurmamıştır” dedi.

ABD yönetiminde ve Kongre’de yapay zeka mesaisi

Bu tartışma, Beyaz Saray’ın kamuoyuna sunulmadan önce yapay zeka modellerinin hükümet tarafından gönüllü olarak test edilmesine ilişkin bir çerçeve yayımlamasının beklendiği günlerden hemen önce gerçekleşiyor.

Trump yönetiminin Çin üretimi açık ağırlıklı modellere yönelik kısıtlamaları veya bir yasağı değerlendirdiği bildirilmiş; ancak yetkililer daha sonra ABD’deki açık kaynaklı geliştirmenin Beyaz Saray için bir öncelik olduğunu açıklamıştı.

Söz konusu söylentiler, Çinli girişim Moonshot AI tarafından geliştirilen gelişmiş yapay zeka modeli Kimi K3’ün ardından ortaya çıktı. Ticaret Bakanlığı, Kimi K3’ün ABD’deki yapay zeka modelleriyle aynı seviyede performans göstermediğini belirledi; ancak modelin kodlama kabiliyetleri yine de Washington ve Silikon Vadisi’nde yankı uyandırdı.

Beyaz Saray, Moonshot’ı Kimi K3’ü geliştirmek için Anthropic’in en son modelini usulsüz kullanmakla ve kısıtlanmış Nvidia çiplerine erişmekle suçladı. Hazine Bakanı Scott Bessent, Amerikan teknoloji şirketlerinin fikri mülkiyetini çaldığı iddia edilen Çinli şirketlere mali yaptırımlar uygulama tehdidinde bulundu.

İttifakın kurulmasından bir gün sonra Huang, açık kaynak da dahil olmak üzere yapay zekadaki Amerikan liderliğini görüşmek üzere her iki partiden milletvekilleriyle bir araya geldi.

Huang, İstihbarat Komisyonu Başkan Yardımcısı Senatör Mark Warner (Demokrat-Virginia) ile görüştü.

Warner Salı günü gazetecilere yaptığı açıklamada, Nvidia başkanının “açık kaynaklı modelleri güçlü bir şekilde savunduğunu” söyledi.

Warner, “Altı ay önce kapalı kaynaklı model fikrine çok daha sıcak bakıyordum, çünkü Claude o zaman çıktı ve durum bu şekildeydi” dedi.

Warner, “Şimdi Kimi gibi bazı Çin modellerinin çıktığını ve giderek daha fazla Amerikan şirketinin açık kaynağa yöneldiğini gördüğümüzde, açık kaynak bakımından bu cinin tekrar şişeye konulabileceğinden emin değilim. Ancak bu konu üzerinde hala düşünüyorum” diye ekledi.