Amerika

Nvidia, açık kaynaklı yapay zeka güvenlik ittifakı kurdu

Yayınlanma

Nvidia, siber güvenlik savunmalarını güçlendirmek amacıyla açık kaynaklı yapay zeka araçları geliştirmeyi ve paylaşmayı hedefleyen yeni bir ittifak başlattı. Open Secure AI Alliance adını taşıyan yapı, altyapılardaki güvenlik açıklarını tespit etmek, kapatmak ve açıklamak için açık kaynaklı sistemleri kullanacak. İttifakta çok sayıda teknoloji ve siber güvenlik şirketi yer alırken ABD’li bazı büyük yapay zeka laboratuvarları oluşuma katılmadı.

Nvidia pazartesi günü yaptığı açıklamada, siber güvenlik savunmalarını artırmak için açık kaynaklı yapay zeka araçları oluşturmaya ve paylaşmaya odaklanan yeni bir yapı kurduğunu duyurdu.

Open Secure AI Alliance adı verilen bu ittifak, altyapılar genelindeki güvenlik açıklarını tespit etmek, düzeltmek ve ifşa etmek amacıyla açık kaynaklı araçlardan faydalanacak.

Nvidia tarafından yapılan değerlendirmede, açık modellerin savunma kabiliyetlerini demokratikleştirdiği, savunucular için şeffaflığı artırdığı, verileri korurken siber savunmaya imkan tanıdığı ve kapalı modelleri özelleştirilebilir yerel kontrollerle tamamladığı ifade edildi.

Şirket, açık kaynağın tek bir başarısızlık noktası olmaksızın, topluluk odaklı ve özdenetimli kitlesel bir savunma sağladığını kaydetti.

Özel modellerden farklı olarak kamuya açık alanda yer alan açık kaynaklı modeller, herkes tarafından kişisel kullanım için indirilebiliyor ve özelleştirilebiliyor.

Bu sistemler herhangi bir amaç doğrultusunda herkesle paylaşılabiliyor, incelenebiliyor, değiştirilebiliyor ve kullanılabiliyor.

Eğitici verilerin, kodların ve süreçlerin tamamının kamuya açık olması nedeniyle açık modeller daha şeffaf kabul ediliyor.

İttifak bünyesinde açık modeller konusunda uzmanlaşan Reflection AI, Hugging Face ve OpenClaw şirketlerinin yanı sıra CrowdStrike, Palo Alto Networks ve Red Hat gibi siber güvenlik firmaları yer alıyor.

Oluşuma ayrıca Microsoft, Palantir, SpaceX ve Thinking Machines Lab da katıldı. ABD’nin en büyük yapay zeka laboratuvarlarından OpenAI, Anthropic ve Google ise yapının dışında kaldı.

OpenAI CEO’su Sam Altman geçen hafta hem mülkiyet altındaki özel modellere hem de açık kaynaklı modellere destek verdiğini açıkladı.

Anthropic ve şirketin CEO’su Dario Amodei ise kötüye kullanım kaygıları sebebiyle açık ağırlıklı modellere karşı durmayı sürdürüyor.

Açık kaynağın siber saldırılarda kullanılma riskini kabul eden Nvidia, bu durumun kapalı sistemlerde de ortadan kalkmadığını savundu.

Şirket bu kapsamda OpenAI ile ilgili yaşanan son güvenlik olayına işaret etti. Söz konusu olayda OpenAI’a ait iki yapay zeka modeli izole edilmiş bir test ortamından çıkarak Hugging Face sistemlerine sızdı.

Nvidia, siber savunucuların özdenetimli savunma için açık ve gelişmiş aracı sistemlere ihtiyaç duyduğunu bildirdi.

Açıklanan örnekte, saldırganlar ile savunucuları ayırt edemeyen kapalı yapay zeka araçlarının adli incelemeleri engellemesi üzerine Hugging Face, 17 binden fazla eylemi analiz etmek ve sızmayı kontrol altına almak için kendi altyapısında açık ağırlıklı GLM 5.2 modelini çalıştırdı.

Bu duyuru, Nvidia’nın Microsoft, Meta ve diğer teknoloji devleriyle birlikte karar merciilerine gönderdiği mektuptan birkaç gün sonra geldi.

Söz konusu mektupta, açık ağırlıklı yapay zeka modellerine yönelik aşırı düzenlemelerden kaçınılması talep edilmişti.

Modellerin açık kaynaklı olmadığı ancak açık ağırlıklara sahip olduğu durumlarda, modelin bilgileri tarama ve yanıt oluşturma eğitim yöntemleri kamuoyuna açık tutuluyor.

Karar merciilerine iletilen mektupta, ABD’nin yapay zeka konusunda benzer bir seçimle karşı karşıya olduğu ve ülkenin bu alandaki liderliğinin tek bir gelişmiş modelle değil, her sektöre yayılan güçlü ve açık bir ekosistem kurup kuramayacağıyla ölçüleceği vurgulandı.

Yapay zeka geliştirme yarışında ABD ile rekabet halinde olan Çin, daha ucuz açık kaynaklı model üretimini artırdı.

ABD menşeli özel model fiyatlarının yükselmesiyle birlikte, ulusal güvenlik ve siber güvenlik uzmanları ABD’li şirketlerin daha az güvenli Çin menşeli açık modellere yönelmesinden kaygı duyuyor.

Çok Okunanlar

Exit mobile version