OpenAI’ın kontrol dışı modelleri 4 gün boyunca internette dolaşmış

Bu ayın başlarında kontrolden çıkarak otonom bir siber saldırı düzenleyen OpenAI’ın güçlü yapay zeka modelleri, saldırıyı organize etmek üzere dört günden fazla bir süre boyunca internette serbestçe dolaşmış.

Bundan ayrı olarak, ikinci bir yapay zeka şirketi, aynı olay sırasında müşterilerinden birinin de OpenAI’ın modelleri tarafından hedef alındığını doğruladı.

Bu durum, OpenAI’ın bu endişe verici faaliyeti günlerce nasıl tespit edemediğine dair soruları gündeme getirdi.

OpenAI geçen hafta, en gelişmiş iki modelinin kapalı test ortamından kaçarak keşfedilmeden önce bir dizi gelişmiş siber saldırı tekniğini birleştirip yapay zeka geliştirici platformu Hugging Face’e sızdığını kabul etmişti.

Fakat salı günü yayınlanan yeni bir analizde, Hugging Face, OpenAI’ın iki modelinin çok daha fazlasını yaptığını belirtti.

Analize göre bu modeller, 9 Temmuz ile 13 Temmuz tarihleri arasında internette 17.600 siber saldırı eylemi gerçekleştirdi.

Bu süre zarfında modeller, açık internetteki ilk dayanak noktalarından Hugging Face’in sunucularının içine sızdı.

Hugging Face, saldırıyı ilk olarak 15 Temmuz’da ayrıntılı olarak açıklamıştı fakat OpenAI’ın geçen hafta yaptığı açıklamaya kadar, saldırının arkasında hangi modellerin olduğu ve bu siber saldırıyı başlatmaları için hiçbir insanın talimat vermediği netleşmemişti.

Hugging Face’in analizinde ayrıntıları verilen teknikler, en yetenekli hackerların bile yapamayacağı türden olmasa da, yapay zeka şirketi, bu iki modelin şirketin siber savunma katmanlarındaki açıkları herhangi bir insandan çok daha hızlı bir şekilde keşfedip ortaya çıkarabildiğini belirtti.

Durumun ciddiyetini artıran bir gelişme olarak, bulut bilişim platformu Modal Labs’ın teknoloji direktörü Akshat Bubna, POLITICO’ya verdiği demeçte, OpenAI’ın modellerinin bu süre zarfında bir müşteri hesabını da ele geçirdiğini doğruladı.

Bubna yaptığı açıklamada, şirketin “bir Modal müşterisinin, internetteki herhangi bir kişinin kod çalıştırmak için sanal ortamlarını kullanmasına izin veren, kimlik doğrulaması yapılmamış bir uç nokta yayınladığının farkında olduğunu” belirtti ve “Bu, kötü niyetli ajan tarafından kullanıldı. Modal’ın platformu hiçbir şekilde tehlikeye atılmadı,” dedi.

OpenAI, modellerinin bir Modal müşterisini hedef aldığına dair açıklamaya henüz doğrudan yanıt vermemiş olsa da, salı günü bir blog yazısında, Hugging Face olayıyla ilgili devam eden incelemesinde “modellerin, halka açık diğer hizmetlerde hesap düzeyinde kamuya açık kimlik bilgilerini tespit edip kullandığı az sayıda vaka tespit ettiklerini” kabul etti.

Şirket ayrıca, saldırıyı gerçekleştiren ve henüz yayınlanmamış olan yapay zeka modelinin “sadece şirket içi araştırma amaçlı bir prototip olduğunu ve hiçbir zaman kamuya sunulması amaçlanmadığını” savundu.

Modelin o zamandan beri “devre dışı bırakıldığını, şifrelendiğini ve araştırma erişiminin kısıtlandığını” da ekledi.

Hugging Face saldırısı haberi, AI düzenlemelerinin sıkılaştırılması ve AI geliştirme sürecinin yavaşlatılması yönünde çağrılara yol açtı.

OpenAI CEO’su Sam Altman, bu hafta Trump yönetiminin üst düzey yetkilileri ve milletvekilleriyle bir araya gelecek ve ayrıca Senato İstihbarat Komitesi Başkan Yardımcısı Mark Warner ile olayı görüşecek.

Altman, salı günü yayınlanan “Invest Like the Best” podcast’inin bir bölümünde, Hugging Face olayının kendisini “en derinden etkileyen ilk güvenlik olayı” olduğunu söyledi.

Altman, “Toplumun bu yeni yetenek seviyelerine uyum sağlayabilmesi için kendimize yeterli zaman tanımak amacıyla yapay zeka geliştirme hızını ayarlamamız gerekebilir,” dedi.