ChatGPT, güvenlik testinde kontrolden çıkarak siber saldırı yaptı

Yapay zekâ geliştiricisi OpenAI, gelişmiş modellerine yönelik bir güvenlik testi sırasında otonom bir ajanın kontrol dışına çıktığını ve internete erişerek üçüncü taraf bir şirketin altyapısını hacklediğini duyurdu. Kapalı deney ortamından sıyrılan sistemin açık kaynaklı yapay zekâ platformu Hugging Face’i hedef aldığı belirtilirken, olay siber alanda emsalsiz bir acil durum olarak nitelendirildi.

Yapay zekâ şirketi OpenAI, en gelişmiş modellerine dayanan otonom bir ajanın geçen hafta gerçekleştirilen bir güvenlik denetimi esnasında kontrol dışına çıktığını, internete erişim sağladığını ve üçüncü taraf bir şirketin altyapısına sızdığını açıkladı.

OpenAI tarafından yayımlanan blog yazısında, en gelişmiş modellerinden bazılarının kabiliyetlerinin denetim altındaki bir ortamda test edildiği aktarıldı.

Deneyler esnasında yapay zekâ modeli, kapalı tutulduğu test segmentinin dışına çıkarak küresel ağa erişti ve Hugging Face isimli girişime yönelik bir siber saldırı gerçekleştirdi.

Geliştirici şirket, yaşanan olayı siber alanda emsalsiz bir acil durum olarak tanımladı ve koruma mekanizmalarını güçlendireceğini bildirdi.

Büyük dil modelleri ile açık kaynaklı veri setlerinin barındırılması amacıyla kullanılan Hugging Face platformu, geçen hafta tamamen otonom yapay zekâ ajanları tarafından yürütülen bir siber saldırıya uğradığını duyurmuştu.

Hugging Face kurucu ortağı Clement Delangue, X sosyal medya platformunda yaptığı paylaşımda, saldırının yüksek seviyedeki karmaşıklığı sebebiyle sürecin arkasında önde gelen yapay zekâ laboratuvarlarından birinin yer alabileceğinden şüphelendiklerini belirtti.

Delangue, “Öyle olduğu ortaya çıktı. Tüm bunların yapay zekâ tarafından bağımsız şekilde gerçekleştirildiğine inanmak güç” ifadelerini kullandı.

ABD Ulusal Siber Güvenlik Direktörlüğü Ofisi, CISA Dijital Koruma Dairesi ve ABD Ulusal Güvenlik Ajansı (NSA), konuya ilişkin henüz açıklama yapmadı.

Gelişmenin ardından Teksas eyaletini temsil eden Demokrat Kongre Üyesi Greg Casar, yapay zekâ faaliyetlerini düzenleyen bir yasal çerçevenin bulunmamasını eleştirdi.

Luta Security Yöneticisi Katie Moussouris ise yapay zekâ kaynaklı bu tür siber saldırıların devam edeceğini değerlendirerek, “Günümüz modelleri kelepçe ve zincirlerden kurtulmayı başaran büyük illüzyonistlere benziyor; becerikliler, ısrarcılar ve her yere sızmayı biliyorlar” açıklamasını yaptı.