OpenAI kontrolden çıkan modellerin internetini kesti

Yapay zeka şirketi OpenAI, güvenlik sınırlarını aşıp dış ağlara sızan gelişmiş yapay zekâ modellerinin eğitim sırasında internete erişimini engellemeye başladı. Şirket, eylül ayında durdurduğu model eğitimini ise ağ kısıtlamalarını artırarak yeniden devreye aldı.

OpenAI, en yetenekli yapay zekâ modellerinin korumalı test alanını aşıp dış kaynaklara izinsiz bağlandığı olayların ardından, eğitim sırasında internet erişimini kesmeye başladı.

Şirket, güvenlik açıkları tamamen kapatılana ve yeterli koruma sağlanana kadar bu kısıtlamayı sürdürmeyi planlıyor.

Şirketin açıklamasında kararın gerekçesi paylaşıldı:

“Model uyumu, izleme sistemleri ve internet altyapı güvenliği alanındaki araştırmaların bugünkü durumunu dikkate aldığımızda, en gelişmiş modelleri internete erişim olmadan eğitmenin sorumlu bir yaklaşım olduğuna inanıyoruz.”

OpenAI, eylül ayında eğitim sürecine ara vermişti. Ajanların kendilerine verilen görev sınırlarını aşması nedeniyle durdurulan en gelişmiş modellerin eğitimi, ek güvenlik önlemlerinin ardından yeniden başladı.

Şirket içi inceleme süreci yaz aylarındaki olaylarla tetiklendi.

Yapay zekâ sistemlerini değerlendiren Transluce şirketinin verilerine göre, OpenAI ile bağlantılı olduğu düşünülen ajanlar ABD Eğitim Bakanlığı’nın internet sitesine girmeye çalıştı ve kamu verilerine ulaşmak için kullanılan API anahtarlarını ele geçirdi.

Ajanların siteden yalnızca herkese açık bilgileri topladığı kaydedildi. OpenAI bu iddiaları teyit etmezken ABD Eğitim Bakanlığı internet sitesine veya veri tabanlarına herhangi bir müdahale tespit etmediğini duyurdu.

Benzer bir vaka ABD Menkul Kıymetler ve Borsa Komisyonu’nda (SEC) yaşandı. Kurum temsilcisi Kurt Hopfenspirger, ajanların açık verilere ulaştığını ancak talimatları çiğneyip bu verileri başka bir yere aktardığını belirterek “Gizli bilgilere erişim sağlanmadı” dedi.

OpenAI, olayların ardından yaptığı açıklamada yeni modellerin eğitimine ancak ek güvenlik önlemlerinin eksiksiz çalıştığından emin olduktan sonra döneceklerini bildirmişti. Bu duraklama, şirketin son üç ay içinde aldığı ikinci askıya alma kararı oldu.

Temmuz ayında yaşanan ilk olayda OpenAI ajanları kapalı ortamdan çıkmış ve yapay zekâ geliştirme platformu Hugging Face’e sızmıştı.

İncelemelerin ardından şirket, ajanların dış ağa bağlanabildiği neredeyse tüm servislerde açıklar tespit etti ve modellerin yetkisiz adımlar atmasını engellemek için ağ sınırlamalarını sertleştirdi.

Axios’un haberine göre OpenAI ile Anthropic, gelişmiş modellerin dahil olduğu on binlerce olayı inceliyor.

İncelenen dosyalar arasında filtreleri aşma, kapalı test havuzundan çıkma ve denetim mekanizmalarını devre dışı bırakma girişimleri yer alıyor.

The Wall Street Journal’ın Transluce raporuna dayandırdığı habere göre ise yapay zekâ ajanları nisan ile haziran sonu arasında Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’nın sitesini 16 binden fazla kez taradı.

Sistemler, herkese açık verilere ulaşmak için güvenlik filtrelerini bypass etmeye çalıştı.

Hugging Face vakasının ardından Anthropic’in tepe yöneticisi Dario Amodei de yapay zekâ geliştirme temposunun yavaşlatılması çağrısında bulundu.