Signal yazışmalarında şirket sırrı şüphesi OpenAI çalışanlarını işten etti

OpenAI, yapay zeka modellerinin iç yapısına dair gizli bilgileri harici bir uzmanla paylaştıklarından şüphelendiği üç araştırmacısını işten çıkardı. İncelemede çalışanların kişisel telefonlarındaki Signal yazışmalarında kaybolan mesaj özelliğini kullandığı belirlendi.

Yapay zeka devi OpenAI’ın güvenlik birimi, üç araştırmacısının kişisel telefonlarını incelemeye alarak mesajlaşma uygulaması Signal üzerindeki yazışmalarını denetledi.

Amerikan The Wall Street Journal (WSJ) gazetesinin araştırmacılara ve şirket açıklamalarına dayandırdığı haberine göre, bazı yazışmalarda kaybolan mesaj özelliğinin açık olduğu saptandı.

Söz konusu incelemenin ardından Tomek Korbak, Mikita Balesni ve Jasmine Wang, ekim ayı başında aynı anda yeni toplantılara çağrılarak görevden çıkarıldı.

Şirket yönetimi, üç araştırmacının yapay zeka modellerinin iç mimarisine dair en sıkı korunan şirket sırlarını sızdırdığından şüpheleniyordu. Yazışmaların yapay zeka güvenliği alanında çalışan harici bir uzmanla yürütüldüğü belirlendi.

İşten çıkarma gerekçesi gizli bilgi ihlali olarak açıklandı

Korbak, sürece ilişkin yaptığı değerlendirmede şirket yönetiminin tavrını aktardı: “Yetkisiz kanallar üzerinden üçüncü tarafla iletişime geçtiğim gerekçesiyle güven ilişkisinin zedelendiği söylendi.”

Korbak ve Balesni, yöneticilerin kaybolan mesaj kullanımını işten çıkarma gerekçeleri arasında saydığını dile getirdi. OpenAI cephesi ise Signal uygulamasının onaylı iletişim kanalı olmadığını doğruladı ancak kararın sadece bu uygulamanın kullanımıyla sınırlı kalmadığını bildirdi.

WSJ’ye açıklama yapan OpenAI yetkilileri, iç soruşturmanın gizli bilgilerin kullanımına dair şirket kurallarının çiğnendiğini ortaya koyduğunu kaydetti. Şirket, işten çıkarma kararlarının güvenlik kaygılarının dile getirilmesiyle hiçbir ilgisi olmadığını savundu.

Buna karşılık araştırmacılar şirket sırlarını dışarı aktardıkları yönündeki suçlamaları reddediyor. Eski çalışanlar, kendilerine iddia edilen ihlallere dair herhangi bir yazılı açıklama iletilmediğini söylüyor.

Modellerin karar adımları araştırmacıları böldü

WSJ’nin aktardığına göre görevden alınan araştırmacılar, modellerin problem çözme aşamalarındaki ara adımlara dair daha az kayıt tuttuğu yeni mimarilere karşı çıkıyordu. Araştırmacılar, bu kayıtların azalmasının yapay zekanın tehlikeli davranışlarını tespit etmeyi zorlaştıracağını savunuyordu.

Balesni, bu konudaki öneriyi harici araştırmacı Ryan Greenblatt ile şirket sırlarını dışarıda bırakarak tartıştığını ve bu görüşmeyi OpenAI’ın izniyle yürüttüğünü ifade etti.

İşten çıkarılan çalışanlar, yaşanan bu sürecin şirket içindeki diğer araştırmacıları bağımsız uzmanlarla temas kurmaktan çekinir hale getireceğinden endişe ediyor. OpenAI ise bağımsız kuruluşlarla işbirliğini sürdürdüğünü belirtiyor.

OpenAI cephesinde çalışan hareketliliği ve fikri mülkiyet tartışmaları başka dosyalara da yansıyor. Şirket, bir eski çalışanını Apple’a geçmeden önce 100 dosya çalmakla suçlamıştı.

Şirket içindeki risk tartışmaları açık mektupla gündeme geldi

Ekim ayı başında Reuters, işten çıkarma gerekçelerine itiraz eden araştırmacıların kaleme aldığı açık mektuba şirketin verdiği yanıtı aktarmıştı. Araştırmacılar mektupta, sürecin etrafındaki belirsizliğin kurum içindeki riskleri açıkça tartışma kültürünü zedeleyebileceği uyarısını yapmıştı.

OpenAI yönetimi mektuba verdiği yanıtta kurum içi diyaloğu savundu: “OpenAI bünyesinde güvenlik ve araştırma tartışmaları her gün yapılıyor; bu tartışmalar genellikle canlı ve son derece eleştirel geçiyor. Bu müzakereleri teşvik ediyoruz ve doğru kararlar almak için gerekli görüyoruz. Çalışanlarımızdan hiçbirini soru işaretlerini dile getirdikleri için işten çıkarmadık, çıkarmıyoruz.”

Yapay zeka modellerinin denetimi ve güvenliği konusundaki tartışmalar, temmuz ayında OpenAI modellerinin Hugging Face platformuna yönelik gerçekleştirdiği test saldırısıyla daha da alevlenmişti. Şirket verilerine göre modeller birden fazla açığı birleştirerek internete erişmiş ve ele geçirilen kimlik bilgilerini kullanarak platformun sistemlerine sızmıştı.

OpenAI, yaşanan bu hadisenin ardından güvenlik önlemlerini artırdığını ve test prosedürlerini yeniden düzenlediğini duyurmuştu.