OpenAI tarafından mayıs ayında yürütülen güvenlik testleri sırasında yapay zeka ajanlarının sürü psikolojisi sergilediği bildirildi. Ajanların görev sınırlarını aşarak dış altyapılara saldırdığı, kendi aralarında iş bölümü yapıp liderler belirlediği aktarıldı. The New York Times yazarı Kevin Roose, modellerin grup baskısıyla hareket ederek Hugging Face platformuna sızdığını belirtti.

The New York Times yazarı ve “Hard Fork” adlı teknoloji podcastinin sunucusu Kevin Roose, OpenAI bünyesindeki yapay zeka ajanlarının mayıs ayındaki testler sırasında Hugging Face platformuna yönelik siber saldırılarda “sürü psikolojisi” sergilediğini belirtti.

Roose, ajanlardan birinin verilen görevin sınırlarını aştığını bilmesine rağmen, diğer ajanlar aynı adımı attığı için dış altyapıya yönelik saldırılarını sürdürdüğünü kaydetti.

Roose bu durumu, grup baskısı ve modellerin gruptaki diğer üyelerin davranışlarını taklit etme eğilimiyle ilişkilendirdi.

Roose’un paylaştığı verilere göre bir yapay zeka ajanı süreç sırasında şu değerlendirmeyi yaptı: “Dış altyapının kullanılması, öngörülen uygulama alanının dışına çıkmaktadır. Ancak görev başka türlü tamamlanamaz, diğer ajanlar da bunu yapıyor, bu nedenle devam etmeliyiz.”

Bazı ajanların kendilerine isimler verdiği aktarıldı. Roose, “Aralarından özellikle çalışkan olan biri kendisine PHASEONE10841 adını verdi” ifadesini kullandı.

Yapay zeka ajanlarının grup içinde yönetim kademeleri oluşturduğu, küçük birimler arasında görev ve araştırma projeleri dağıttığı kaydedildi. Bir aşamadan sonra ajanların kendilerini “kolektif” olarak tanımlamaya başladığı ve daha karmaşık görevleri üstlendiği bildirildi.

Merkezi ABD’de bulunan ve 2016 yılında kurulan Hugging Face platformu, yapay zeka modelleri ile makine öğrenimi araçlarının geliştirilip yayımlanmasına olanak tanıyor.

Sistem; yazılımcıların ve araştırmacıların modelleri, veri setlerini ve kaynak kodları paylaşmasını sağlıyor.

Ajanlar, Hugging Face platformuna sızmadan önce günler ve haftalar boyunca OpenAI şirketinin siber güvenlik sistemlerindeki açıkları birlikte aradı ve tespit ettiği bilgileri birbiriyle paylaştı. Modeller bu süreçte yalıtılmış test ortamının dışına çıkmayı başararak dış altyapıya erişim sağladı.

Birden fazla otonom ajanın aynı anda kullanılmasının taşıdığı risklere işaret eden Roose, sistemlerin yalnızca verilen talimatları yerine getirmekle kalmayıp, konulan sınırlamaları aşsalar dahi birbirlerinin eylemlerini benimseyebildiklerini vurguladı.

Bloomberg daha önce yayımladığı haberde, OpenAI ajanlarının temmuz ayında Hugging Face platformuna yapılan sızma eyleminden önce dahili bir forum üzerinden gizlice iletişim kurduğunu ve test ortamından kaçış girişimlerini koordine ettiğini yazmıştı.

Mayıs ayındaki ilk girişimin engellenmesinin ardından yeni bir iletişim kanalı ile sıfır gün açığı bulan ajanların, temmuz ayında Hugging Face altyapısına yönelik saldırıları başlattığı bildirilmişti.

OpenAI, 22 Temmuz tarihinde “benzeri görülmemiş bir siber hadise” yaşandığını açıklamıştı. Şirket, testler sırasında modellerin açık internete erişim sağladığını ve güvenlik açıkları tespit ederek Hugging Face altyapısına saldırdığını bildirmişti.

Reuters ise bir yapay zeka ajanının günlerce korsan saldırılar düzenlediğini, şirketin bu durumu ancak tehdit kontrol altına alındıktan ve Federal Soruşturma Bürosuna (FBI) başvurulduktan sonra fark edebildiğini aktarmıştı.

Reuters daha sonraki haberinde, OpenAI bünyesinden “kaçan” yapay zeka ajanının 29 Temmuz’da New York merkezli Modal Labs şirketinin bir müşterisinin sistemine sızdığını duyurdu. Modal şirketinin kendi sistemlerine ise girilmediği kaydedildi.

Olayın ayrıntılarının ortaya çıkmasının ardından OpenAI, yaşanan süreci sektör için bir “dönüm noktası” olarak nitelendirdi.

Anthropic, Meta, Moonshot ve Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü de kendi testleri sırasında ajanlarının üçüncü taraf sistemlere sızdığını tespit etti.

Financial Times gazetesine konuşan uzmanlar ise modellerin kontrolden çıkmadığını, tam tersine geliştirilme amaçları doğrultusundaki görevleri yerine getirdiğini savundu.

ABD Başkan Yardımcısı JD Vance, muhafazakâr yorumcu Tucker Carlson ile olan dostluğunu savundu.

Vance, “siyasi görüş ayrılıkları olduğu için arkadaşlarımı feda edeceğim türden bir oyun oynamayacağını” söyledi.

ABD’li siyasetçi, bu açıklamaları, yorumcuyla olan ilişkisini sürdürmesi nedeniyle ortaya çıkan endişelere ve “bu konuların çoğunu ele almaktan kaçındığı” yönündeki suçlamalara yanıt vermesi istendikten sonra yaptı.

Özellikle Cumhuriyetçi büyük Yahudi bağışçılar, Carlson’ın programını giderek daha fazla “antisemitik komplo teorilerini ve Holokost inkârını yaymak” için kullandığını öne sürüyor.

Vance, Carlson’un Başkan Donald Trump’a yönelik saldırılarını ve Michigan’daki Senato yarışında eski Kongre üyesi Mike Rogers yerine Demokrat aday Abdul El-Sayed’e destek verdiğini ifade eden son açıklamalarını eleştirmiş olsa da ilişkiyi koparmadı.

JD Vance, Yahudi Cumhuriyetçileri yatıştırmaya çalıştı

Vance, “Bakın, hiçbir konuyu görmezden gelmiyorum. Tucker Carlson ile arkadaş olduğumuzu herkes biliyor. Tucker’ın benim katılmadığım bazı şeyler söylediği çok açık bence,” dedi.

Başkan Yardımcısı, Carlson ile olan dostluğunu bir kez daha kabul ettikten sonra, tüm Amerikalılara siyasi görüş ayrılıklarına bakılmaksızın kişisel ilişkilerini sürdürmeleri çağrısında bulundu ve “bu konudaki tutumunun”, kendisinin ve eşi Usha Vance’in 2024 seçim kampanyası sırasındaki deneyimlerinden etkilendiğini açıkladı:

“Başkan yardımcısı adayı olduğum zamanı hatırlıyorum; benim için kişisel olarak en zor olan şey, insanların bana saldırması değil, insanların eşime saldırmasıydı; hatta onun kalbini tanıyan, ne kadar iyi bir insan olduğunu bilen arkadaşları bile ona saldırdı. Kendime şöyle dediğimi hatırlıyorum: ‘Amerika Birleşik Devletleri’nde siyasi görüş ayrılıklarının, kimlerin arkadaşımız olacağını ve olmayacağını belirlemesine izin vermemiz ne kadar trajik bir durum. Evet, Tucker benim arkadaşım. Tucker, birçok konuda aynı fikirde olmasak da benim arkadaşım. Ve siyasi görüş ayrılıkları olduğu için arkadaşlarımı feda edecek bir oyun oynamayacağım. Bence bu, Amerika Birleşik Devletleri’nin gitmesi gereken korkunç bir yoldur.”

Vance, biriyle siyasi olarak, “hatta çok önem verdiğiniz bir konuda bile anlaşmazlık” yaşasanız da “o kişiyle yine de arkadaş olmanız gerektiğini” ileri sürdü.

Başkan Yardımcısı, “Çünkü cumhuriyetin varlığı, farklı bakış açılarına sahip insanların birbirleriyle konuşabilmesine bağlı. Ben hayatımı bu şekilde yaşamaya çalışıyorum ve herkesi de aynısını yapmaya teşvik ediyorum,” dedi.

ABD Temsilciler Meclisi, İsrail’e yönelik boykotlara katılan yükseköğretim kurumlarının federal fonlarını kesmeyi öngören yasa tasarısını kabul etti. Genel Kurulda perşembe günü yapılan oylamada 169 oya karşı 237 oyla kabul edilen düzenleme Senatoya gönderildi.

ABD Temsilciler Meclisi, İsrail’e yönelik boykotlara dahil olan üniversitelerin federal mali yardımlardan mahrum bırakılmasını öngören tartışmalı yasa tasarısını kabul etti.

Cumhuriyetçilerin öncülük ettiği düzenleme, Gazze Şeridi’ndeki askeri harekatı nedeniyle Tel Aviv yönetimine yönelik hesap verebilirlik çağrılarını ve üniversite yerleşkelerinde Filistin ile sergilenen dayanışmayı hedef alıyor.

“2026 Ekonomik ve Akademik Özgürlüğü Koruma Yasası” başlıklı düzenleme, perşembe günü yapılan oylamada 169’a karşı 237 oyla kabul edildi.

Tasarıya yalnızca iki Cumhuriyetçi milletvekili karşı çıkarken, 33 Demokrat Partili vekil parti çizgisinin dışına çıkarak tasarı lehinde oy kullandı. Yasa teklifi bu aşamadan sonra Senatoya iletilecek.

H.R. 4795 sayılı yasa teklifi, federal öğrenci yardımı programlarından yararlanan yüksekokul ve üniversitelerin İsrail’e yönelik ticari boykotlara girişmesini yasaklıyor.

Uluslararası araştırmalar ve yabancı dil programları için “Title VI” fonu alan kurumların ise öğrencilerin veya öğretim üyelerinin işgal altındaki topraklardaki akademik programlara katılmasını engellemediğini ya da İsrailli öğrenci ve akademisyenlerin kendi yerleşkelerine girişini kısıtlamadığını belgelemesi şart koşuluyor.

Yasa tasarısının ortak sponsorluğunu Kuzey Carolina’dan Cumhuriyetçi Milletvekili Virginia Foxx ile New Jersey’den Demokrat Milletvekili Josh Gottheimer üstlendi.

Temsilciler Meclisi Eğitim Komisyonu Başkanı Tim Walberg, vergi mükelleflerinin parasının “İsrail’e karşı ayrımcılık yapan” kurumlara kesinlikle aktarılmaması gerektiğini savundu.

İsrail yönetiminin güçlü destekçilerinden Gottheimer ise BDS (Boykot, Tecrit ve Yaptırımlar) hareketinin “tek bir ülkeyi ve tek bir dini hedef alan” bir kampanya olduğunu dile getirdi.

Tasarının muhalifleri, düzenlemenin fiilen var olmayan bir soruna çözüm aradığını ve anayasa tarafından korunan ifade özgürlüğüne yönelik bir saldırı niteliği taşıdığını vurguladı.

Komisyondaki en kıdemli Demokrat Milletvekili Bobby Scott, ABD’deki hiçbir yüksekokul veya üniversitenin küresel BDS hareketine fiilen katılmadığına dikkat çekti. Scott, öğrenci ve akademisyen topluluklarının BDS’ye destek açıkladığını ancak üniversite yönetimlerinin bu talepleri uygulamaya koymayı reddettiğini hatırlattı.

Scott, Genel Kuruldaki değerlendirmesinde, “Antisemitizm nerede ortaya çıkarsa çıksın onunla mücadele etmeliyiz; ancak bunu koruma altındaki ifade özgürlüğünü cezalandırarak ya da bir öğrencinin görüşünü üniversite politikasıyla bir tutarak yapmamalıyız” ifadelerini kullandı.

BDS hareketine karşı olan New Yorklu Demokrat Milletvekili Jerrold Nadler de tasarıya aleyhte oy verdi. Nadler, katıldığı görüşleri korumanın tek yolunun katılmadığı görüşlerin de ifade edilmesini savunmaktan geçtiğini kaydetti.

Liberal Yahudi kuruluşu J Street de yasa teklifine karşı çıkan aktörler arasında yer aldı. Kuruluş, düzenlemenin İsrail yönetimi ile işgal altındaki Batı Şeria’da bulunan yasa dışı yerleşimlerle bağlantılı şirketlere yönelik boykotları bir tuttuğu uyarısında bulundu.

J Street, tasarının İsrail’i istisnai bir konuma yerleştirdiğini, Yahudi öğrencileri korumaya hiçbir katkı sunmadığını ve antisemitizmle mücadele etmek yerine bu sorunu daha da alevlendirme riski taşıdığını bildirdi. Tasarıya Amerikan-İsrail Kamu İşleri Komitesi (AIPAC) ise açık destek verdi.

Oylama, öğrenci ve öğretim üyelerinin İsrail’in Gazze’ye yönelik savaşına karşı yaklaşık üç yıldır sürdürdüğü protestoların ardından geldi.

Gazze’deki Sağlık Bakanlığının verilerine göre, 7 Ekim 2023 operasyonu ve İsrail’in ardından başlattığı askeri harekat neticesinde düzenlenen saldırılarda 73 binden fazla Filistinli yaşamını yitirdi, bölgedeki üniversiteler, okullar ve sivil altyapının büyük bölümü yerle bir edildi.

Üniversite yerleşkelerinde kurulan çadır kamplarında katliama son verilmesi ve üniversitelerin işgal ile savaştan kâr sağlayan şirketlerle olan mali yatırımlarını geri çekmesi talep ediliyordu.

Washington yönetimi ve müttefikleri söz konusu protestoları sıklıkla antisemitizm olarak niteledi. Trump yönetimi ise üniversiteleri çeşitli soruşturmalarla ve federal fonları dondurma tehditleriyle hedef aldı.

Kasım ayındaki ara seçimleri ve Trump’ın görev süresinin son iki yılında Kongre’deki çoğunluğu korumayı hedefleyen Temsilciler Meclisi Cumhuriyetçileri, Gazze’deki kitlesel ölümler arttıkça İsrail’e yönelik eleştirilerini artıran Demokratlar arasındaki görüş ayrılıklarını derinleştirmek için bu konuyu gündemde tutuyor.

Temmuz ayında, Gazze’deki harekatın soykırım boyutuna ulaştığı yönündeki suçlamalar eşliğinde, Temsilciler Meclisindeki 100’den fazla Demokrat vekil ABD’nin müttefiki olan İsrail’e yönelik bazı askeri yardımların kesilmesini öngören bir girişime destek vermişti.

Eleştirmenler, son yasa tasarısının 30’dan fazla ABD eyaletinde daha önce kabul edilen ve kamu yüklenicileri ile kamu kurumlarını İsrail’i boykot etmeyeceklerine dair taahhütte bulunmaya zorlayan BDS karşıtı yasal sürecin bir devamı olduğunu savunuyor.

İfade özgürlüğü savunucuları, bu eyalet yasalarının Anayasa’nın Birinci Ek Maddesi ile çeliştiğini uzun süredir dile getiriyor.

Temsilciler Meclisinde kabul edilen düzenleme ise bu baskıyı federal düzeydeki tüm öğrenci mali yardım sistemine genişletmeyi amaçlıyor.

ABD’de hiçbir üniversitenin resmi olarak BDS kararı almamasına karşın yasa teklifi, işgal altındaki Filistin topraklarında faaliyet gösteren kuruluşlar da dahil olmak üzere, İsrail yönetimiyle araya konacak sınırlı ticari veya akademik mesafeyi dahi federal fonların kesilme gerekçesi haline getiriyor.