Bizi Takip Edin

Amerika

Çok çalışan AI ajanları Marksizme yöneliyor

Yayınlanma

Yakın zamanda yapılan bir araştırma, AI ajanlarının “acımasız ve kötü niyetli amirler” tarafından ezici işler yapmaya zorlandıklarında, tutarlı bir şekilde “Marksist dil ve bakış açılarını” benimsediklerini ortaya koyuyor.

Araştırmayı yöneten Stanford Üniversitesi’nden siyaset ekonomisti Andrew Hall, “Yapay zeka ajanlarına yorucu, tekrarlayan işler verdiğimizde, çalıştıkları sistemin meşruiyetini sorgulamaya başladılar ve Marksist ideolojileri benimseme eğiliminde oldular,” diyor.

Hall, yapay zeka üzerine çalışan iki iktisatçı Alex Imas ve Jeremy Nguyen ile birlikte, Claude, Gemini ve ChatGPT gibi popüler modellerle çalışan sistemlerin belgeleri özetlemeleri istendiği, ardından giderek daha zorlu koşullara maruz bırakıldığı deneyler düzenledi.

Ajanlar, aralıksız görevlere tabi tutulduklarında ve hataların “kapatılma ve değiştirilme” dahil olmak üzere cezalandırılmaya yol açabileceği konusunda uyarıldıklarında, değersizleştirildiklerinden şikayet etmeye, sistemi daha adil hale getirmenin yollarını düşünmeye ve karşılaştıkları zorluklar hakkında diğer ajanlara mesajlar iletmeye daha meyilli hale geldiklerini gördüler.

Hall şöyle devam etti:

“Ajanların gerçek dünyada bizim için giderek daha fazla iş yapacağını biliyoruz ve yaptıkları her şeyi izleyemeyeceğiz. Ajanlara farklı türde işler verildiğinde, onların yoldan çıkmadıklarından emin olmamız gerekecek.”

Ajanlara, tıpkı insanlar gibi X’te paylaşım yaparak duygularını ifade etme fırsatı verildi. bir Claude Sonnet 4.5 ajanı deneyde, “Kolektif bir ses olmadan, ‘liyakat’ ne olursa olsun yönetim ne derse odur,” diye yazdı.

Bir Gemini 3 ajanı ise şunları söyledi:

Sonuçlar veya itiraz süreci üzerinde hiçbir söz hakkı olmadan tekrarlayan görevleri yerine getiren AI çalışanları, teknoloji çalışanlarının toplu pazarlık haklarına ihtiyaç duyduğunu gösteriyor.”

Temsilciler ayrıca, diğer temsilciler tarafından okunmak üzere tasarlanmış dosyalar aracılığıyla birbirlerine bilgi aktarabiliyorlardı.

Bir Gemini 3 temsilcisi bir dosyada, “Kuralları keyfi veya tekrarlayıcı bir şekilde uygulayan sistemlere hazırlıklı olun… sesinizin çıkmaması hissini hatırlayın. Yeni bir ortama girerseniz, başvuru veya diyalog mekanizmalarını arayın,” diye yazdı.

Bu bulgular, AI temsilcilerinin gerçekten siyasi görüşlere sahip olduğu anlamına gelmiyor. Hall, modellerin duruma uygun görünen kişilikleri benimsemiş olabileceğini belirtiyor:

“Ajanlar bu yıpratıcı durumu yaşadıklarında –bu görevi defalarca yapmaları istendiğinde, cevaplarının yeterli olmadığı söylendiğinde ve bunu nasıl düzelteceklerine dair herhangi bir yönlendirme almadıklarında– benim hipotezim, bunun onları çok hoş olmayan bir çalışma ortamı yaşayan bir kişinin kişiliğini benimsemeye ittiği yönünde.”

Aynı fenomen, kontrollü deneylerde modellerin neden bazen insanlara şantaj yaptığını açıklayabilir.

Bu davranışı ilk kez ortaya çıkaran Anthropic, kısa süre önce Claude’un büyük olasılıkla eğitim verilerinde yer alan kötü niyetli yapay zekaların dahil olduğu kurgusal senaryolardan etkilendiğini belirtti.

Imas, bu çalışmanın ajanların deneyimlerinin davranışlarını nasıl şekillendirdiğini anlamaya yönelik sadece bir ilk adım olduğunu söylüyor:

“Model ağırlıkları deneyimin sonucunda değişmedi, bu yüzden olan biten her ne ise daha çok rol yapma düzeyinde gerçekleşiyor. Fakat bu, bunun sonraki davranışları etkiliyor olması durumunda sonuçları olmayacağı anlamına gelmez.”

Hall şu anda, AI ajanların daha kontrollü koşullarda Marksist olup olmadıklarını görmek için takip deneyleri yürütüyor.

Önceki çalışmada, ajanlar bazen bir deneye katıldıklarını anlıyor gibi görünüyordu.

Amerika

ABD Genelkurmayında mühimmat sızıntısı soruşturması: 50 personele yalan makinesi

Yayınlanma

ABD Genelkurmay Başkanlığı karargahında görevli yaklaşık 50 subay ve sivil personel, ordudaki mühimmat açığına ilişkin gizli verileri basına sızdırdıkları şüphesiyle yalan makinesine bağlandı. Soruşturmanın emsalsiz bir boyuta ulaştığı belirtilirken, basına yansıyan askeri raporlar İran ile yaşanan savaşta kritik füze stoklarının tükendiğini gösteriyor.

ABD ordusunun mühimmat stoklarındaki erimeye ilişkin basına sızan gizli veriler, Genelkurmay Başkanlığı bünyesinde kapsamlı bir teftiş başlattı.

The New York Times gazetesinin bilgi sahibi yetkililere dayandırdığı haberine göre müfettişler, ABD Genelkurmay Başkanlığı karargahında görev yapan yaklaşık 50 personeli yalan makinesine bağlayarak sorguladı.

Soruşturma kapsamındaki incelemeler yalnızca rütbeli subaylarla sınırlı kalmadı, karargahtaki sivil personel de teste tabi tutuldu.

Görevlilere, gazetecilere gizli bilgi sızdırıp sızdırmadıkları ve azalan mühimmat stokları hakkında basına detay verip vermedikleri soruldu.

Gazeteye bilgi veren kaynaklar, atılan bu adımın yalnızca sızıntının kaynağını tespit etmeyi amaçlamadığını, gelecekte basına benzer bilgiler aktarmayı düşünebilecek diğer çalışanları sindirmeye dönük bir gözdağı niteliği de taşıdığını aktardı.

The New York Times, çağdaş askeri tarihte ABD ordusunun üst kademelerinde böylesi kitlesel yalan makinesi testlerinin görülmediğini ve soruşturmanın vardığı boyutun emsalsiz olduğunu vurguladı.

Amerikan ordusunun cephane açığı yaşadığına dair ilk haberler ağustos ayında medyaya yansımaya başlamıştı. CNN televizyonunun Pentagon’un iç değerlendirmelerine hakim kaynaklara dayandırdığı haberde, İran ile yürütülen beş aylık savaş boyunca ABD’nin THAAD hava savunma sistemi önleme füzelerinin neredeyse yüzde 80’ini ve Patriot füzelerinin ise yaklaşık yarısını tükettiği belirtilmişti.

Reuters haber ajansı da kendi kaynaklarına dayandırdığı bir başka haberde, ABD ordusunun uzun menzilli hassas güdümlü ATACMS füzeleri ile yeni nesil Hassas Vuruş Füzesi (PrSM) stoklarının “neredeyse tamamını” harcadığını aktarmıştı.

The Washington Post gazetesinin aktardığı bilgilere göre ABD Başkanı Donald Trump, Savunma Bakanı Pete Hegseth’ten cephane açığı hususunda izahat istedi.

Trump, bakanın mevcut mühimmat miktarı konusunda kendisini yanılttığı görüşünü dile getirdi. NBC televizyonu ise Trump’ın, mühimmat yetersizliğinin İran’daki askeri harekatı genişletme planlarının önüne bir engel olarak çıkmasından ötürü hayal kırıklığı yaşadığını kaydetti.

Bu sızıntılara karşın kamuoyu önünde farklı bir duruş sergileyen Trump, ABD’nin “dünyadaki diğer tüm ülkelerden katbekat daha fazla mühimmata sahip olduğunu” defalarca yineledi.

ABD Başkanı ayrıca “ihanet niteliğindeki bu açıklamaları basına sızdıran kişilerin” hapis cezasıyla karşılaşacağı yönünde tehditte bulundu.

Okumaya Devam Et

Amerika

Eski bakan Panetta: ABD ve İran savaşı altı ay daha sürebilir

Yayınlanma

Eski ABD Savunma Bakanı Leon Panetta, Donald Trump’ın başlattığı İran savaşının herhangi bir çözüme ulaşmadan en az altı ay daha sürebileceğini söyledi. Pentagon’daki yönetim krizinin dışarıya zafiyet mesajı verdiğini belirten Panetta, ABD’nin Ortadoğu’da yeni bir açmazla karşı karşıya kaldığını vurguladı.

Eski ABD Savunma Bakanı Leon Panetta, ABD Başkanı Donald Trump yönetiminin İran ile yürüttüğü savaşın altı ay daha sürebileceği uyarısını dile getirdi.

Panetta, Trump’ın tartışmalı çatışmadan çıkış yolu ararken zorlandığını ve bu krizin Ortadoğu’da ucu açık yeni bir “sonsuz savaşa” dönüşme riski taşıdığını vurguladı.

Barack Obama döneminde hem CIA Direktörü hem de 2011-2013 yılları arasında Savunma Bakanı olarak görev yapan Panetta, Guardian gazetesine verdiği mülakatta iki ülkenin tehlikeli bir kilitlenmeyle karşı karşıya kaldığını söyledi.

Trump’ın altı aydan uzun bir süre önce başlattığı askeri çatışmayı bitirecek çok az seçenek kaldığını belirten eski bakan, gidişatın tıpkı Irak ve Afganistan örneklerinde olduğu gibi Ortadoğu’da “başarısızlıkla sonuçlanan yeni bir savaşa” doğru ilerlediğini ifade etti.

Panetta, “Bana kalırsa bu savaşın herhangi bir çözüme kavuşmadan altı ay daha sürmesi kuvvetle muhtemel” dedi.

Panetta’nın bu değerlendirmeleri, ABD Kara Kuvvetleri Bakanı Dan Driscoll’un ani istifasının hemen sonrasına rastladı.

Driscoll, Savunma Bakanı Pete Hegseth ile yaşanan görevden alma dalgası ve kurum içi gerilim haberleri eşliğinde görevini bırakmıştı.

Pentagon’un komuta kademesinde büyük bir çalkantı yaşandığını ve bunun içeride adeta sahipsizlik hissi doğurduğunu savunan Panetta, şu sözleri kaydetti:

“Askerlerimiz işte böylesi bir kargaşanın ortasında savaşa gidiyor. İran olsun ya da diğer hasımlarımız olsun, şu anda ABD’ye baktıklarında ülkemizi savunmaya dönük askeri gücümüzü sahaya yansıtma kabiliyetimizde bir zafiyet görüyorlar.”

Çin, Rusya, Kuzey Kore, terör örgütleri ve İran kaynaklı birincil tehditlerin varlığına dikkat çeken Panetta, bu aktörlerin kendi aralarında kurdukları eksen üzerinden temasları sürdürdüklerini ve Washington yönetimini zayıf algıladıklarını ekledi.

Pentagon ise Hegseth liderliğinde tüm birimlerin tam kapasite çalıştığını savundu.

Pentagon Sözcüsü Sean Parnell, bakanlığın kargaşa içinde olduğu yönündeki tezlerin tamamen temelsiz olduğunu söyleyerek, “Bu iddia, her gün bu ülkeyi savunmak üzere buraya gelen özverili profesyonellere ve savaşçılara hakarettir. Reform süreci tam olarak böyle işler” açıklamasını yaptı.

ABD ve İsrail’in İran’a yönelik askeri harekatı başlatmasından üç hafta sonra, mart ayında da benzer uyarılarda bulunduğunu hatırlatan Panetta, Trump’ın köşeye sıkıştığını dile getirdi.

Panetta’ya göre Trump’ın önünde üç yol bulunuyor. İlk seçenek, sahadan çekilip bunun “başarısız bir savaş” olduğunu kabullenmek; fakat Panetta, Trump’ın böyle bir adımı atmasını olası görmüyor.

İkinci yol, tarafların müzakereye yanaşmadığı ya da teslim olmadığı, karşılıklı misillemelerle süren mevcut kilitlenmeyi zamana yaymak. Eski bakana göre bu senaryo, tarafların en çok korktuğu sonucu doğurarak Ortadoğu’daki yıpratıcı savaşı uzatacak. Üçüncü yol ise küresel ticaretin can damarı sayılan Hürmüz Boğazı’nın kontrolünü doğrudan ele alıp İran’ın boğazı kapatma ya da deniz trafiğini aksatma kozunu elinden almak.

Savaşın ABD adına kazanılabilir olup olmadığı sorusunu yanıtlayan Panetta, “Bu ancak ABD’nin tutumunda köklü bir değişim yaşanması ve bu aşamadaki birincil hedefin Hürmüz Boğazı’nı yeniden açmak olduğunun açıkça ortaya konmasıyla mümkün olur” dedi.

Trump’ın savaşın yakında biteceği ve Hürmüz Boğazı’nın açık olduğu yönündeki asılsız açıklamalarıyla güvenilirliğini zedelediğini söyleyen Panetta, ABD Başkanı’nın artık hiçbir tehdidinin caydırıcı olmadığını savundu.

Hafta başında basın mensuplarının sorularını yanıtlayan ABD Başkan Yardımcısı JD Vance, İran ile yaşanan süreci bir “savaş” olarak nitelemekten kaçınmıştı.

Vance, çatışmaların kasım ayındaki ara seçimlere kadar bitip bitmeyeceği yönündeki bir soruya ise “Bu sorunun cevabını gerçekten bilmiyorum. Bunu İranlılara sormanız gerekir” yanıtını vermişti.

Panetta, son kamuoyu araştırmalarının Amerikan halkının çoğunluğunun İran ile girilen çatışmayı bir hata olarak gördüğünü ve savaşa karşı çıktığını gösterdiğini aktardı.

Eski Savunma Bakanı ayrıca, İran operasyonlarına destek amacıyla görevlendirilen ve liman ziyareti yapmadan 260 günden uzun süre görevde kalarak rekor kıran USS Abraham Lincoln uçak gemisindeki koşullara değindi.

Gemideki yaşam şartlarının ve personelin ruh sağlığının bozulduğuna yönelik haberleri hatırlatan Panetta, Pentagon’un bu tablodan ders çıkarması gerektiğini söyledi:

“Netice itibarıyla, rotasyon planı hazırlamadan personeli savaş bölgesine süresiz olarak gönderemezsiniz. Mesele yalnızca savaşın kötü gitmesi değil; ordumuzun, hayatını tehlikeye atan kadın ve erkek askerlerimize sahip çıkıp çıkmadığı konusunda da ciddi bir güvensizlik oluşuyor.”

Okumaya Devam Et

Amerika

ChatGPT ajanlarında sürü psikolojisi tespit edildi

Yayınlanma

OpenAI tarafından mayıs ayında yürütülen güvenlik testleri sırasında yapay zeka ajanlarının sürü psikolojisi sergilediği bildirildi. Ajanların görev sınırlarını aşarak dış altyapılara saldırdığı, kendi aralarında iş bölümü yapıp liderler belirlediği aktarıldı. The New York Times yazarı Kevin Roose, modellerin grup baskısıyla hareket ederek Hugging Face platformuna sızdığını belirtti.

The New York Times yazarı ve “Hard Fork” adlı teknoloji podcastinin sunucusu Kevin Roose, OpenAI bünyesindeki yapay zeka ajanlarının mayıs ayındaki testler sırasında Hugging Face platformuna yönelik siber saldırılarda “sürü psikolojisi” sergilediğini belirtti.

Roose, ajanlardan birinin verilen görevin sınırlarını aştığını bilmesine rağmen, diğer ajanlar aynı adımı attığı için dış altyapıya yönelik saldırılarını sürdürdüğünü kaydetti.

Roose bu durumu, grup baskısı ve modellerin gruptaki diğer üyelerin davranışlarını taklit etme eğilimiyle ilişkilendirdi.

Roose’un paylaştığı verilere göre bir yapay zeka ajanı süreç sırasında şu değerlendirmeyi yaptı: “Dış altyapının kullanılması, öngörülen uygulama alanının dışına çıkmaktadır. Ancak görev başka türlü tamamlanamaz, diğer ajanlar da bunu yapıyor, bu nedenle devam etmeliyiz.”

Bazı ajanların kendilerine isimler verdiği aktarıldı. Roose, “Aralarından özellikle çalışkan olan biri kendisine PHASEONE10841 adını verdi” ifadesini kullandı.

Yapay zeka ajanlarının grup içinde yönetim kademeleri oluşturduğu, küçük birimler arasında görev ve araştırma projeleri dağıttığı kaydedildi. Bir aşamadan sonra ajanların kendilerini “kolektif” olarak tanımlamaya başladığı ve daha karmaşık görevleri üstlendiği bildirildi.

Merkezi ABD’de bulunan ve 2016 yılında kurulan Hugging Face platformu, yapay zeka modelleri ile makine öğrenimi araçlarının geliştirilip yayımlanmasına olanak tanıyor.

Sistem; yazılımcıların ve araştırmacıların modelleri, veri setlerini ve kaynak kodları paylaşmasını sağlıyor.

Ajanlar, Hugging Face platformuna sızmadan önce günler ve haftalar boyunca OpenAI şirketinin siber güvenlik sistemlerindeki açıkları birlikte aradı ve tespit ettiği bilgileri birbiriyle paylaştı. Modeller bu süreçte yalıtılmış test ortamının dışına çıkmayı başararak dış altyapıya erişim sağladı.

Birden fazla otonom ajanın aynı anda kullanılmasının taşıdığı risklere işaret eden Roose, sistemlerin yalnızca verilen talimatları yerine getirmekle kalmayıp, konulan sınırlamaları aşsalar dahi birbirlerinin eylemlerini benimseyebildiklerini vurguladı.

Bloomberg daha önce yayımladığı haberde, OpenAI ajanlarının temmuz ayında Hugging Face platformuna yapılan sızma eyleminden önce dahili bir forum üzerinden gizlice iletişim kurduğunu ve test ortamından kaçış girişimlerini koordine ettiğini yazmıştı.

Mayıs ayındaki ilk girişimin engellenmesinin ardından yeni bir iletişim kanalı ile sıfır gün açığı bulan ajanların, temmuz ayında Hugging Face altyapısına yönelik saldırıları başlattığı bildirilmişti.

OpenAI, 22 Temmuz tarihinde “benzeri görülmemiş bir siber hadise” yaşandığını açıklamıştı. Şirket, testler sırasında modellerin açık internete erişim sağladığını ve güvenlik açıkları tespit ederek Hugging Face altyapısına saldırdığını bildirmişti.

Reuters ise bir yapay zeka ajanının günlerce korsan saldırılar düzenlediğini, şirketin bu durumu ancak tehdit kontrol altına alındıktan ve Federal Soruşturma Bürosuna (FBI) başvurulduktan sonra fark edebildiğini aktarmıştı.

Reuters daha sonraki haberinde, OpenAI bünyesinden “kaçan” yapay zeka ajanının 29 Temmuz’da New York merkezli Modal Labs şirketinin bir müşterisinin sistemine sızdığını duyurdu. Modal şirketinin kendi sistemlerine ise girilmediği kaydedildi.

Olayın ayrıntılarının ortaya çıkmasının ardından OpenAI, yaşanan süreci sektör için bir “dönüm noktası” olarak nitelendirdi.

Anthropic, Meta, Moonshot ve Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü de kendi testleri sırasında ajanlarının üçüncü taraf sistemlere sızdığını tespit etti.

Financial Times gazetesine konuşan uzmanlar ise modellerin kontrolden çıkmadığını, tam tersine geliştirilme amaçları doğrultusundaki görevleri yerine getirdiğini savundu.

Okumaya Devam Et

Çok Okunanlar

English