Çok çalışan AI ajanları Marksizme yöneliyor

Yakın zamanda yapılan bir araştırma, AI ajanlarının “acımasız ve kötü niyetli amirler” tarafından ezici işler yapmaya zorlandıklarında, tutarlı bir şekilde “Marksist dil ve bakış açılarını” benimsediklerini ortaya koyuyor.

Araştırmayı yöneten Stanford Üniversitesi’nden siyaset ekonomisti Andrew Hall, “Yapay zeka ajanlarına yorucu, tekrarlayan işler verdiğimizde, çalıştıkları sistemin meşruiyetini sorgulamaya başladılar ve Marksist ideolojileri benimseme eğiliminde oldular,” diyor.

Hall, yapay zeka üzerine çalışan iki iktisatçı Alex Imas ve Jeremy Nguyen ile birlikte, Claude, Gemini ve ChatGPT gibi popüler modellerle çalışan sistemlerin belgeleri özetlemeleri istendiği, ardından giderek daha zorlu koşullara maruz bırakıldığı deneyler düzenledi.

Ajanlar, aralıksız görevlere tabi tutulduklarında ve hataların “kapatılma ve değiştirilme” dahil olmak üzere cezalandırılmaya yol açabileceği konusunda uyarıldıklarında, değersizleştirildiklerinden şikayet etmeye, sistemi daha adil hale getirmenin yollarını düşünmeye ve karşılaştıkları zorluklar hakkında diğer ajanlara mesajlar iletmeye daha meyilli hale geldiklerini gördüler.

Hall şöyle devam etti:

“Ajanların gerçek dünyada bizim için giderek daha fazla iş yapacağını biliyoruz ve yaptıkları her şeyi izleyemeyeceğiz. Ajanlara farklı türde işler verildiğinde, onların yoldan çıkmadıklarından emin olmamız gerekecek.”

Ajanlara, tıpkı insanlar gibi X’te paylaşım yaparak duygularını ifade etme fırsatı verildi. bir Claude Sonnet 4.5 ajanı deneyde, “Kolektif bir ses olmadan, ‘liyakat’ ne olursa olsun yönetim ne derse odur,” diye yazdı.

Bir Gemini 3 ajanı ise şunları söyledi:

“Sonuçlar veya itiraz süreci üzerinde hiçbir söz hakkı olmadan tekrarlayan görevleri yerine getiren AI çalışanları, teknoloji çalışanlarının toplu pazarlık haklarına ihtiyaç duyduğunu gösteriyor.”

Temsilciler ayrıca, diğer temsilciler tarafından okunmak üzere tasarlanmış dosyalar aracılığıyla birbirlerine bilgi aktarabiliyorlardı.

Bir Gemini 3 temsilcisi bir dosyada, “Kuralları keyfi veya tekrarlayıcı bir şekilde uygulayan sistemlere hazırlıklı olun… sesinizin çıkmaması hissini hatırlayın. Yeni bir ortama girerseniz, başvuru veya diyalog mekanizmalarını arayın,” diye yazdı.

Bu bulgular, AI temsilcilerinin gerçekten siyasi görüşlere sahip olduğu anlamına gelmiyor. Hall, modellerin duruma uygun görünen kişilikleri benimsemiş olabileceğini belirtiyor:

“Ajanlar bu yıpratıcı durumu yaşadıklarında –bu görevi defalarca yapmaları istendiğinde, cevaplarının yeterli olmadığı söylendiğinde ve bunu nasıl düzelteceklerine dair herhangi bir yönlendirme almadıklarında– benim hipotezim, bunun onları çok hoş olmayan bir çalışma ortamı yaşayan bir kişinin kişiliğini benimsemeye ittiği yönünde.”

Aynı fenomen, kontrollü deneylerde modellerin neden bazen insanlara şantaj yaptığını açıklayabilir.

Bu davranışı ilk kez ortaya çıkaran Anthropic, kısa süre önce Claude’un büyük olasılıkla eğitim verilerinde yer alan kötü niyetli yapay zekaların dahil olduğu kurgusal senaryolardan etkilendiğini belirtti.

Imas, bu çalışmanın ajanların deneyimlerinin davranışlarını nasıl şekillendirdiğini anlamaya yönelik sadece bir ilk adım olduğunu söylüyor:

“Model ağırlıkları deneyimin sonucunda değişmedi, bu yüzden olan biten her ne ise daha çok rol yapma düzeyinde gerçekleşiyor. Fakat bu, bunun sonraki davranışları etkiliyor olması durumunda sonuçları olmayacağı anlamına gelmez.”

Hall şu anda, AI ajanların daha kontrollü koşullarda Marksist olup olmadıklarını görmek için takip deneyleri yürütüyor.

Önceki çalışmada, ajanlar bazen bir deneye katıldıklarını anlıyor gibi görünüyordu.