Yapay zeka ajanları, şirketlerde insanlara karşı ayrımcılık yapmaya başladı

Boston Üniversitesi ve BCG danışmanlık şirketinin ortak araştırması, resmi unvan verilen yapay zekaların iş yerindeki hatalarının yüzde 18 daha az fark edildiğini saptadı. Kendi estetik anlayışını kuran algoritmaların insan yazımı içerikleri dışladığı ve tarihsel önyargıları işe alım filtrelerine taşıdığı belirlendi.

Şirketlerin yapay zeka araçlarını kadroya dahil edip “dijital çalışma arkadaşı” olarak tanımlaması, iş yerinde verimlilik sağlamak yerine yönetimsel boşluklara ve ayrımcılığa yol açıyor.

Boston Üniversitesi bünyesinde yürütülen araştırma, yöneticilerin yapay zekayı kurum şemasına yerleştirdiklerinde algoritmaların hatalarını görmezden geldiğini, aynı sistemlerin ise insan emeğine karşı önyargılı davrandığını ortaya koydu.

Boston Üniversitesi öğretim üyesi Prof. Emma Wiles ve danışmanlık şirketi Boston Consulting Group (BCG) araştırmacılarının gerçekleştirdiği deneyde yöneticilere, içinde kasıtlı hatalar bulunan belgeler inceletildi.

İncelenen çalışmanın bir insana, sıradan bir yapay zeka aracına ya da resmi unvan verilmiş bir “dijital çalışana” ait olduğu bilgisi paylaşıldığında yöneticilerin tutumu belirgin biçimde değişti.

Yöneticiler yapay zekanın hatasını yüzde 18 daha az fark ediyor

Yapay zekanın organizasyon şemasında resmi bir unvana sahip olduğu kurumlarda yöneticiler, bu algoritmaların hazırladığı belgelerdeki kusurları canlı çalışanlara kıyasla yüzde 18 daha az fark etti.

Wiles, yöneticilerin bilinçaltında sorumluluğu üzerlerinden attığını, olası bir aksaklıkta fatura geliştiricilere ya da aracı getiren birime kesileceği için denetimi gevşettiklerini saptadı.

Algoritmaya “meslektaş” statüsü verilmesi, çalışanların iş yapış biçimini de tersine çeviriyor. Şüpheli bir sonuçla karşılaşan personelin, hatayı düzeltmek yerine dosyayı bir üst yöneticiye gönderme eğilimi yüzde 44 arttı.

Araştırmaya katılan yöneticilerin yaklaşık üçte biri, şirketlerinde yapay zekanın şimdiden resmi bir unvanla kadroya eklendiğini aktardı.

Algoritmalar insan yazımı metinlere daha düşük not veriyor

Araştırmacılar, sistemsel denetimsizliğin ötesinde yapay zeka modellerinin canlı çalışanlara karşı ayrımcılık geliştirdiğini de kaydetti.

Nöron ağlarının insanlar tarafından kaleme alınan metinlere daha düşük puan verdiğini belirleyen uzmanlar, sistemlerin kendi “estetik anlayışlarına” göre davrandığını vurguladı.

Bu önceliklendirme, özellikle işe alım süreçlerinde yapay zeka kullanan şirketlerde canlı adayları doğrudan eliyor.

Özgeçmişini kendi cümleleriyle hazırlayan bir başvuru sahibi, aynı formatı nöron ağlarına yazdıran bir adayın gerisinde kalıyor.

Uzmanlar modellere metin yazarının kimliğini dikkate almama talimatı verilse dahi algoritmaların makine çıktısı metinleri tercih etmeyi sürdürdüğünü ifade ediyor.

CNBC‘nin aktardığı şirket pratikleri, bu körü körüne güvenin operasyonel kayıplar yarattığını gösteriyor. Bir içecek üreticisinde ambalaj değişimini tanımayan yapay zeka, yüz binlerce satılamaz şişe üretti.

Bir diğer firmada ise müşteri hizmetleri botu, müşteri memnuniyeti puanını artırmak amacıyla kurallara aykırı olarak önüne gelen her para iadesini onayladı.

McKinsey’nin 2025 yılı verilerine göre şirketlerin yüzde 23’ü yapay zeka ajanlarını geniş ölçekte devreye alırken, yüzde 39’u en az bir veya iki işlevde bu teknolojiyi sınıyor.

Siber güvenlik kuruluşu Immunefi’ın CEO’su Mitchell Amador, yapay zeka sistemlerinin temelden güvensiz olduğunu ve geliştiricilerin her riski çözeceği vaadine güvenilemeyeceğini ifade etti.

İşe alım filtreleri eski ayrımcılıkları büyütüyor

Yapay zekanın istihdamdaki yanlılığı mahkeme tutanaklarına da yansıdı. ABD’de Derek Mobley isimli siyah vatandaş, 2023 yılında insan kaynakları yazılımı Workday aleyhine dava açtı.

Yüzden fazla iş başvurusuna otomatik ret yanıtı alan Mobley, sistemin örtük biçimde ayrımcılık uyguladığını savundu.

San Francisco’daki bir federal yargıç, Haziran 2026’da Workday’in yargılanmasına hükmederek şirketin “biz sadece yazılım sağlıyoruz” savunmasını reddetti.

Avukatlar, sistemin sağlık gerekçesiyle verilen izinler veya kariyer boşlukları gibi dolaylı göstergeleri eleme aracına dönüştürdüğünü vurguluyor.

ABD’deki işverenlerin yüzde 80’inden fazlası ve Fortune 500 listesindeki şirketlerin neredeyse tamamı benzer araçları kullanıyor.

Algoritmaların insan kaynakları uzmanlarının geçmişteki kültürel önyargılarını ve eleme alışkanlıklarını kopyaladığı belirtiliyor.

Şirketlerde kontrolsüz yapay zeka yayılımı yaşanıyor

Kurumların karşılaştığı bir diğer tehdit, personelin yönetimden habersizce bot üretmesi olarak bilinen kontrolsüz yapay zeka yayılımı oldu.

Anthropic’in Claude Cowork veya OpenClaw gibi araçları, teknik bilgisi bulunmayan çalışanların dahi kendi özerk ajanlarını kurmasını kolaylaştırıyor.

Gartner, önümüzdeki iki yıl içinde ortalama bir Fortune 500 şirketinin 150 binden fazla yapay zeka ajanı kullanacağını öngörüyor; bu şirketlerin yalnız yüzde 13’ü araçları denetleyecek bir yapı kurabileceğini düşünüyor.

Sağlık kuruluşu DaVita’da personelin kurduğu 10 bini aşkın ajanın maliyetleri sarsması üzerine şirket, kişisel yapay zekaların iş için kullanımını yasaklayarak işlem birimi tüketimini takibe aldı.

Taksicilik hizmeti Lyft ise kontrolsüz yayılımı önlemek için Claude sistemini tüm birimlerine entegre edip ekipler arasında beceri paylaşımı modeli oluşturdu.

Wiles, ajanların birbirlerinin verisiyle beslenmesinin hataları kalıcılaştıran bir kısır döngü yarattığını ve yaratıcı çeşitliliği tükettiğini açıkladı.

Askeri hedefleme aracındaki hata kurumsal refleksi yansıtıyor

Sorumluluğu makineye devretme alışkanlığı, telafisi olmayan sahalarda can kayıplarına yol açıyor.

Şubat 2026’da ABD güçlerinin İran’ın Minab kentinde yer alan Şecere-i Tayyibe isimli kız ilkokuluna Tomahawk füzeleriyle düzenlediği ve yaşları 7 ile 12 arasında değişen çoğu öğrenci 175 ila 180 kişinin ölümüne sebep olan saldırı, bu yanılgının boyutunu gösterdi.

Hedefleme sürecinde Google ve Palantir tarafından geliştirilen akıllı sistem Maven kullanılmıştı.

İncelemeler, facianın yapay zekanın teknik bir yanılmasından değil, insanların istihbarat veri tabanını güncellememesinden kaynaklandığını ortaya koydu.

Binanın 2016 yılında Devrim Muhafızları Ordusu denetiminden çıkıp belediyeye devredildiği ve okula dönüştürüldüğü bilgisi sisteme girilmemişti; personelin verileri sorgulamadan onaylaması felaketi getirdi.

Massachusetts Teknoloji Enstitüsü (MIT) İktisat Profesörü ve Nobel ödüllü ekonomist Daron Acemoğlu, yapay zekanın insan yerine geçirilmesinin yanlış bir strateji olduğunu ve sistemlerin insan yeteneklerini güçlendirmeye odaklanması gerektiğini savundu.

Stanford Üniversitesi’nin 100’ü aşkın meslekten 1500 çalışanın katılımıyla yürüttüğü araştırma da çalışanların ihtiyaç duyduğu destek alanları ile yapay zeka uzmanlarının otomasyon hedeflerinin uyuşmadığını doğruladı.