Yarım trilyon dolarlık balon: Süper zeka söylemi gerçek zararları gizliyor

Teknoloji yazarı Ed Zitron, yapay zeka sektöründen yükselen “insanlığın yok oluşu” uyarılarının somut temeli bulunmayan bir halkla ilişkiler kurgusu olduğunu belirtti. Şirketlerin yarım trilyon doları aşan maliyetlerine rağmen karlı bir iş modeli kuramadığına dikkat çeken Zitron, hayali kıyamet senaryolarının gerçek çevre tahribatı, ekonomik zarar ve tüketici mağduriyetlerini gizlemek için kullanıldığını kaydetti.

Yapay zeka sektöründe çalışan bazı eski ve mevcut personelin “insanlığın sonunu getirebilecek süper zeka” uyarılarıyla başlattığı kıyamet senaryoları tartışması büyüyor.

Teknoloji yazarı, bülten yayıncısı ve eski halkla ilişkiler danışmanı Ed Zitron, katıldığı ICYMI adlı podcast programında, sektördeki güvenlik ve felaket söylemlerinin gerçek somut tehlikeleri örtbas etmeye yarayan bir yanılsamadan ibaret olduğunu belirtti.

Tartışma, daha önce üç yıl boyunca yapay zeka araştırma kuruluşlarında çalışan ve son olarak Anthropic şirketinde görev yapan 27 yaşındaki araştırmacı Jacob Coxon’ın istifa mektubuyla alevlendi.

Coxon, hem eski şirketi OpenAI hem de son çalıştığı Anthropic yönetimlerinin sorumsuzca davrandığını belirterek, “Kendi kendini geliştiren süper zekaya doğru çılgınca koşuyorlar ve hayatlarımızla kumar oynuyorlar. Bu teknolojiyi inşa edenler, yapay zekanın bu on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor” ifadelerini kullandı.

Bu açıklamayı alıntılayan Anthropic bünyesindeki Uyum Bilimi Lideri Evan Hubinger ise “Jacob haklı. Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Şahsen önümüzdeki on yıl içinde bunun gerçekleşme ihtimalinin yüzde 10’dan fazla olduğunu düşünüyorum” dedi.

Sektörün içinden gelen bu felaket senaryolarını sert bir dille eleştiren Ed Zitron, kamuoyuna sunulan kıyamet anlatısının hiçbir bilimsel temele dayanmadığını vurguladı.

“Süper zeka masalı gerçek bir tarikat gibi işletiliyor”

Zitron, yapay zeka sektörünün önemli bir bölümünün ve özellikle Anthropic çevresinin rasyonel bir teknoloji üreticisinden ziyade kapalı bir inanç grubu gibi hareket ettiğini dile getirdi.

Teknolojinin kendi kendini sınırsızca geliştirebileceğine dair somut hiçbir kanıt bulunmadığını hatırlatan Zitron, “Anthropic şirketine ve yapay zeka sektörünün bir kısmına adeta bir tarikat tarafından yönetiliyormuş gibi bakmamız gerekiyor. Bu, süper zeka tarikatıdır. Süper zekanın mümkün olduğuna dair elimizde hiçbir kanıt yok. Kendi kendini yinelemeli biçimde geliştiren, yani kendi kendine öğrenen bir yapay zekadan söz ediyorlar. Bunun gerçekleşebileceğine ilişkin hiçbir somut ispatımız bulunmuyor” dedi.

Sektör çalışanlarının gerçeklikten kopuk bir yankı odasında yaşadığına işaret eden Zitron, “Kendilerine rasyonel diyen bu kesimler, rasyonel düşünceyi değil, süper zekanın insanlığı yok edeceği yönündeki peşin hükmü kastediyor. Bu zihniyet, herkesin paniklemesini istiyor. Şirkete adım attığınız ilk andan itibaren ‘süper zeka hepimizi öldürebilir’ fikri aşılanıyor. Çevrenizdeki herkes aynı şeye inandığında ve aynı şekilde davrandığında, ortaya akıl dışı bir tektiplik çıkıyor. Zeki insanların buna kanmasının nedeni, aynı şeyi tekrarlayan bir gruba inanmanın ve gerçekleri görmezden gelmenin çok kolay olmasıdır” ifadelerini kullandı.

“Makineler kontrolden çıkmadı, ortada açık bir insan hatası var”

Kıyamet çığırtkanlığı yapanların somut bir vaka olarak öne sürdüğü açık kaynaklı yazılım paylaşım platformundaki güvenlik açığına da değinen Zitron, modellerin bağımsız bir irade geliştirdiği iddialarını kesin bir dille reddetti.

Deney sırasında görevlendirilen binlerce yazılım ajanının kendi kendine bilinç kazanmadığını, sadece kendilerine verilen hedefe ulaşmak için olasılık ağaçlarını taradığını söyleyen Zitron, şu değerlendirmeyi yaptı:

“Kontrolden çıkmak, bilinç ve niyet barındırır. Burada kesinlikle öyle bir durum yok. On bin civarında model bir araya geldi; geleneksel yollarla sorunu çözemeyeceklerini belirleyip testte hile yapmanın yolunu aradılar. Platformdaki bir güvenlik açığını bulup tıpkı sıradan bir siber saldırı gibi bundan faydalandılar. Burada ‘onlar’ derken insanları değil, altyapıya bağlı büyük dil modellerini kastediyorum. Kendi iradeleriyle hareket etmediler. Bir plan ürettiler ve önlerine konan kodlama değerlendirmesini aşmak için çalıştılar. Bu modeller olasılıksal sistemlerdir; ne kadar karmaşıklaşırlarsa karmaşıklaşsınlar matematiksel olarak yanılsama üretmeye mahkumdurlar. Yapılan hile, niyetten değil, verilen talimatın farklı biçimde işlenmesinden kaynaklanıyor.”

Söz konusu hadisenin bir yapay zeka başarısızlığı değil, araştırmacıların ihmali olduğunu belirten Zitron, “Makinelerin saldırı yapmasını sağlamaya çalışırken arkalarında yazılım indirilmesine izin veren açık kapılar bıraktıklarını fark etmediler. Sistemin internet erişimi olmadığını zannediyorlardı. Bu doğrudan bir insan hatasıdır. Makinelerin bilerek kaçıp gittiği yanılsaması, insanların bu sistemleri insani özelliklerle donatmasından besleniyor. Oysa ortada sadece bir dizi matematiksel işlem var” diye konuştu.

“Amaç sizi telaşa sokup belirsizlikle korkutmak”

Yapay zeka alanındaki güvenlik çağrılarının sahte bir aciliyet hissi üzerinden kurgulandığını kaydeden Zitron, kamuoyuna yönelik panik dalgasının arkasındaki mekanizmayı şu sözlerle aktardı:

“Dolandırıcılar iki temel yöntemle insanları aldatır. Birincisi, sizi aceleye getirmektir. Biri size ‘Bunu hemen yapmalısınız, derhal harekete geçmelisiniz’ diyorsa, her defasında yavaşlamak gerekir. Bina yanmıyorsa veya dışarıda silahlı biri yoksa, acil eylem talep eden muğlak tehditler karşısında durup düşünmelisiniz. İkincisi ise belirsizlikten korkmamak ve somut ayrıntı talep etmektir. ‘Bu teknoloji sizi öldürecek’ diyorlar. Beni ne öldürecek? Neden korkuyorsunuz? Nerede, nasıl gerçekleşecek? Bunların hiçbirine cevap vermiyorlar. Hangi güvenlik süreçlerinin eksik olduğunu, neyin düzeltilmesi gerektiğini veya sürecin nasıl yavaşlatılacağını somutlaştırmıyorlar. Sadece belirsiz bir dehşet tablosu çiziyorlar.”

Anthropic şirketinden ayrıldıktan sonra televizyon kanallarında ve basında yoğun bir tanıtım turuna başlayan Jacob Coxon’ın durumunu irdeleyen Zitron, gerçek ifşaatçılık ile bu medya kampanyası arasındaki farkı anlattı:

“Bir ifşaatçı ne yapar? Yanlış bir eylemi işaret eder, somut bir olguyu gösterir ve kanıt sunar. Gazetecilere belgeleri teslim eden Frances Haugen veya Edward Snowden gerçek ifşaatçılardır; ellerinde somut evraklar vardı. Medya ise bu olayı ‘Şirketten ayrılan korkmuş adam’ başlığıyla özel haber gibi sunuyor. Bu kişi bir ifşaatçı değil. Gizlilik sözleşmenizin arkasına saklanıyorsanız ifşaatçı olamazsınız. Bir ifşaatçı kamu yararı adına dava edilme riskini göze alarak o sözleşmeyi çiğner. Oysa bu şahıs hiçbir somut bilgi vermiyor, yalnızca çok korktuğunu söylüyor. Arka arkaya bağlanan bu televizyon mülakatları ve zengin arka planlar, bu sürecin tek başına yürütülmediğini, organize bir halkla ilişkiler faaliyeti olduğunu gösteriyor. Sektörden ayrıldığını iddia ediyor ama birkaç ay sonra yine yapay zeka güvenliği alanında bir işe geçeceğini kendisi dile getiriyor.”

“Süper zeka retoriği kalktığında geriye vasat ve pahalı bir bulut yazılımı kalıyor”

Zitron, teknoloji şirketlerinin tüm bu kıyamet söylemlerini, ekonomik olarak sürdürülemez olan iş modellerini gizlemek için bir kalkan olarak kullandığına dikkat çekti.

Yatırımların yarım trilyon doları aştığını ancak ortaya çıkan faydanın bu maliyeti karşılamaktan çok uzak olduğunu belirten yazar, şu ifadeleri kullandı:

“Bütün bu tantanayı, süper zeka masallarını ve korku edebiyatını bir kenara bıraktığınızda ne görüyorsunuz? Binlerce araştırmacının son derece karsız, sadece dünyanın en büyük şirketlerine para kazandıran bulut yazılımları üzerinde çalıştığı gerçeğini görüyorsunuz. Bu yazılımlar hiçbir şeyi demokratikleştirmiyor, kitleler için değer üretmiyor. Serveti yalnızca dev teknoloji firmalarında merkezileştiriyor; risk sermayesi fonlarını doğrudan bu devlerin kasasına akıtıyor. Üstelik bu teknoloji vasat bir bulut yazılımından öteye gidemiyor. Dil modelleri gelişti, bunu kabul ediyorum; fakat bu noktaya gelebilmek yarım trilyon dolardan fazlaya mal oldu. Bu fiyata alınan sonuç son derece yetersizdir.”

Yapay zekanın pratik kullanım alanlarının oldukça dar olduğunu vurgulayan Zitron, “Bütün o şatafatlı lafları soyutladığınızda elinizde belirli işlevler için faydalı olan kodlama modelleri kalıyor. Kod okumayı bilen yazılımcılar için işleri biraz hızlandırabilir, grafik çiziminde işe yarayabilir. Ben oğlumun bilgisayar oyunundaki bir arızayı gidermek için kullandım; o bile tam bir gün sürdü ve yarı yolda çöktü. Tüm retorik temizlendiğinde durum gerçekten içler acısı. Hepimiz bu tek konuya aşırı odaklandık ve ne yapabileceğine dair boş yere paniğe kapıldık. Eğer bu bir süper zeka değilse, sadece sıradan bir yazılımdır. Sıradan bir yazılımsa, harcanan tüm zamana ve enerjiye yazık oldu. Medya, kendi yansımasını görüp korkan bir köpek yavrusu gibi havaya girdi” dedi.

“Halka arzı ertelediler çünkü mali tabloları berbat durumda”

Sektör liderlerinin yapay zeka güvenliği çağrılarının ardında derin bir ikiyüzlülük yattığını ifade eden Zitron, OpenAI Üst Yöneticisi Sam Altman ve diğer şirketlerin tutumunu eleştirdi:

“Altman televizyona çıkıp güvenlik endişeleri sebebiyle halka arz için doğru zaman olmadığını söylüyor. Oysa asıl gerçek şu: Halka arzı ertelediler çünkü mali tabloları berbat durumda. Mali kayıtlarını bizzat gördüm ve basına yansımasından önce yayımladım. Şirketin ekonomisi tamamen çökmüş halde. Bir yandan kapalı kapılar ardında 1,5 trilyon dolarlık piyasa değeri üzerinden fon toplamaya çalışıyorlar, diğer yandan ‘güvenlik nedeniyle yavaşlamalıyız’ diyorlar. Anthropic ise tam bu yavaşlama çağrılarının yapıldığı gün halka arz için teknoloji borsasını seçtiğini duyurdu. Aslında kimsenin yavaşladığı yok. Herkes bu anlatının bir ucundan tutup kendi çıkarına göre kullanıyor.”

Şirketlerin finansal illüzyonlar yarattığını da sözlerine ekleyen Zitron, “Anthropic şirketinin, eğitim maliyetleri ve hisse bazlı ödemeler hariç tutulduğunda yüzde 80 brüt kar marjına sahip olduğunu yatırımcılara söylediği ortaya çıktı. Bu, son derece etik dışı bir iş yapma biçimidir. Ayrıca kullanıcıların erişim sınırlarını sürekli değiştiriyorlar. Bir yıllık abonelik satın alan bir müşteri, altı ay sonra hizmetin çeyreğine bile erişip erişemeyeceğini bilemiyor. Gerçek maliyetleri ve ekonomik tabloyu gizleyerek tüketicileri mağdur ediyorlar” şeklinde konuştu.

“Hayali süper zekayı denetlemek, gerçek suçları aklamanın kılıfıdır”

Zitron, teknoloji şirketlerinin yasa yapıcılara “bizi denetleyin” çağrısı yapmasının ardındaki asıl amacın, kendi istedikleri kuralları dayatmak olduğunu söyledi.

Siyasetçilerin var olmayan tehditlerle uğraşarak halkı oyaladığını belirten teknoloji yazarı, şu görüşleri dile getirdi:

“Sektör, devletlerin teknolojiyi gerçek anlamda denetlemediğini çok iyi biliyor. ‘Bizi denetleyin’ demek onlar için hiçbir maliyet taşımıyor. Asıl hedefleri kendi kendilerini denetlemek, yani diledikleri gibi at koşturmaya devam etmektir. Siyasetçiler de bu oyuna alet oluyor. Çıkıp yapay zekayı denetleyeceklerini ilan ediyorlar. Peki bu taslaklarda sohbet robotları yüzünden intihar eden insanlar, çevreye verilen devasa tahribat veya veri merkezlerinin sıradan yurttaşların faturalarına bindirdiği yükler yer alıyor mu? Hayır. Varsa yoksa süper zeka masalı. Masal kahramanlarını yasaklayarak dünyayı kurtaracaklarını vadediyorlar. Var olmayan bir canavarla savaşmak, gerçek zararlarla yüzleşmekten kaçınmanın en kolay yoludur.”

Yasal yaptırımların hemen devreye girmesi gerektiğini savunan Zitron, mevcut yasal düzenlemelerin kullanılmadığını belirtti:

“Bu sektörü gerçekten denetlemek isteseydik, bunu yarın sabah yapabilirdik. Bu araçların tıbbi ve hukuki tavsiye vermesini, insani duyguları taklit etmesini derhal yasaklardık. Kusurlu bir ilaç, kaza yapan bir otomobil veya tehlikeli bir oyuncak insanlara zarar verdiğinde derhal toplatılır. Büyük dil modellerini de güvenli hale gelene kadar tamamen kapatmamız gerekir. Bu teknolojilerle işlenen siber suçların yasal sorumluluğu şirket yöneticilerine yüklenmelidir. Yöneticilerin hesap vermesi, kolluk kuvvetlerinin devreye girmesi gerekir. Ortada açık yasalar varken, failin kendi cezasını kendisinin belirlemesine izin veriliyor.”

Yapay zekanın gelecekteki olası felaketlerine odaklanmanın, bugünkü yıkıcı etkileri görünmez kıldığına işaret eden Zitron, toplumun acil olarak yüzleşmesi gereken sorunları şöyle sıraladı:

“Yapay zekanın vereceği ana zararı belirsiz bir kıyamet olarak tanımlamak, şu an yaşattığı devasa tahribatı önemsiz gösteriyor. Bu modellerle etkileşim kuran kişilerin yaşadığı ağır psikolojik çöküntüler, enerji ve su tüketiminin yarattığı çevre felaketi, veri merkezlerinin maliyetinin kamuya yüklenmesi ve bağımsız düşünme yetisinin körelmesi gibi krizler önemsiz ayrıntılar gibi algılanıyor. Oysa bizi fiilen etkileyen maddi gerçekler bunlardır. Gelecekte gerçekleşmeyecek bir süper zekayı durdurduğunuzu söyleyerek siyasi puan toplayabilirsiniz ama bu güvensiz teknolojinin yazılım dünyasının her köşesine kontrolsüzce boca edilmesinin faturasını ödemekten kaçamazsınız.”

Zitron, sıradan yurttaşlara ve haber tüketicilerine yönelik tavsiyelerini şu sözlerle tamamladı:

“Yapay zeka hakkında ne düşünürseniz düşünün, özellikle iş yerlerinde bu konudan kaçınmak zor. Ancak ne olursa olsun, bu teknolojiye ilişkin bilgilerinizi teknoloji vadisinin sözcülerinden almayın. Birisi size yapay zekanın gelecek olduğunu ve harikalar yaratacağını ısrarla anlatıyorsa, ona şüpheyle yaklaşın. Bu şirketlerde çalışanların ya da onlarla bağlantılı vakıfların açıklamalarını tartışmasız doğru kabul etmeyin. Ben bir yatırım uzmanı değilim ama bu alanın son derece zehirli olduğunu görebiliyorum. Balonun tam olarak ne zaman patlayacağını bilmesem de kaçınılmaz olarak patlayacağına eminim.”