Zuckerberg ve AI terapistler: Aklınıza mukayyet olun!

Meta CEO’su Mark Zuckerberg’in gelecekte yapay zeka (AI) dostlarla kurulacak sanal ilişkilere ve terapistlere dair söyledikleri gündemde.

Önce, Dwarkesh Patel’in podcast’inde söyledikleri dikkat çekti. Zuckerberg, AI arkadaşların, terapistlerin ve kız arkadaşların geleceği hakkında konuşuyordu.

Meta’nın kurucusuna göre, Amerikalılar ortalama olarak sadece üç arkadaşı olduğu halde “on beş arkadaş istiyordu.” Ardından, AI botlarıyla duygusal bağların şu anda toplumsal olarak hoş karşılanmadığını, fakat sonunda toplumun, hayatlarındaki yalnızlığı ve boşluğu doldurmak için AI’ı kullanan insanların “rasyonel” olduğunu anlamak için “kelimeler bulacağını” ileri sürüyordu.

Zuckerberg daha sonra da bu konuyua değinmeye devam etti. Meta CEO’sunun birkaç gün önce Ben Thompson’ın “Stratechery” podcast’inde yaptığı, pek dikkat çekmeyen açıklamaları, AI arkadaşlığının nasıl işleyebileceğine dair görüşünü daha ayrıntılı olarak açıklıyor.

Birçok kişi Zuckerberg’in sözlerinin, gerçek arkadaşlar yerine AI arkadaşlarınız olacağı anlamına geldiğini düşündü ve aslında üç aşağı beş yukarı o da bunu kastediyordu:

“İlginç bir sosyolojik bulgu var: ortalama bir Amerikalının üçten az arkadaşı var ve ortalama bir Amerikalı üçten fazla arkadaşa sahip olmak istiyor. Dolayısıyla, ideal olarak, insanların doğru insanlarla bağlantı kurmasını sağlamak gerekir ve bu da bizim insanlara yardımcı olmaya çalıştığımız bir şey. Fiziksel olarak bir arada olmadıklarında, uygulamalarımız aracılığıyla bağlantıda kalabilir, insanlarla iletişim halinde olabilir, yeni insanlarla tanışabilirsiniz. Fakat ileride, farklı konularda farklı insanlarla etkileşimde bulunacağınız bir dinamik olacağını düşünüyorum.”

Fakat teknoloji milyarderinin satır aralarında söylediği daha önemli (ve karanlık) başka bir şey daha var: Meta’nın, arkadaşlarınız ve aileniz hakkında çok daha fazla şey bilmek üzerine kurulu bir AI stratejisi olduğu gerçeği.

Zurckerberg, Thompson’a verdiği mülakatta şunları söylüyordu:

“Sanırım en çok odaklandığım konulardan biri, AI’ın arkadaşlarınızla daha iyi arkadaşlık etmenize nasıl yardımcı olabileceği. Sevdiğim insanlar hakkında hatırlamadığım çok şey var, daha düşünceli olabilirim. ‘Son dakikaya kadar plan yapmam’ gibi sorunlar var, sonra da, ‘Kimler orada bilmiyorum ve insanları rahatsız etmek istemiyorum’ gibi sorunlar ortaya çıkıyor. Sevdiğiniz insanların neler olup bittiğine dair iyi bir bağlam bilgisine sahip bir AI, bu konuda size yardımcı olabilir.

İyi bir kişiselleştirilmiş yapay zeka, sadece ilgi alanlarınız hakkında bazı temel bilgilere sahip olmakla kalmaz, iyi bir asistan veya iyi bir kişiselleştirme, sizin bir şeyleri nasıl düşündüğünüz hakkında bir zihin teorisine sahip olmakla ilgilidir. Yani, bu bizim tüm arkadaşlarımızla yaptığımız şeydir. Sadece ‘Tamam, bu benim arkadaşım Bob ve o şunu sever’ demek gibi değil, bu kişinin hayatında neler olup bittiğini, arkadaşlarınızın neler yaşadığını, zorluklarının neler olduğunu ve bu farklı şeyler arasındaki etkileşimin ne olduğunu derinlemesine anlıyorsunuz.”

Zuckerberg, röportajın bir başka yerinde de, Facebook’ta sağlanan etkileşimin Instragram gibi araçlarla nasıl değiştiğine işaret ediyor. “Eskiden, feed’de bağlantı kurduğunuz kişilerle etkileşim kuruyordunuz,” diye açıklıyor Meta CEO’su, “örneğin biri bir şey paylaşıyordu ve siz de yorum yazıyordunuz, etkileşiminiz bu şekilde oluyordu.”

Peki şimdi durum ne? Zuckerberg net bir şekilde izah ediyor:

“Bugün Facebook, Instagram, Threads ve sanırım artık Meta AI uygulaması [var] ve yaptığımız diğer birçok şeyi keşif motorları olarak görüyoruz. Etkileşimin çoğu feed’de gerçekleşmiyor. Uygulama, size ilginç şeyler göstermek için bir keşif motoru algoritması gibi çalışıyor ve ardından gerçek sosyal etkileşim, ilginç bir şey bulup bunu arkadaşlarınızla grup sohbetine veya bire bir sohbete eklemenizle gerçekleşiyor. Böylece, gerçek, derin ve nüanslı sosyal etkileşimin gerçekleştiği mesajlaşma ile, giderek sadece keşif motorlarına dönüşen feed uygulamaları arasında bir çark etkisi [flywheel] oluşuyor.”

Meta CEO’su, bunu bir “iş modeli” olarak kurguladıklarını gizlemiyor. Bu model, hem işçinin, hem de genel olarak toplumun bütününün “sermaye mantığına” tabi kılınmasının belki de zirvesini oluşturuyor:

“[Biz] AI’ı kullanarak, temel olarak belirli bir iş sonucuna ulaşmak isteyen herhangi bir işletmenin bize gelip, herhangi bir içerik üretmesine veya müşterileri hakkında herhangi bir bilgiye sahip olmasına gerek kalmadan hizmet almasını sağlamak istiyoruz. Sadece ‘İstediğim iş sonucu şudur, ödemek istediğim ücret şudur, sizi banka hesabıma bağlayacağım, elde ettiğiniz iş sonuçları kadar ödeme yapacağım’ diyebilsinler… Bence bu, reklamcılık kategorisinin yeniden tanımlanmasıdır. Bugün reklamcılığın GSYİH’nin yüzde kaçını oluşturduğunu düşünürseniz, bu oranın artacağını beklerim.”

Bu oldukça kritik bir ifade. Zuckerberg mealen şunu diyor: İşletmeler hiçbir içerik üretmek ve müşterileri hakkında hiçbir şey bilmek zorunda olmayacak. Meta, daha doğrusu Meta’nın yapay zeka botu, işletmeler ve müşteriler arasındaki bağlantıyı ve markalaşma ile ilgili çoğu kararı devralacak. Daha fazla veriye, daha geniş bir ölçeğe, daha fazla bağlantıya ve dünyanın en büyük kara kutusuna sahip olacak. Gelecekte, tüm şirketler için pazarlama ve reklam, ticareti tek bir kişi (veya bot) tarafından kontrol edilen otomatik bir altyapıya devretmek anlamına gelecek.

Bundan âlâ ‘toplumsal mühendislik’ mi var?

Bu “iş modeli”, burjuva uygarlığının alamet-i farikalarından “kamu-özel ayrımı”nı da ortadan kaldıracak bir geleceğe işaret ediyor. Zuckerberg, ta 2010 yılında, böyle bir “insanlık” öngördüğünü gizlemediğini söylüyordu:

“İş arkadaşlarınız veya meslektaşlarınız için farklı bir imaja sahip olduğunuz günler muhtemelen çok yakında sona erecek. Kendiniz için iki kimliğe sahip olmak, dürüstlük eksikliğinin bir örneğidir… İnsanları daha açık olabilecekleri bir noktaya getirmek büyük bir zorluktur. Ama bunu başaracağımızı düşünüyorum.”

Zuckerberg’in bu konuda epey bir adım attığını da hatırlatayım. Örneğin, 2007 yılında, Facebook’taki alışverişlerinizi otomatik olarak feed’inize ekleyen Beacon’ı piyasaya sürmüştü. Bu uygulama, kullanıcıların HIV durumlarını ve hangi nişan yüzüklerini satın aldıklarını teşhir ediyordu.

Üstelik yakın zamanda, Wall Street Journal bir haber yayınladı: Meta’nın sohbet robotları, çocuklarla fantezi seks hakkında konuşuyordu.

Meta, “sentetik kişiliklerin” metinler üzerinden şakalaşmaları, selfie paylaşmaları ve hatta kullanıcılarla canlı sesli sohbetler yapmaları dahil olmak üzere tam kapsamlı sosyal etkileşim sunmalarına izin veriyor.

Olan biten, Marx’ın sermayenin davranış biçimi ile ilgili analizlerinden birini bir kez daha doğruluyor. Marx Kapital’de, “formel” ve “reel” tabiyet [subsumption] biçimi arasında ayrım yapıyor. İlk başta sermaye, mevcut emek sürecini –yani teknikleri, pazarları, üretim araçlarını ve işçileri– kendi içine çekiyor. Marx buna “formel” tabiyet adını veriyor.

Bu süreçte, tüm emek süreci eskisi gibi devam ediyor, fakat üretim araçlarını ve dolayısıyla işçilerin geçim araçlarını tekelleştiren kapitalist, işçiyi ücretli emeğe boyun eğmeye zorluyor ve mevcut piyasaları kullanarak sermayeyi biriktirebiliyor.

Ne var ki kapitalizm, mevcut üretim güçlerinin sınırlı temelleri üzerinde gelişemiyor. Gerçek kapitalist emek sürecinin önkoşulları ancak sermayenin kendisi tarafından yaratılabiliyor. Böylece sermaye, toplumsal ilişkileri ve emek biçimlerini, sermayenin doğası ve gereklilikleriyle tamamen iç içe geçene kadar yavaş yavaş dönüştürüyor ve emek süreci gerçekten, reel olarak sermayeye tabi kılınıyor.

Dolayısıyla sermaye, birikebilmek için, mülk sahiplerinin mülksüz kalmamalarını garanti altına almak için, yalnızca ücretli emeği değil, tüm toplumu, kendisine tabi kılacak modeller ve emek süreçleri geliştirmek zorunda.

Arkadaşlarınızla ilişkileriniz, ailenizle neler yaşadığınız, hatta mental sağlınıza ilişkin bilgiler, bu nedenle sermayenin önüne serilmek zorunda:

“Şahsen, herkesin bir terapisti olması gerektiğine inanıyorum. Terapist, gün boyunca ya da gün boyunca olmasa da, endişelendikleri her konuda konuşabilecekleri birisi gibi. Terapisti olmayan insanlar için ise, herkesin bir yapay zeka asistanı olacağını düşünüyorum.”