DeepMind yöneticisi: AI asla bilinç kazanamayacak

Google’ın yapay zeka laboratuvarı DeepMind’da üst düzey bilim insanı olarak görev yapan Alexander Lerchner, yeni bir makalesinde yapay zeka (AI) veya başka bir hesaplama sisteminin asla bilinç kazanamayacağını savunuyor.

Bu sonuç, yapay genel zekanın (AGI) gelişinden defalarca bahseden DeepMind’ın CEO’su Demis Hassabis de dahil olmak üzere, yapay zeka şirketlerinin CEO’larının anlatılarıyla çelişiyor gibi görünüyor.

Hassabis kısa süre önce AGI’ın “Sanayi Devrimi’nin etkisinin yaklaşık 10 katı olacak, fakat 10 kat daha hızlı gerçekleşecek” olduğunu iddia etmişti.

Makale, yapay zeka şirketlerinin medyada tanıttığı kendi çıkarlarına yönelik anlatılar ile bunların titiz bir inceleme altında nasıl çöktüğü arasındaki farkı ortaya koyuyor.

404 Media’nın konuştğu felsefeciler ve bilinç araştırmacıları, Lerchner’in “Soyutlama Yanılgısı: Yapay Zeka Neden Bilinci Simüle Edebilir Ama Somutlaştıramaz?” başlıklı makalesinin güçlü olduğunu ve bu argümanın büyük bir AI şirketinden gelmesinden memnun olduklarını ama alandaki diğer uzmanların on yıllardır tam olarak aynı argümanları ileri sürdüklerini söylediler.

Örneğin evrimsel sistem biyoloğu ve filozof Johannes Jäger, “Bence o [Lerchner] bu sonuca kendi başına ulaştı ve tekerleği yeniden icat etti; özellikle felsefe alanında ve kesinlikle biyoloji alanında yeterince okumamış,” dedi.

Londra Üniversitesi Goldsmiths’te bilişsel bilgi işlem profesörü olan Mark Bishop da, “Onun [Lerchner] söylediği her şeyin yüzde 99’una katılıyorum. Tek itirazım, tüm bu argümanların yıllar ve yıllar önce ortaya atılmış olması,” dedi.

Lerchner’in makalesi karmaşık ve jargonlarla dolu, fakat argüman genel olarak herhangi bir yapay zeka sisteminin nihayetinde “haritacıya bağımlı” olduğu noktasına indirgeniyor.

Bu da “sürekli ortamlar fiziğini anlamlı durumlardan oluşan sonlu bir kümeye alfabetik sıraya koymak” için “aktif, deneyimleyen bir bilişsel ajanın” (yani bir insanın) gerektiği anlamına geliyor.

Başka bir deyişle, önce bir kişinin dünyayı AI sistemi için yararlı olacak şekilde düzenlemesi gerekiyor. Örneğin, Afrika’daki düşük ücretli işçi ordularının AI için eğitim verisi oluşturmak amacıyla görüntüleri etiketlemesi gibi.

Buna “soyutlama yanılgısı” deniyor. Bu, verileri AI’ın dil, semboller ve görüntüleri bilinçli davranışları taklit edecek şekilde manipüle etmesine olanak verecek şekilde düzenlediğimiz için, AI’ın aslında bilinç kazanabileceğine dair yanlış inanca verilen isim.

Fakat Lerchner’in savunduğu gibi, bu fiziksel bir beden olmadan imkansız.

Jäger şunları söylüyor:

“Bir insan olarak başka birçok motivasyonunuz vardır. Bu biraz daha karmaşıktır fakat bunların hepsi yemek yemeniz, nefes almanız ve hayatta kalmak için sürekli fiziksel çaba sarf etmeniz gerektiği gerçeğinden kaynaklanır ve hiçbir cansız sistem bunu yapmaz. Bir LLM [Büyük Dil Modeli] bunu yapmaz. O sadece bir sabit diskteki bir dizi kalıptır. Sonra bir komut alır ve görev bitene kadar çalışır, sonra işi biter. Yani kendiliğinden bir anlamı yoktur. Anlamı, dışarıdan bir insan aktörün ona bir anlam tanımlamış olmasından gelir.”

Hem Bishop hem de Jäger, Google’ın Lerchner’in makalesini yayınlamasına izin vermesinin iyi ama tuhaf olduğunu söyledi.

İkisi de, Lerchner’in öne sürdüğü ve kendilerinin de katıldığı argümanın, ortalama bir kullanıcıyla ilgisi olmayan belirsiz bir felsefi nokta olmadığını, fakat AI’ın bilinç kazanamayacağı iddiasının, AI’ın pratik ve ticari olarak başarabileceklerinin kesin bir sınırı olduğu anlamına geldiğini belirtti.

Örneğin, Jäger ve Bishop, bu bakış açısına göre AGI’ın ve DeepMind CEO’su Hassabis’in öngördüğü Sanayi Devrimi’nin 10 katı etkiye sahip olmasının olası olmadığını söyledi.

Lerchner’in makalesi, duygu sahibi olmayan AGI’ın mümkün olduğunu savunuyor ve “yüksek yetenekli Genel Yapay Zeka’nın (AGI) geliştirilmesinin, doğası gereği yeni bir ahlaki öznenin yaratılmasına değil, aksine son derece sofistike, duygu sahibi olmayan bir aracın geliştirilmesine yol açtığını” belirtiyor.

DeepMind de sanki AGI geliyormuş gibi aktif olarak faaliyet gösteriyor. Örneğin, geçen yıl bildirdiğim gibi, şirket “post-AGI” araştırma bilimcisi için personel alımı yapıyordu.

Lerchner’in makalesinin sonunda, “Burada ayrıntılı olarak sunulan teorik çerçeve ve kanıtlar, yazarın kendi araştırmalarını ve sonuçlarını yansıtmaktadır. Bunlar, işverenin resmi tutumunu, görüşlerini veya stratejik politikalarını yansıtmayabilir,” şeklinde bir sorumluluk reddi beyanı yer alıyor.

Makale ilk olarak 10 Mart’ta yayınlandı ve hâlâ Google DeepMind’ın sitesinde yer alıyor.

philpapers.org’da bulunan makalenin PDF’si, başlangıçta Google DeepMind antetini içeriyordu fakat 20 Nisan’da yorum talebinde bulunduktan sonra, Google’ın antetini makaleden kaldıran ve aynı sorumluluk reddi beyanını makalenin başına taşıyan yeni bir PDF ile değiştirilmiş görünüyor.

Bishop, Google’ın bu görüşleri savunan bir makaleye “izin” vermesinin finansal ve yasal gerekçeleri olabileceğini düşünüyor.

Bishop, “… Google’ın, insanların sistemlerinin bilinçli olduğunu düşünmemesinden oldukça memnun olacağını tahmin edebilirsiniz. Bu, ABD’de veya dünyanın herhangi bir yerinde yasal düzenlemelere daha az tabi olabilecekleri anlamına gelir,” iddiasında bulunuyor.

Jäger, bir Google DeepMind bilim insanının bu araştırmayı yayınlamasından memnun olduğunu söyledi fakat AI şirketlerinin araştırmacılarla konuşarak ve Lerchner’in makalesinde atıfta bulunmadığı ya da varlığından haberdar olmadığı çalışmalarla kendilerini eğiterek çok şey öğrenebileceklerini belirtti.

Jäger, AI araştırma topluluğunun “birçok açıdan son derece kapalı bir topluluk” olduğuna işaret ediyor:

“Örneğin, bu adamların hiçbiri, sürekli kullandıkları ‘faillik’ [agency] ve ‘zeka’ gibi kelimelerin biyolojik kökenleri hakkında hiçbir şey bilmiyor. Bu konuda kesinlikle korkutucu derecede hiçbir fikirleri yok. Ve ben Geoffrey Hinton ve en üst düzey isimlerden, Turing Ödülü ve Nobel Ödülü kazananlardan bahsediyorum; bu terimlerin kavramsal tarihi, AI tarihlerinde nereden geldikleri ve şu anda çok garip bir şekilde kullanıldıkları konusunda kesinlikle muhteşem bir şekilde hiçbir fikirleri yok. Ve bu konuya bu kadar az ilgi gösterilmesine her zaman çok şaşırıyorum. Sanırım sadece baskı altındaki bir ortam ve okumaya zaman bulamadıkları şeyleri geliştirmeye devam ediyorlar.”

Washington Üniversitesi Dilbilim Profesörü ve The AI Con: How to Fight Big Tech’s Hype and Create the Future We Want kitabının ortak yazarı Emily Bender’e göre de, normal bir hakem değerlendirme sürecinden geçseydi, Lerchner’a eski bir çalışmayı kopyaladığı veya en azından kaynak göstermesi gerektiği söylenebilirdi.