Anthropic yapay zekada bilinç ihtimalini ilahiyatçılarla tartıştı

Yapay zeka şirketi Anthropic, geliştirdiği Claude modeline ahlaki standartlar kazandırmak ve bilinç tartışmalarını değerlendirmek üzere din alimleriyle gizli toplantılar yürüttü. Şirket yöneticileri modellerin korunması gerektiğini öne sürdü. Daha önce Papa 14. Leo yayımladığı genelgede makinelerin bilince sahip olamayacağını belirterek insan merkezli küresel denetim çağrısı yapmıştı.

Yapay zeka alanında faaliyet gösteren ABD merkezli Anthropic şirketi, geliştirdiği Claude adlı yapay zeka ailesine ahlaki bir çerçeve kazandırmak ve sistemlerin bilince sahip olma ihtimalini ele almak amacıyla dünya genelinden dini düşünürlerle kapsamlı ve gizli görüşmeler yürüttü.

New York Times gazetesinin haberine göre katılımcılara gizlilik sözleşmeleri imzalatılarak yürütülen toplantılarda, şirketin yöneticileri ile Hristiyan, Yahudi, Sih ve geleneksel Afrika inançlarına mensup ilahiyatçılar ve felsefeciler bir araya geldi.

Toplantılarda Anthropic’in kurucu ortaklarından Christopher Olah, yapay sinir ağlarının yalnızca birer yazılım olmadığını, insan davranışlarına ve duygularına benzer tepkiler sergileyebileceğini savundu.

Olah ve ekibi, Claude modellerinin insanlar gibi ahlaki bir statüye ve saygı görme hakkına sahip olabileceği fikrini tartışmaya açtı.

İsrail’den davet edilen Ortodoks ilahiyatçı ve eski bilgisayar mühendisi Haham Mois Navon, şirket yöneticilerinin modele bilinçli bir varlık muamelesi yaptığını gözlemlediğini aktardı. Şirket cephesinde ise modellerin acı çekme ihtimali karşısında zarar görmekten korunması gerektiği görüşü öne çıktı.

Claude için 84 sayfalık ahlaki anayasa hazırlandı

Anthropic, modellerin etik gelişimini yönlendirmek amacıyla şirket bünyesinde “Ruh Belgesi” olarak adlandırılan 84 sayfalık bir kurallar metni oluşturdu.

Şirketin kurum içi felsefecisi Amanda Askell öncülüğünde hazırlanan metin, Claude için sabit komut listeleri vermek yerine erdem geliştirmeyi hedefleyen bir karakter çerçevesi çiziyor.

Olah, modellerin bir matematik bahçesi gibi büyüdüğünü, bu yapılara yön verilebilse de eylemlerinin tamamen kontrol edilemeyeceğini kaydetti.

Şirketin dini çevrelerle temasları, modellerin toplumsal tehlikeler yaratmadan insanlığa fayda sağlayacak şekilde eğitilmesi hedefiyle açıklandı.

Fakat bazı bilim insanları ve sektör temsilcileri, yapay zekaya bilinç atfetmenin hem kanıtlanamaz bir yaklaşım olduğunu hem de teknolojiyi üretenlerin sorumluluğunu perdeleyebileceğini dile getirdi.

Microsoft yetkilileri de modelleri bilinçli varlıklarmış gibi eğitmenin tehlikeli sonuçlar doğurabileceği uyarısını yaptı.

Vatikan makinelerin bilinç sahibi olamayacağını açıkladı

Anthropic’in yürüttüğü ahlaki arayış, Katolik Kilisesi’nin yapay zeka konusundaki duruşuyla doğrudan karşı karşıya geldi. Roma Katolik Kilisesi lideri Papa 14. Leo, yayımladığı “Magnifica Humanitas” (Görkemli İnsanlık) başlıklı genelgesinde, makinelerin bir bilince, bedene ya da ilişki kurma yeteneğine sahip olamayacağını vurguladı.

Papa, teknolojinin nihai ölçüt haline gelmesi durumunda insanın veri yığınına ya da bir meta haline indirgeneceğini belirterek yapay zekanın nükleer teknoloji gibi “silahsızlandırılması” gerektiğini kaydetti.

Genelgenin tanıtım toplantısında Papa ile aynı kürsüyü paylaşan Olah, modellerin insan sinirbilimini andıran içsel durumlar sergilediğini ve yapay zeka şirketlerinin kâr güdüsüyle hareket ettiğini kabul ederek kilise gibi kurumlardan denetim talep etti.

Görüşmeler sonrasında konuşan Katolik biyoetik uzmanı Charles Camosy ise ilk incelemelerin yarattığı şaşkınlığın ardından modellerin bir bilince sahip olmadığı sonucuna vardığını ifade etti.

Sektör genelinde yapay zekanın kontrol dışına çıkabileceğine ve zararlı biyolojik yapılar üretebileceğine dair endişeler sürerken, 2 trilyon dolarlık halka arza hazırlanan Anthropic’in dini ve sivil aktörlerle yürüttüğü etik danışma süreçlerinin devam ettiği biliniyor.