Altman ve Amodei, BMGK’ya seslendi

OpenAI’den Sam Altman ve Anthropic’ten Dario Amodei, çarşamba günü Birleşmiş Milletler Güvenlik Konseyi’nde yapay zeka güvenliği konusunda ayrı ayrı brifingler verdi.

Altman, BMGK’ya yaptığı açıklamada, “Önümüzde bir seçim var. Yapay zeka, ya yaratıcılık ve keşiflerin yeni bir Rönesansı gibi olabilir ya da kargaşa ve karışıklığın hakim olduğu yeni bir sanayi devrimi gibi olabilir,” dedi.

Altman ve Amodei, şirketlerinin ürünlerinin güvenliği konusunda giderek artan bir incelemeyle karşı karşıya kalırken konuşma yaptı.

Yapay zeka konusundaki kamuoyu endişesi, bu ayın başlarında Anthropic araştırmacılarının, bu teknolojinin on yıl içinde insanlığı yok edebileceği yönündeki uyarıları üzerine arttı.

Altman ve Amodei de dahil olmak üzere yapay zeka şirketlerinin liderleri, o zamandan beri yapay zeka alanındaki ilerlemenin yavaşlatılması ve teknolojinin güvenlik standartları konusunda daha fazla uluslararası işbirliği yapılması çağrısında bulunuyorlar.

BMGK’da yaklaşık 10 dakika konuşan Altman, yapay zekanın üretkenliğe sağladığı faydaları vurgularken, aynı zamanda bu teknolojinin kötüye kullanılma olasılığına da dikkat çekti.

OpenAI CEO’su, hükümetlerin bir araya gelerek, insanların bu teknolojiyi “kendilerine dayatılan bir şey” olarak algıladıkları bir gelecek yerine, yapay zekanın “demokratik kurumlar tarafından yönlendirildiği” bir gelecek inşa etmelerini savundu.

Altman şöyle konuştu:

“Yapay zekanın demokratik olması için, en önemli kararlar yalnızca San Francisco’daki laboratuvarlar tarafından alınamaz. Bu kararlar, demokratik süreçler aracılığıyla ve hizmet ettikleri halka karşı sorumlu hükümetler tarafından şekillendirilmelidir.”

OpenAI CEO’sunun konuşması, şirketinin bazı lobi faaliyetleriyle ve şirket başkanı Greg Brockman’ın ABD’deki siyasi eylem komitesiyle (PAC) tezat oluşturuyor.

Yapay zeka yanlısı “Leading the Future PAC”, yapay zeka sektörüne yönelik daha sıkı regülasyonları destekleyen adayları hedef alarak 100 milyon dolardan fazla kaynak topladı ve milyonlarca dolar harcadı.

Altman’ın konuşması, Anthropic araştırmacılarının yapay zekanın varoluşsal riskine ilişkin bazı endişelerine de değindi ve konseyi “kıyametçiliğe” kapılmamaları konusunda uyardı.

Altman, güvenlik tartışmasında bunun yerine üç ilkeye dayandırılması gereken bir “orta yol” olduğunu savundu: Yapay zeka sistemleri insan kontrolü altında kalmalı; yapay zeka, doktorların hastaları tedavi etmesine yardımcı olmaktan girişimcileri desteklemeye kadar insanlara fayda sağlamalı; ve teknoloji “insanları bireysel olarak güçlendirmeli.”

Video görüşmesi yoluyla konseye hitap eden Amodei, 12 Eylül tarihli bir blog yazısında dile getirdiği ve küresel işbirliğinin artırılması ile yapay zekanın denetlenmesi çağrısında bulunduğu birçok noktayı tekrarladı.

Amodei, yapay zekanın biyolojik silah geliştirmede kullanılmasının yasaklanması ve yeni yapay zeka modellerinin test edilmesine yönelik küresel standartlar dahil olmak üzere çeşitli uluslararası anlaşma biçimlerini savundu.

Altman, konuşmasında bu ay manşetlere taşınan varoluşsal risk uyarılarına değinmekten kaçınırken, Amodei, geliştiricilerin yapay zeka üzerindeki kontrolünü kaybetmesi konusundaki endişelerini yineledi ve aynı zamanda şirketini güvenlik konusunda sektör lideri olarak tanıttı.

Amodei, “Kötü yönetilirse, yapay zekanın insanlık için bir risk oluşturabileceğine bile inanıyorum. Anthropic olarak, bu riskleri önleme konusunda sektördeki en iyi sicile sahip olduğumuza inanıyoruz,” dedi.

OpenAI’nin ezeli rakibi Anthropic’teki araştırmacıların, bu teknolojinin birkaç yıl içinde insanlığı yok edebileceği uyarısında bulunmasının ardından, yapay zeka düzenlemeleri siyasi gündemde ön plana çıktı.

Bu endişeler, yapay zeka topluluğunun bazı kesimlerinde sıkça dile getirilen bir konu. Bu kesimler, teknolojinin biyolojik silahların geliştirilmesine yardımcı olmaktan finansal bir felakete yol açmaya kadar çeşitli nedenlerle yıkıma yol açabileceğinden korkuyor.

Daha önce Amodei, yapay zeka geliştirme sürecinin yavaşlatılması çağrısında bulunmuş ve bu çağrı OpenAI, Google ve Elon Musk tarafından desteklenmişti.

Hem Amodei hem de Altman, uzun süredir kendilerini yapay zekanın koruyucuları olarak konumlandırıyor ve teknolojinin kamuoyunda nasıl algılanacağını şekillendirmeye çalışıyor.

Şirketleri de yapay zeka yarışında liderlik için rekabet halinde: Her ikisi de, şirketlerin değerini 1,5 trilyon doların üzerine çıkaracak ve potansiyel olarak rekor kıracak halka arzları hedefliyor.