Kral Charles: Yapay zekanın gelişim hızı son derece endişe verici

Kral Charles, yapay zeka geliştirilme hızının “derin endişe verici” olduğunu belirtti ve sektör liderlerine halka “güven vermesi” gerektiğini söyledi.

İskoçya’nın Ayrshire bölgesindeki Dumfries House’da düzenlenen yapay zeka etkinliği, yapay zekadaki hızlı ilerlemelere ilişkin küresel endişelerin arttığı bir ortamda gerçekleşiyor.

Charles’ın açılış konuşmasında katılımcılara, “Yapay zekanın gelişimi, hem içeriği hem de hızı, eşit ölçüde hem ilgi çekici hem de son derece endişe verici,” dedi ve şöyle devam etti:

“Dünyamızda insanlığımıza ve onun hayati ahlaki bileşenine değer verenler, kaderimizin kontrolünü kaybetmeyeceğimize dair sizden güvence almayı sabırsızlıkla bekliyorlar.”

Kral ayrıca, “bu belirleyici dönemde alınan kararların, gelecek nesillere miras kalacak dünyayı şekillendireceği” uyarısında bulundu ve katılımcılardan “sadece teknolojiyi ilerletmekle kalmayıp, teknolojinin insanlık, toplum ve doğanın hizmetinde kalmasını sağlamalarını” istedi.

Nvidia CEO’su Jensen Huang, Google DeepMind kurucu ortağı Demis Hassabis ve OpenAI Finans Direktörü Sarah Friar zirveye katıldı.

Scale AI CEO’su Francis deSouza ile Anthropic ve Cohere’den üst düzey isimler de davetliler listesinde yer alıyor.

Birleşik Krallık Yapay Zeka Bakanı Kanishka Narayan ve Vatikan danışmanı Paolo Benanti de diğer “düşünce liderleri” ile birlikte etkinliğe katıldı.

Saraydan yapılan açıklamada, Prens Charles’ın konukları “güvenliği ön planda tutarak yapay zekanın faydalarından nasıl yararlanabileceğimizi” ve “bunu başarmak için uluslararası işbirliği ve uzlaşmayı nasıl kuracağımızı, böylece hiçbir ulusun geride kalmamasını ve insanlığın geleceğinin korunmasını” düşünmeye davet edeceği belirtilmişti.

Kral, yöneticilere, “Bu teknolojileri geliştirenler, yapay zekanın giderek daha karanlık yetenekler geliştirme riskine karşı –hatta belki de can alma riskine karşı– giderek daha fazla uyarıda bulunuyorlar,” dedi.

Kral, “bu tür teknolojilerin yanlış ellere geçmesi ve potansiyel olarak felaketle sonuçlanabilecek şekillerde kullanılması gibi varoluşsal tehlikeleri yeterince dikkate almanın” bir “aciliyet” arz ettiğini belirtti.

“Önünüzdeki görev, sadece teknolojiyi ilerletmek değil, teknolojinin insanlık, toplum ve doğanın hizmetinde kalmasını sağlamak.”

Zirve, yapay zekanın “gelecekteki uygulamalarına yön vermek” amacıyla “ortak bir ilke seti” geliştirilip geliştirilemeyeceğini değerlendirmek üzere düzenlendi.

Etkinliği, King’s Trust, King’s Foundation ve Sustainable Markets Initiative tarafından düzenlendi ve ayrıca, yapay zekanın gelecekteki uygulamalarına rehberlik etmek üzere “sadece yetenek ve verimliliğin itici gücü olarak değil, aynı zamanda insan onurunu koruyan ve hem insanların hem de gezegenin refahına katkıda bulunan bir araç olarak” “ortak bir ilkeler dizisi” geliştirilip geliştirilemeyeceği de ele alındı.

Nvidia CEO’su Huang ise, salondakilere güvenliğin “en önemli” olduğunu düşündüğünü söyledi ve bir ürün yeterince güvenli değilse şirketlerin onu piyasaya sürmemesi ve “geliştirmeye devam etmesi” gerektiğini ekledi.

CEO ayrıca, “insanların ve ülkelerin geride kalmamasını sağlamak” için açık modellerin önemini vurguladı.

Bu sistemlerin korunması gerektiğini de belirten Huang, böylece “araştırmacılar, üniversiteler, startup’lar ve ülkeler”in “hiçbirimizin tek başına hayal edemeyeceği” uygulamalar geliştirebileceğini söyledi.

Huang şöyle ekledi:

“Sorumlu bir iyimserlikle öncülük edelim, yapay zekayı güvenli ve emniyetli bir şekilde geliştirelim, daha fazla insana açalım, hedeflerimizi genişletelim ve dünya için önemli olan sorunları çözelim.”

Öte yandan, daha sonra Google tarafından satın alınan Birleşik Krallık yapay zeka laboratuvarı DeepMind’ın kurucu ortağı Demis Hassabis, gelişimin hızı konusunda daha temkinli bir görüş ortaya koydu.

Genel yapay zekanın (AGI) “muhtemelen sadece birkaç yıl sonra” ortaya çıkacağını ve “Sanayi Devrimi’nin on katı” bir etkiye sahip olabileceğini söyledi.

Hassabis, bir şeylerin ters gitme olasılığının “kesinlikle sıfır olmadığını” da ekledi ama insanlığa riskleri azaltmak için toplu olarak gerekli alan ve zaman tanınırsa bu risklerin üstesinden gelinebileceğini belirterek “mantıklı bir orta yol”u savundu.

OpenAI’nin finans direktörü Sarah Friar, yapay zekanın toplumun “en zor sorunlarından” bazılarını çözme potansiyeline sahip olduğunu belirtti.

Fakat artan yeteneklerinin güvenlik ve “yapay zekanın her zaman insanlara hizmet etmesini nasıl sağlayacağımız” konusunda sorular doğurduğunu kabul etti.

Friar, “Hiçbir şirket veya hükümet bunu tek başına başaramaz ve Majesteleri’ne böylesine önemli bir anda bu tartışmayı düzenlediği için minnettarım,” dedi.