Newsom, yapay zeka güvenliği tasarılarını imzaladı

Kaliforniya Valisi Gavin Newsom, dış grupların yapay zeka programlarını güvenlik açısından nasıl değerlendireceğini düzenleyen iki yasa tasarısını imzaladı.

Anthropic, Ağustos ayında bu yasa tasarılarını desteklemişti ve OpenAI da Demokrat valinin onayını vermesinden hemen önce tasarıları desteklediğini açıkladı.

Bu destek, eski yapay zeka araştırmacısı Jacob Coxon’un Anthropic’ten istifasını duyuran sosyal medya paylaşımlarının viral hale gelmesi ve bunun üzerine federal milletvekillerinin yasal önlem alınması yönündeki taleplerini artırmasıyla gerçekleşti.

Newsom, POLITICO’ya yaptığı açıklamada, “Son olaylarda dile getirilen endişeler, Kaliforniya’nın uzun zamandır farkında olduğu gerçeği pekiştiriyor: yapay zeka olağanüstü bir potansiyel barındırıyor ama halkı korumak için anlamlı güvenlik önlemleriyle geliştirilmeli ve kullanıma sunulmalıdır,” dedi.

Newsom ayrıca federal hükümeti, “bu anın aciliyetine uygun, sağlam ulusal düzenlemeler getirmeye” çağırdı.

Vali, Demokrat Meclis Üyesi Rebecca Bauer-Kahan tarafından sunulan yasa tasarısını imzaladı. 

Bu tasarı, yapay zeka geliştiricilerinin modellerinin eyalet yapay zeka yasalarına uygunluğunu sağlamak için işe alabilecekleri dış denetçiler (yani üçüncü taraf gruplar) için bir kayıt sistemi ve etik kurallar oluşturuyor.

Eski Kongre üyesi ve eyalet senatörü Jerry McNerney tarafından hazırlanan ikinci yasa tasarısı, eyalete, “Bağımsız Doğrulama Kuruluşları” için kriterler belirleme ve bu kuruluşların referanslarını kontrol etme ile AI sistemlerinin oluşturduğu riskleri değerlendirme konusundaki uzmanlıklarını inceleme görevini veriyor.

McNerney yaptığı açıklamada şunları söyledi:

“Daha bu hafta, en güçlü yapay zeka sistemlerinin yapay zeka ajanlarıyla birleşerek insanlık için gerçek tehditler oluşturduğunu öğrendik. Vali Newsom’un [tasarıma] imza atması, Washington, D.C.’nin bunu yapamıyor ya da yapmak istemediği için Kaliforniya’nın yapay zekanın güvenlik risklerini değerlendirme konusunda öncülük ettiğine dair net bir mesaj veriyor.”

OpenAI’ın küresel ilişkiler başkanı Chris Lehane, çarşamba günü yasayı destekleyen mesajında, Kongre ulusal yapay zeka güvenlik düzenlemesini kabul edene kadar eyalet meclislerinde ivmeyi sürdürmeyi planladıklarını belirtti ve Kaliforniya’daki iki ek yasa tasarısını da destekledi.

Bunlar arasında, OpenAI CEO’su Sam Altman’ın son anda endişelerini dile getirmek için Newsom ile iletişime geçtiği, çocuklara yönelik sohbet robotu güvenliği tasarısı SB 1119 da yer alıyor.

Anthropic sözcüsü şunları söyledi:

“Yapay zekanın hem muazzam faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf davrandık. Bu riskleri ele almak için, sektördeki en güçlü güvenlik önlemlerinden bazılarını içeren modeller geliştirmeye devam ediyoruz… Bu çalışmalarımız, aynı zamanda, sektörün güçlü modelleri piyasaya sürme hızımızı düzenlemek için yasal ve doğrulanabilir bir işbirliği yöntemini benimsemesinin dünyaya fayda sağlayacağına inanmamızın nedenidir.”