OpenAI, yapay zeka güvenlik kuralları konusunda Beyaz Saray ile farklı görüşte

Gelişmiş yapay zeka sistemlerinin düzenlenmesine yönelik yeni bir OpenAI önerisi, Başkan Donald Trump’ın yakın zamanda yayınladığı başkanlık kararnamesinden en az iki önemli noktada ayrılıyor.

Yeni bir politika belgesinde OpenAI, federal hükümetten gelişmiş yapay zeka modellerinin potansiyel risklerine yönelik zorunlu değerlendirmeler yapılmasını talep ediyor ama bu süreci denetleme sorumluluğunu sivil kurumlara bırakıyor.

Bu, salı günü Ulusal Güvenlik Ajansı’nın (NSA) liderliğinde siber güvenlik riskleri açısından gelişmiş yapay zeka sistemlerinin değerlendirilmesi için gönüllü bir çerçeve oluşturan yeni Beyaz Saray kararnamesinden önemli bir ayrılık teşkil ediyor.

OpenAI’ın planına göre, bu tür çabalar Ticaret Bakanlığına bağlı Ulusal Standartlar ve Teknoloji Enstitüsünün bir birimi olan Yapay Zeka Standartları ve İnovasyon Merkezi (CAISI) tarafından yönetilecek.

OpenAI’ın yeni önerisi, CEO Sam Altman’ın çarşamba günü Beyaz Saray yetkilileri ve her iki siyasi partiden önemli Kongre üyeleri ile bir dizi toplantı yapmak üzere Washington’a gelmesiyle ortaya çıktı.

Çarşamba sabahı gazetecilerle yaptığı bir sohbette, OpenAI’ın üst düzey yöneticisi Chris Lehane, Trump’ın yeni başkanlık kararnamesini genel olarak övdü ve bunu, şirketinin gelişmiş yapay zeka için bir düzenleyici çerçeve geliştirme çabalarının “doğrulaması” olarak nitelendirdi. 

Fakat Lehane, kendisinin, Altman’ın ve şirket içindeki diğer kişilerin, Trump yönetimi ve Kongre’yi, CAISI’ye yapay zeka değerlendirme sürecinde daha büyük bir rol vermesi için zorlayacaklarını da ima etti.

Lehane, “Ayrıca, bir yapıya dönüşen ve gerçekten bu tür sofistike testleri yapma kapasitesine sahip CAISI de var,” dedi.

OpenAI, Anthropic ve diğer önde gelen şirketlerin yeni AI modelleri hakkındaki bilgileri CAISI ile paylaşmayı zaten kabul ettiklerini belirtti.

Lehane, “Bu şirketlerle bir tür ilişki kurdular, yani bu zaten var,” diye ekledi.

NSA’in şu anda önde gelen AI şirketleriyle böyle bir ilişkisi bulunmuyor.

OpenAI yöneticisi ayrıca, şirketinin, gelişmiş AI modelleri için gizli bir “karşılaştırma” süreci geliştirme ve sürdürme yönündeki yeni Beyaz Saray planına ilişkin endişeleri olduğunu belirtti.

Bu emirdeki bir hüküm, şirketlerin yeni modellerinin ne zaman ve NSA ile diğer istihbarat kurumlarının denetimine gireceğini belirlemesini zorlaştırabilir.

Lehane, “Bence buradaki konulardan biri, yetenek eşiğine ne zaman ulaşılacağı. Bence bu, görüşmenin büyük bir bölümünü oluşturacak: bunun ne olduğuna dair bazı kriterler belirleyebilir misiniz?” diye sordu.

Lehane, Altman’ın Beyaz Saray ile yapılacak toplantılarda “kesinlikle bu konudaki fikirlerimizi ve düşüncelerimizi dile getireceğini” beklediğini söyledi.

Trump’ın yeni kararnamesinin kurumlara ayrıntıları belirlemek için 60 gün süre tanıdığını (bu da OpenAI’nin nihai sonucu şekillendirmek için zamanı olduğunu ima ediyor) ve Kongredeki kilit üyelerin de CAISI’nin AI değerlendirmeleri yapma yeteneğini güçlendirme ve genişletme planlarını değerlendirdiğini belirtti.

OpenAI yöneticisi, şirketin Washington’daki politika yapıcıları, gelişmiş sistemler geliştiren AI şirketleri için zorunlu değerlendirme süreçleri oluşturmaya zorlamayı planladığını da ekledi. 

Lehane, “Herhangi bir laboratuvarın bu kararı tek taraflı olarak alması gerektiğini düşünmüyoruz,” dedi.

Fakat Lehane, sağlam bir değerlendirme çerçevesi oluşturulana kadar daha agresif düzenlemeleri tartışmak için henüz çok erken olduğunu savunarak, AI şirketlerinin yeni modelleri piyasaya sürmeden önce hükümetten onay alması gibi potansiyel bir gereklilik de dahil olmak üzere diğer zorunlu düzenlemelerden kaçındı.

Lehane, “Ek parçaları belirlemeye başlamadan önce bu ilk adımları atmanız gerektiğini düşünüyorum,” dedi.