OpenAI Yönetim Kurulu üyesi Christiano: “Süper zeka insanlığı yok edebilir”

Yapay zeka uzmanı Paul Christiano, güçlü yapay zeka sistemlerinin kontrolden çıkması halinde insanlığın büyük kısmının ölebileceği uyarısını dile getirdi. ABD Ticaret Bakanlığı danışmanı olan Christiano, ChatGPT’nin çatı kuruluşu OpenAI vakfının yönetim kuruluna getirildi.

Yapay zeka güvenliği uzmanı Paul Christiano, son derece güçlü yapay zeka sistemlerinin kontrolden çıkabileceğini ve en kötü senaryoda insanlığın büyük kısmının yok olmasına yol açabileceğini söyledi.

Financial Times gazetesinin haberine göre, ABD Ticaret Bakanlığı bünyesindeki Yapay Zeka Standartları ve İnovasyon Merkezi’nde (CAISI) kıdemli teknik danışman olarak görev yapan Christiano, ChatGPT’nin geliştiricisi olan ticari yapıyı denetleyen OpenAI kâr amacı gütmeyen vakfının yönetim kuruluna atandı.

Christiano, hükümetteki danışmanlık görevini de sürdürecek.

Yeni görevini duyururken değerlendirmelerde yer veren Christiano, şu ifadeleri kullandı:

“Daha güçlü bir koordinasyon olmaksızın bir süper zeka geliştirirsek, üzerindeki kontrolümüzü tamamen kaybedeceğimizi öngörüyorum. Şayet bu yaşanırsa, insanların çoğu hayatını kaybedebilir.”

Christiano, bu tehdidin azaltılması adına hem ülke içinde hem de uluslararası düzeyde işbirliği yürütülmesinin şart olduğuna dikkat çekti. O

penAI dahil olmak üzere sektörün tamamının, kontrol kaybı riskini kabul edilebilir bir seviyeye indirmek için şu an yeterli çabayı göstermediğini de ekledi.

Financial Times’ın analizine göre, Christiano’nun OpenAI vakfı yönetim kuruluna girişi, yapay zeka laboratuvarlarının güvenlik ve düzenleme alanındaki uzmanlıklarını artırma gayretlerini yansıtıyor.

Söz konusu laboratuvarlar, siber güvenlik alanında yaşanan ses getirici olayların ve ardından hükümet organlarından gelen müdahale çağrılarının neticesinde akademi ve politika çevrelerinden uzmanları bünyesine katıyor.

Yapay zekanın “vaftiz babası” olarak anılan Nobel ödüllü Geoffrey Hinton da The Times gazetesine verdiği demeçte benzer kaygıları dile getirmişti.

Hinton, insan zekasını açık ara geride bırakan bir “süper zeka” sisteminin günümüzde şirketler eliyle güvenli biçimde inşa edilemeyeceğini belirterek, bu tür güçlü modellerin insanlık açısından felaket boyutunda sonuçlar doğurabileceği uyarısını paylaştı.