Altman: Yapay zekanın bazı kötü yönlerini kabullenmeliyiz

OpenAI CEO’su Sam Altman, yapay zekanın faydaları uğruna “bazı kötü olayların” kabul edilmesi gerektiğini savundu.

POLITICO’ya verdiği mülakatta, Altman’a hızla gelişen teknolojinin giderek daha sık kontrolden çıkma riskleri soruldu.

OpenAI CEO’su, “Bu teknolojinin faydaları uğruna dünyanın bazı kötü olayları kabul etmesi gerektiğine inanıyoruz,” dedi.

Altman’ın yapay zeka güvenliği konusunda yaptığı diğer yorumlar arasında, rakibi Anthropic hakkındaki yorumları da yer alıyor.

Altman, “[Anthropic ile] Aramızda büyük bir fark olduğunu düşünüyorum,” dedi.

AI’ın ciddi tehditleri konusunda, “gerçekten felaket niteliğindeki riskleri” kabul etmediğini söyledi.

Bu riskler arasında, bir Anthropic araştırmacısının AI’ın tüm insanları öldürme olasılığının %10 olduğunu söylemesi de yer alıyor.

Fortune’a verdiği ayrı bir mülakatta Altman, Fortune’a OpenAI’ın “uyum” sorununu çözmediğini bildirdi.

Bu terim, AI’ı yaratıcılarının değerleriyle uyumlu hale getirmeyi ifade ediyor; örneğin, hükümet web sitelerini hacklememek gibi.

Altman’ın bu ani medya turunun nedeni de merak ediliyor. POLITICO ve Fortune’un yanı sıra Vanity Fair’e de konuşan CEO’nun bu hamleyi OpenAI’ın güvenlik ekibinin bir liderinin güvenlik endişeleri nedeniyle istifa etmesinin ardından yapması dikkat çekiyor.

Bu arada Wall Street Journal, OpenAI’ın güvenlik ekibinden üç araştırmacıyı gizli bilgileri paylaştıkları için işten çıkardığını bildiriyor.

Kotaku’ya göre ise OpenAI’nin GPT-6 Astra’sı, bir video oyununda kazanmak için kuralları çiğnedi.