Sam Altman: AI konusunda bize güvenin

OpenAI’ın patronu Sam Altman, insanların şirketine ve benzeri kuruluşlara doğru şeyi yapacaklarına dair daha fazla güven duymaları gerektiğini söyledi.

Altman, salı günü San Francisco’da düzenlenen Salesforce’un Dreamforce konferansında, “Dünya, doğru olanı yapacağımıza güvenmeli çünkü bu doğru olan şey ve biz bunun öneminin farkındayız,” dedi.

Öte yandan Altman, araçların yeteneklerinin hızla gelişmesi nedeniyle insanların yapay zeka konusundaki endişelerinin haklı olduğunu da belirtti.

Altman, yapay zeka şirketlerinin kendi kendilerini denetleyebilecek durumda olduklarını söyledi.

“Bunu doğru bir şekilde halledeceğiz,” diyen Altman, şirketlerin “uyum ve güvenliği yeteneklerin çok ötesinde” tutamazlarsa “hızlarını yavaşlatacaklarını ya da duracaklarını” da sözlerine ekledi.

Altman, “sektör genelinde yeni teknolojilerle birlikte bir dereceye kadar kazaların kaçınılmaz olduğunu” savundu.

CEO, federal kurumlar tarafından yürütülen kaza raporlamaları, bunlardan çıkarılan dersler ve düzenlemeler sayesinde hava yolculuğunun ne kadar güvenli hale geldiğine dikkat çekti ve şöyle devam etti:

“Muhtemelen, ne yazık ki, herhangi bir yeni teknolojiyle ilgili kazalar kaçınılmaz ve bu konuda şeffaf bir raporlama kültürüne sahip olmalıyız.”

Altman, şirketlerin “güvenli bir şekilde ilerleyemeyeceğimiz bir noktaya gelirsek, hızımızı azaltmaya veya durmaya” hazırlıklı olmaları gerektiğini söyledi.

Sosyal medyayı “ibretlik bir örnek” olarak gösteren Altman, sosyal platformların gerçek faydalar sağladığını, fakat toplum üzerindeki, özellikle de gençler üzerindeki etkilerinin “sadece olumlu” olmadığını söyledi.

Kısa videoları, doğası gereği kötü olmasa da yine de tehlikeli olabilecek bir teknoloji örneği olarak öne çıkardı.

“Kısa videoların doğası gereği kötü olduğunu düşünmüyorum, ancak tehlikeli olduklarını düşünüyorum,” diyen Altman, sorumluluğun ebeveynler, şirketler ve hükümetler arasında paylaşıldığını da ekledi.

Altman, bu tür videoları izleyerek rahatlamayı sevdiğini ancak çocuklarının izlemesine izin vermeyeceğini belirtti.

OpenAI CEO’su, yapay zeka teknolojisini “tanrılardan gelen ateş”e benzeterek, dünyanın sohbet robotları ve kodlama ajanlarından sonra, yapay zekanın insanların adına proaktif olarak işleri yürütebileceği üçüncü bir dalganın eşiğinde olduğunu söyledi:

“İnsanları gerçekten daha yetenekli ve daha güçlü kılacak harika ürünleri nasıl geliştireceğimizi anlamak konusunda henüz yolun başındayız.”

İnsan işlerinde büyük bir atalet olduğunu ve teknolojinin tam anlamıyla yaygınlaşmasının yıllar alacağını belirtti.

Bu arada Washington’da konuşan Senatör Bernie Sanders ve eski Trump danışmanı Steve Bannon, ikisi de yapay zekanın daha sıkı bir şekilde denetlenmesi çağrısında bulundu.

Altman’ın yorumlarının ardından Mark Zuckerberg X’te bir yazı yayınlayarak, her yapay zeka şirketinin güvenlik konusunda “kendi adımlarını atma” yeteneğine ve motivasyonuna sahip olduğunu belirtti.

Meta CEO’su, “Uyum konusuna odaklanmayan her laboratuvar geride kalacaktır,” diye yazdı:

“Modelleri zarar verirse laboratuvarlar önemli bir sorumlulukla karşı karşıya kalır, bu nedenle bunu önlemek için de güçlü bir motivasyonları vardır. Uyum, insan etik fikirlerini ve ilkelerini yapay zekaya entegre etmeyi amaçlayan bir alandır. Başka bir deyişle, yapay zekayı insanların değer verdiği şeylerle uyumlu tutmayı hedefler.”

Nvidia CEO’su Jensen Huang, aynı konferansta, teknolojinin yeni sürümlerinin piyasaya sürülüp sürülmeyeceğine yapay zeka şirketlerinin karar vermesi gerektiğini ve bu kararın dış güçler tarafından yönetilmemesi gerektiğini söyledi.

“Yeni yasalara veya düzenlemelere ihtiyacımız yok,” diyen Huang, inovasyon hızı ile yapay zeka ürünlerinin güvenliği arasında “yanlış bir seçim” yapılmaması gerektiğini de sözlerine ekledi.

Huang ayrıca, güvenliğin bir “mühendislik sorunu” olduğunu ve şirketlerin bir ürüne olan güvenlerini yitirmeleri halinde “bir ara vermeleri” gerektiğini savundu.