Palantir CEO’su Karp, yapay zeka için devletleştirme istedi

Palantir CEO’su Alex Karp, yapay zeka laboratuvarlarının devletleştirilmesi çağrısında bulundu.

Karp, “sorumsuzca” hareket eden yapay zeka geliştiricilerine hem hukuki hem de cezai sorumluluklar yüklenmesi gerektiğini vurguladı.

Geçen perşembe günü CNBC’ye verdiği demeçte Karp, politika yapıcıların bu teknolojiye ilişkin “makul kılavuz ilkeler” belirlemesi gerektiğini söyledi.

Karp, “İlk savunma hattı, kendi eylemlerinizden sorumlu olmanızdır,” dedi.

Hükümetlerin devletleştirmeyi gerekli gördüklerine inandığını belirten Karp, bunun yapılmaması halinde AI şirketlerinin her müşterisinin yasal işlem başlatabileceğini ifade etti ve “Bu konuyu ciddiye almalıyız,” diye ekledi.

Karp’ın açıklamaları, araştırmacıların bu teknolojinin varoluşsal ve toplumsal tehlikeler oluşturduğuna dair uyarılarının giderek artması karşısında, politika yapıcıların ve teknoloji yöneticilerinin gelişmiş yapay zeka sistemlerini nasıl yönetecekleri konusunda çabaladıkları bir dönemde geldi.

Anthropic CEO’su Dario Amodei, öncü yapay zeka geliştirme çalışmalarının hızının yavaşlatılması çağrısında bulunmuştu.

OpenAI CEO’su Sam Altman ile SpaceX ve Tesla CEO’su Elon Musk da bu görüşe katıldıklarını belirttiler.

Başkan Donald Trump ise bu endişeleri reddetti ve sosyal medya hesaplarında yapay zeka risklerini defalarca “aldatmaca” olarak nitelendirdi.

Nvidia CEO’su Jensen Huang ve Meta Platforms CEO’su Mark Zuckerberg, yapay zeka geliştirme konusunda Trump’ın daha hoşgörülü tutumuna katıldıklarını açıkladılar.

Zuckerberg “uyum konusuna odaklanamayan yapay zeka laboratuvarlarının geride kalacağını” söyledi.

OpenAI, geçen çarşamba günü yaptığı açıklamada, son altı ayda meydana gelen “beklenmedik veya endişe verici” altı model davranışı örneğini ortaya koydu.

Bu açıklama, Hugging Face sızıntısının ardından geldi. Bu olay, Amodei’nin yapay zeka geliştirme hızını yavaşlatma argümanının bir parçası olarak bu olayı örnek göstermesine neden olmuştu.

OpenAI CFO’su Sarah Friar, güvenlik endişeleri gerektirirse şirketin yapay zeka geliştirme çalışmalarını yavaşlatacağını belirtti.

Friar, “Eğer bu, sınırları yeniden belirlememiz ve hızımızı düşürmemiz anlamına geliyorsa, elbette araştırmacılarımızı dinleyip bunu yapacağız,” dedi.

Bu arada OpenAI, Anthropic ve Google DeepMind, birkaç haftadır güvenlik koordinasyonu görüşmeleri yürütüyor.

Tartışma, Kongre’ye de sıçradı. Connecticut eyaletinden Demokrat Senatör Richard Blumenthal, ülkenin “kontrolü tamamen kaybetmenin eşiğinde” olduğunu belirterek, yapay zeka modellerinin kullanıma sunulmadan önce bağımsız bir incelemeye tabi tutulması gerektiğini vurguladı.

Temsilciler Meclisi’nde, yapay zeka geliştiricilerini sistemlerine acil durum kapatma özellikleri eklemeye zorlayacak bir yasa tasarısı da sunuldu.

Fakat benzer öneriler Senato’da muhalefetle karşılaştı.