Google yapay zeka sorumluluk birimini DeepMind laboratuvarından çıkardı

Google, en gelişmiş yapay zeka modellerini geliştiren araştırma laboratuvarı Google DeepMind bünyesindeki risk ve toplumsal etki odaklı ekibi doğrudan şirket merkezine taşıyor. Yaklaşık 90 kişilik yapay zeka sorumluluk biriminin şirketin kamu politikaları ve lobi faaliyetlerini yöneten küresel ilişkiler organizasyonuna bağlanması araştırmacılar arasında bağımsızlık endişesi yarattı.

Google, öncü yapay zeka modellerini geliştiren araştırma laboratuvarı Google DeepMind bünyesindeki yapay zeka riskleri ve toplumsal etkiler odaklı birimi laboratuvar dışına taşıyor.

Wall Street Journal gazetesinin şirket içi bir e-postaya ve iki mevcut DeepMind çalışanına dayandırdığı haberine göre, yaklaşık 90 kişiden oluşan “yapay zeka sorumluluğu” birimi gelecek haftadan itibaren Google’ın lobi ve kamu politikası süreçlerini yürüten küresel ilişkiler organizasyonuna katılacak.

Raporlama yapısındaki bu değişiklik, Google’ın 2014 yılında satın aldığı ve bugüne kadar yarı özerk bir yapıda faaliyet gösteren DeepMind’ı şirket geneliyle daha sıkı biçimde bütünleştirmeyi amaçlayan kapsamlı kurumsal dönüşümün bir parçası olarak gerçekleşiyor.

Yeniden yapılanma kapsamında DeepMind’ın kurucu ortaklarından Demis Hassabis, CEO’luk görevini bırakarak yönetim kurulu başkanlığı rolüne geçti.

Hassabis yeni görevinde dış temaslara ve yapay zekaya ilişkin geniş kapsamlı stratejik başlıklara odaklanacak.

Hassabis’in yerine DeepMind’ın başına geçen Koray Kavukcuoğlu ise icra kurulu başkanı yerine kıdemli başkan yardımcısı unvanını taşıyacak.

Sorumluluk ekibini yöneten Google DeepMind Başkan Yardımcısı Helen King, çalışanlara gönderdiği e-postada Google DeepMind’ın Google Arama gibi birimler için kullanılan ürün alanı (PA) yapısına geçtiğini ve merkezi ekiplerin merkezi Google bünyesine taşındığını bildirdi.

Dönüşüm çerçevesinde insan kaynakları ve politika dahil diğer bazı ekipler de DeepMind dışına çıkarılarak merkezi Google organizasyonuna dahil ediliyor.

Time dergisi daha önce Google’ın DeepMind bünyesindeki bazı güvenlik ekiplerini yeniden yapılandırmayı planladığını duyurmuştu.

Sorumluluk birimi çalışanları, mesaj panosu tartışmalarında ve toplantılarda yöneticilere endişelerini iletti. Araştırmacılar, yapay zekanın toplumsal etkilerine yönelik incelemelerin ve kamuoyu tepkilerinin arttığı bir dönemde, bu adımın bağımsız araştırma yapma kabiliyetlerini zedeleyeceğini savundu.

Söz konusu birim bünyesinde Google’ın yapay zeka modellerini kimyasal, biyolojik, radyolojik ve nükleer risklere karşı test eden ekiplerin yanı sıra insanların yapay zekayla etkileşimini ve sohbet robotlarının psikolojik etkilerini inceleyen araştırma grupları yer alıyor.

Çalışanlar, DeepMind dışına çıkarılmanın Google’ın Gemini yapay zeka modellerini geliştiren ekiplerin çalışmalarına yönelik erişimi ve doğrudan bilgi akışını azaltacağını, bu durumun da ilgili araştırma sorularını tespit etmelerini güçleştireceğini belirtti.

Google sözcüsü konuya ilişkin açıklamasında, “Google genelinde birçok ekip yapay zeka güvenliği ve sorumluluğu üzerine çalışıyor. Yapay zeka sorumluluk ekiplerimizi birbirine daha da yakınlaştırarak modellerimiz ve ürünlerimiz için güvenlik sağlama kabiliyetlerini güçlendiriyoruz” dedi.

Model davranışı, gizlilik ve güvenlik konularına odaklanan diğer güvenlik ekiplerinin Google DeepMind bünyesinde kalmayı sürdüreceği bildirildi.

Helen King, e-postasında çalışanlarına güvence vermeye çalışarak değişikliklerin ekibin günlük çalışmalarını ve misyonunu etkilemeyeceğini kaydetti.

Ekibin odak noktasının sorumlu yapay zeka alanındaki yeni ve öncü başlıklar olmaya devam edeceğini belirten King, çalışmaların yayınlar ve etkinlikler aracılığıyla kamuoyuyla paylaşılmasının desteklenmeye devam edeceğini vurguladı.

King ayrıca ekibin DeepMind’a erişimini sürdüreceğini, bilgi işlem kaynaklarını ve personel kadrosunu koruyacağını ifade ederek Hassabis’in sorumlu yapay zeka konusuna önem vermeyi sürdürdüğünü ve sürece dahil olmayı planladığını bildirdi.

Eylül başında yürürlüğe girmesi planlanan yeniden yapılanma öncesinde bazı çalışanlar DeepMind bünyesinde kalacak araştırma ekiplerine geçiş talebinde bulundu ancak bu talepler reddedildi.

Yöneticilerin toplantılarda bazı DeepMind çalışanlarının bu gelişme sonucunda başka yapay zeka laboratuvarlarına geçebileceği riskini kabul ettiği belirtildi.

DeepMind, amiral gemisi yapay zeka modellerinin kodlama gibi yeteneklerde Anthropic ve OpenAI modellerinin gerisinde kalmasıyla son aylarda bir dizi üst düzey araştırmacının ayrılığına sahne oldu.

Google’ın yapay zeka çalışmalarının ilk dönemlerinden bu yana kilit isimlerinden olan Jeff Dean, bu ayın başında üç kıdemli DeepMind araştırmacısıyla birlikte yeni bir girişim kurmak üzere şirketten ayrıldı.

Şirketin önde gelen araştırmacılarından Noam Shazeer yaz aylarının başında OpenAI’a, John Jumper ise Anthropic’e geçti.