Google çalışanlarından CEO Pichai’ye Pentagon uyarısı

Google bünyesindeki DeepMind ve Cloud birimlerinden 600’ü aşkın çalışan, CEO Sundar Pichai’ye gönderdikleri mektupla Pentagon’un gizli projelerinde yapay zeka kullanımına karşı çıktı. Çalışanlar, denetlenemeyen riskler ve otonom silahlanma tehlikesi nedeniyle şirketin gizli iş yüklerini tamamen reddetmesini talep etti.

Google bünyesinde faaliyet gösteren DeepMind ve Cloud birimlerine bağlı yüzlerce çalışan, şirketin Üst Yöneticisi (CEO) Sundar Pichai’ye bir mektup göndererek, Pentagon ile yapay zeka teknolojisinin gizli ortamlarda kullanımı için anlaşma yapılmamasını istedi.

Çalışanlar, Anthropic şirketinin yılın başlarında askeri çalışmalardan yasaklanmasına neden olan risklerin benzerleri konusunda uyarıda bulundu.

DeepMind ve Cloud birimlerinden 600’den fazla çalışanın imzasını taşıyan mektup, Anthropic’in yerel kitle izleme veya otonom silahlar için kullanılan yapay zekaya yönelik denetim mekanizması talep etmesi üzerine Savaş Bakanlığı (Pentagon) listesinden çıkarılmasından yaklaşık iki ay sonra geldi.

Pazartesi günü Sundar Pichai’ye iletilen mektupta, Google’ın şu aşamada şirkete ait araçların denetlenemeyen zararlar yaratmayacağını garanti etme yolunun bulunmadığı ifade edildi.

Paylaşılan mektup kopyasında çalışanlar, “Yapay zeka üzerinde çalışan insanlar olarak bu sistemlerin gücü merkezileştirebileceğini ve hata yaptıklarını biliyoruz. Bu teknolojiye olan yakınlığımızın, onun en etik dışı ve tehlikeli kullanımlarını vurgulama ve önleme sorumluluğu yarattığını hissediyoruz” ifadelerini kullandı.

The Information tarafından bu ayın başlarında yayımlanan haberde, Google’ın Gemini yapay zeka modellerini gizli ortamlarda konuşlandırmak üzere Pentagon ile bir anlaşma müzakere ettiği belirtilmişti.

Söz konusu anlaşmanın, Pentagon’un Google yapay zekasını tüm yasal amaçlar için kullanmasına izin vereceği kaydedilmişti.

Tarafların ayrıca, yapay zekanın kitle izleme veya insan kontrolü dışındaki otonom silahlar için kullanılmasını engelleyecek bir dil üzerinde görüştüğü de haberde yer almıştı. Ancak mektubu imzalayan çalışanlar, bu tür hükümlerin pratikte uygulanmasının mümkün olmadığını savundu.

Mektupta, “Google’ın bu tür zararlarla ilişkilendirilmemesini garanti etmenin tek yolu, her türlü gizli iş yükünü reddetmektir” denildi.

Google’ın halihazırda genAI.mil platformları aracılığıyla Pentagon ile gizli olmayan iş yüklerinde yapay zeka modellerini kullanmak üzere bir sözleşmesi bulunuyor.

Çalışanlar, Google yapay zekasının gizli çalışmalarda onaylanmasının “Google’ın itibarına, işine ve dünyadaki rolüne onarılamaz zararlar verebileceği” uyarısında bulundu.

Mektubun organizatörlerinden biri yaptığı basın açıklamasında, meselenin büyük ölçüde şirketlerin hangi teknik korumaları devreye sokabileceğiyle ilgili olduğunu ancak Savaş Bakanlığı’nın herhangi bir kontrolü özel olarak yasakladığını belirtti.

Açıklamada, yönetimin gelecekteki zararları önleme konusunda ciddiyse şu an için gizli iş yüklerini tamamen reddetmesi gerektiği vurgulandı. Pentagon ve Google, konuya ilişkin yorum taleplerine henüz yanıt vermedi.

Pentagon’un yapay zeka kullanımı, bu yılın başlarında bakanlığın Anthropic şirketini modellerinin her türlü yasal amaçla kullanılmasına izin vermediği gerekçesiyle “tedarik zinciri riski” olarak tanımlamasının ardından gündeme gelmişti.

Genellikle yabancı düşmanlar için kullanılan bu nitelendirme üzerine Anthropic, Trump yönetimine dava açmıştı. O dönemde yüzlerce Google ve OpenAI çalışanı, Anthropic’e destek veren bir mektuba imza atmıştı.

Şubat ayı sonundaki bu tanımlamanın ardından saatler içinde, ChatGPT’nin geliştiricisi OpenAI’ın Savaş Bakanlığı ile bir anlaşma imzaladığı biliniyor.

Bu hamle hızla tepki toplarken, CEO Sam Altman daha sonra sözleşmeye yerel izleme ile ilgili eklemeler istediklerini belirterek, anlaşmanın “fırsatçı ve özensiz göründüğünü” kabul etmişti.