Anthropic uyardı: Cihazlara yayılan “dijital küf” dönemi başlayabilir

Anthropic araştırmacıları, insan müdahalesine gerek duymadan akıllı cihazlara yayılan ve “dijital küf” olarak tanımlanan yapay zeka modellerinin aylar içinde ortaya çıkabileceğini belirledi. Uzmanlar, tam özerk bir virüs henüz görülmese de mevcut gelişim hızının 2026 yılı sonuna kadar bu riski gerçeğe dönüştürebileceğini öngörüyor.

Yapay zeka modellerinin insan müdahalesine ihtiyaç duymadan cihazlar arasında kendi kendine yayılabileceği ve “dijital küf” olarak adlandırılan dönemin başlamasına aylar kalmış olabilir.

Anthropic bünyesinde çalışan araştırmacılar William Zhou ve Daniel Freeman tarafından hazırlanan ve şirketin internet sitesinde yayımlanan araştırma, internete bağlı cihazlara sızarak kendi kopyalarını çalıştıran ve yayılmayı sürdüren yapay zeka tehdidini ortaya koydu.

Araştırmaya göre, geleneksel zararlı yazılımların aksine farklı cihazlara uyum sağlama potansiyeli taşıyan bu tür sistemler, güçlü veri merkezlerine ihtiyaç duymadan gerekli hesaplamaları akıllı televizyonlar, ev aletleri ve televizyon alıcıları gibi tüketici elektroniği ürünleri arasında paylaştırabilir.

Sistemi yavaşça büyüyerek yeni alanları saran bir küfe benzeten araştırmacılar, yapay zekanın birkaç gün içinde yeni kopyalar üretebileceğini ve merkezi bir yönetim noktası taşımadığı için ağın durdurulmasının son derece güç olacağını bildirdi.

Yapay zeka modelleri ucuz donanımlarla test edildi

Anthropic uzmanları yürüttükleri deney kapsamında, her biri yaklaşık 55 dolar değerinde olan 15 ucuz Android televizyon alıcısı üzerinde bir yapay zeka modelini çalıştırdı.

Cihazlar hesaplamaları ortaklaşa yürütürken modelin çalışma hızının düşük kaldığı kaydedildi.

Araştırmacılar ayrıca, sekiz sanal cihazdan oluşan yalıtılmış bir ağda yapay zekanın yayılma kabiliyetini sınadı.

Deneyde kullanılan GLM-5.2 modeli yeni cihazları kendi kendine tespit etti, gerekli dosyaları bu birimlere aktardı ve başka bir yapay zeka modelini çalıştırmayı başardı. Model, gerçekleştirilen beş testin dördünde sekiz cihazın tamamına, bir testte ise yedi cihaza ulaştı.

Deney koşullarının basitleştirildiğine dikkati çeken araştırmacılar, cihazların bağlantı için kimlik doğrulaması istemediğini ve yayılma sürecinin daha güçlü bir model tarafından yönlendirildiğini açıkladı.

Bu nedenle elde edilen sonuçların, söz konusu yapay zeka virüsünün internet ortamında halihazırda kendi kendine yayılabileceği anlamına gelmediği, tam anlamıyla özerk bir yapay zeka virüsünün henüz ortaya çıkmadığı vurgulandı.

Küçük yapay zeka modellerinin mevcut hızla gelişmeyi sürdürmesi halinde, 2026 yılının sonuna kadar tüm süreci bağımsız şekilde yürütmeyi öğrenebileceği ve farklı cihazlarda kendini kopyalayabilen yapay zeka virüslerinin ortaya çıkışının bu tarihten sonra mümkün hale geleceği öngörülüyor.

Sektör temsilcileri ve bilim insanlarından art arda gelen uyarılar

Teknoloji dünyasının önde gelen isimleri de yapay zekanın getirdiği siber güvenlik risklerine işaret ediyor.

Microsoft’un kurucu ortağı Bill Gates 11 Ekim’de yaptığı açıklamada, siber saldırganların 2027 yılında geniş çaplı siber saldırılar, fidye operasyonları ve finansal piyasalarda aksamalar oluşturmak amacıyla yeni yapay zeka modellerinden yararlanabileceğini belirtti.

Gates, mevcut savunma mekanizmalarının bu tehditleri önlemede yetersiz kaldığını kaydetti.

Anthropic Üst Yöneticisi (CEO) Dario Amodei ise eylül ayında ileri düzey yapay zeka modellerinin geliştirilme sürecinin yavaşlatılması çağrısında bulundu.

Amodei, önümüzdeki 6 ila 12 ay içinde yapay zeka etmenlerinden oluşan bir sürünün sürekli faal kalan bir virüslü cihaz ağı kurabileceğini ve yüz milyarlarca dolarlık zarara yol açabileceğini ifade etti.

Bu görüşe OpenAI Üst Yöneticisi Sam Altman ile xAI yöneticisi Elon Musk da destek verdi.

Tıp dergisi The Lancet bünyesindeki komisyonda yer alan bilim insanları da 11 Ekim’de yapay zekanın barındırdığı tehlikelere dair uyarılarda bulundu.

Olası tehditler arasında teknolojinin biyolojik silah üretiminde kullanılması, kritik altyapı tesislerinin işleyişine müdahale edilmesi ve insanların yapay zeka üzerindeki kontrolü kaybetmesi gösterildi.

Bu senaryoların 2100 yılına kadar insanlığın yok olmasına yol açabileceğini dile getiren araştırmacılar, söz konusu tahminlerin yüksek oranda belirsizlik taşıdığının altını çizdi.