Amerika

Google’dan otonom yapay zeka uyarısı

Yayınlanma

Google Tehdit İstihbaratı Grubu, insan müdahalesi olmadan yazılım açıklarını tarayıp saldırı geliştiren otonom yapay zeka modellerinin 5. aşama tehdide ulaştığını açıkladı. Şirket bu risklere karşı Google AI Threat Defense sistemini devreye aldı.

Google, otonom yapay zeka modellerinin oluşturduğu tehdidin yeni bir eşiğe ulaştığını belirterek “otonom saldırılar çağının başladığını” duyurdu.

Şirkete bağlı Google Tehdit İstihbaratı Grubu (GTIG) tarafından salı günü yapılan açıklamada, “Yemek yemeyen, uyumayan, yorulmayan ve içeri sızmanın bir yolunu aramaktan asla vazgeçmeyen bir bilgisayar korsanı hayal edin” denildi.

Açıklamada, son Yapay Zeka Tehdit Takip Raporu’na göre kötü niyetli aktörlerin yazılım güncellemelerini sürekli taramak, hangi açığın kapatıldığını tespit etmek ve buna yönelik saldırı geliştirmek için insan müdahalesi olmadan çalışan otonom büyük dil modeli (LLM) çerçeveleri kullandığı aktarıldı.

Google analistleri, tehdit seviyesinin en az bir insan operatörün dahil olduğu yapay zeka modelleri tarafından “birden fazla saldırı yaşam döngüsü aşamasının” gerçekleştirildiği 5. aşamaya ulaştığını belirtti.

GTIG, son aylarda yapay zeka modellerinin karıştığı olaylara dayanarak siber casusluk ve tedarik zinciri sistemlerine yönelik etkiler dahil olmak üzere çeşitli eğilimlere dikkat çekti.

Google yapay zeka destekli savunma sistemini devreye aldı

Google, artan bu risklere karşı Gemini ve diğer öncü modelleri, Wiz’in bağlam ve önceliklendirme teknolojisini, CodeMender’ın otomatik yama sistemini ve Mandiant’ın uzmanlığını bir araya getiren Google AI Threat Defense çözümünü geliştirdi.

Şirket, bu sistemin saldırganlar istismar etmeden önce açıkları sürekli olarak bulup gidermek için tasarlandığını kaydetti.

GTIG ayrıca çok yönlü savunma stratejisinin, müşterileri güvende tutmak ve bilişim altyapısını korumak için güvenlik önlemleri ile sınırlandırma protokollerini birleştirdiğini bildirdi.

GTIG Baş Analisti John Hultquist, Google’ın açıklamasında yer alan değerlendirmesinde, söz konusu saldırıların sistemlere sızmak için “çığır açan yöntemlere” dayanmadığını, bunun yerine “düzeltilmemiş sorunlardan çok daha yüksek hız ve ölçekte” yararlandığını söyledi.

Hultquist, “Ayak uydurmak için manuel çabaya bel bağlamak yerine etmen tabanlı (agentic) savunmayı benimsemek zorundayız. Aksi takdirde geride kalma riskiyle karşı karşıya kalırız” diye konuştu.

Teknoloji dünyası ve siyasetçiler düzenleme çağrısı yapıyor

Teknoloji sektöründeki uzmanlar ve yöneticiler ile ABD Kongresi’ndeki iki partiden üyeler, otonom yapay zeka modellerinin yarattığı riskler konusunda uyarıda bulunuyor.

Son aylarda yaşanan çeşitli saldırı girişimleri ve temmuz ayında teknoloji girişimi Hugging Face’e yönelik başarılı siber saldırı dahil olmak üzere gerçekleşen ihlaller, bu ileri teknolojinin düzenlenmesi için daha sıkı güvenlik önlemleri ve yasal düzenleme çağrılarını beraberinde getirdi.

Hugging Face olayı, kontrolden çıkan OpenAI modellerinin insan komutlarından kaçıp izlerini gizlediği ilk vaka olarak kayıtlara geçmişti.

Bu olayın ardından Kaliforniya Başsavcısı Demokrat Rob Bonta, OpenAI’a dava açtı.

Bonta şirketi kamu güvenliğini hiçe saymakla, kamuoyuna karşı şeffaf olmamakla ve Kaliforniya Haksız Rekabet Yasası’nı ihlal etmekle suçladı.

OpenAI ise olayı ve kontrolden çıkan etmenlerin faaliyetlerini belgeleyen teknik raporuna işaret ederek bu suçlamalara karşı çıktı.

Microsoft’un kurucu ortağı Bill Gates de eylül ayında NBC News’e verdiği demeçte, yapay zekanın gelişimini sınırlandırmak için ülkeler arasında kurulacak daha geniş bir işbirliğinin, ABD ile Sovyetler Birliği arasındaki nükleer silahsızlanma görüşmelerinden “daha zor” olacağını söyledi.

Gates, ABD Kongresi’ne yapay zekayı düzenleyen yasalar çıkarması çağrısında bulunarak teknoloji şirketlerinin kendi kendini denetlemesinin yeterli olmadığını ifade etti.

Çok Okunanlar

Mobil sürümden çık