İngiliz istihbarat servisleri: Yapay zeka başat bir tehdit

İngiltere’nin istihbarat teşkilatlarının başkanları, yapay zekanın önümüzdeki yıllarda ulusal güvenliğe yönelik en büyük tehditlerden biri olabileceği konusunda hükümeti uyardı.

The Times’ın aktardığına göre MI5 Genel Müdürü Ken McCallum, MI6 Başkanı Blaise Metreweli ve GCHQ Direktörü Anne Keast-Butler, 8 Eylül’deki kabine toplantısında bir brifing verdi.

Genel tehdit tablosu ele alınırken, yapay zekanın kötü niyetli kişiler tarafından İngiltere’ye zarar vermek amacıyla nasıl istismar edilebileceği konusunda uzun bir tartışma yaşandı.

Rusya ve İran gibi “düşman devletlerin” yanı sıra “terörist gruplar ve tek başına hareket eden kişiler” tarafından bu yeni teknolojinin silah olarak kullanılabileceğine dair endişeler dile getirildi.

McCallum’un bakanlara yapay zekanın “düşünmeniz gereken en önemli konu” olduğunu söylediği anlaşılıyor.

Yapay zeka modellerinin gelişme hızı ve Andy Burnham’ın sorunu ne kadar ciddiye aldığı, hükümetin üst kademelerindeki bazı kişilerde endişe yaratıyordu.

Bir bakan, bu durumu, “uyarı ışıklarının yanmasına rağmen asgari düzeyde önlem alındığı Covid pandemisinin ilk aşamalarına ve 2008 finansal krizine” benzetti.

İstihbarat şeflerinin kabineye yaptığı brifing, acil bir tehlike nedeniyle değil, yaklaşık olarak yılda bir kez yapılan tehdit tablosuna ilişkin düzenli güncellemenin bir parçası olarak gerçekleştirildi.

Bu, 17 Temmuz’da başbakan olan Burnham’ın bakanlarını atamasından bu yana yapılan ilk toplantıydı.

Burnham, Liverpool’da düzenlenen İşçi Partisi konferansında yaptığı bir saatlik konuşmada yapay zekaya sadece üstünkörü bir şekilde değinmiş ve görevdeki vizyonunu ana hatlarıyla ortaya koyarken, “yapay zekanın riskleri konusunda net bir bakış açısına sahip olacağını” söylemişti.

Aynı gün, yapay zeka danışmanı Jade Leung görevinden ayrıldığını duyurdu. Başbakanlıkta bu pozisyonun korunup korunmayacağına dair tartışmalar yaşandı ama pozisyonun devam ettirilmesi kararı alındı.

Yapay zeka sektöründen isimler de başbakanın Bilim, İnovasyon ve Teknoloji Bakanlığı’nı feshetmesini ve yapay zeka ile ilgili görevleri birden fazla bakanlığa dağıtmasını eleştirdiler.

Burnham’ın destekçileri ise, tüm bakanlıklara yapay zekayı destekleme görevini vermenin daha mantıklı bir strateji olduğunu savunarak ve başbakanın kabineye bir yapay zeka bakanı atadığını belirterek bu eleştirilere karşı çıkıyor.

Başbakan, dünya liderlerinin katılacağı ve gelecek yıl Manchester’da düzenlenecek G20 zirvesini, yapay zeka kullanımına ilişkin bir “küresel kurallar dizisi” üzerinde anlaşmaya varmak için kullanmayı planlıyor.

Bununla ayrı olarak, Kral geçen ay İskoçya’daki Dumfries House’da yapay zeka sektörü liderleri, hükümet bakanları ve sivil toplum düşünürleriyle bir toplantı düzenleyerek bu teknolojinin getirdiği zorlukları tartıştı.

Nvidia, Anthropic, Google DeepMind ve Open AI gibi dünyanın en güçlü yapay zeka şirketlerinin liderleri etkinliğe katıldı.

Whitehall’dan üst düzey bir isim, istihbarat şefleri ve Kral Charles’ın müdahalelerinin Burnham’ı yapay zeka meselesini daha sıkı bir şekilde ele almaya teşvik ettiğini değerlendirdi.

Kaynak, “Casuslar ona bu konuya önem vermesini söylüyor. Kral da ona bu konuya önem vermesini söylüyor,” dedi.

İstihbarat kurumlarının bu teknolojinin oluşturduğu risk hakkındaki değerlendirmesi, geçen yıl Ekim ayında McCallum’un tehditlere ilişkin güncel bilgileri içeren yıllık kamuya açık konuşmasını yaptığı sırada ortaya çıkmıştı.

O dönemde şunları söylemişti:

“Terörist adayı kişiler, propaganda, silah araştırmaları ve hedef keşifleri için yapay zekayı kullanmaya şimdiden çalışıyor. Devlet aktörleri ise seçimleri manipüle etmek ve siber saldırılarını daha etkili hale getirmek için yapay zekayı istismar ediyor.”

İngiliz istihbarat kurumları için “fırsatlar” olduğunu kabul etse de, MI5 şefi şunları eklemişti:

“Aşırı heyecan ve korku yayma riski göz önüne alındığında, sözlerimi dikkatli seçeceğim. Hollywood filmlerindeki senaryoları öngörmüyorum. Genel olarak, yapay zekanın gerçek faydalar sağladığını gören bir teknoloji iyimseriyim. Fakat yapay zeka yetenekleri hızla ilerlemeye devam ederken, MI5 ve GCHQ gibi kuruluşların ve Birleşik Krallık’ın çığır açan Yapay Zeka Güvenlik Enstitüsü’nün, önümüzdeki yıllarda ülkenin güvenliğini sağlamanın nasıl olması gerektiği konusunda bugün derinlemesine düşünmelerini bekleyebilirsiniz. Yapay zeka bize asla ‘zarar vermek’ niyetinde olmayabilir. Fakat zarar verme potansiyelini görmezden gelmek pervasızlık olur.”

İngiltere’de son haftalarda kamuoyundaki tartışmaların büyük bir kısmı, Rishi Sunak’ın Muhafazakâr hükümeti altında kurulan Yapay Zeka Güvenlik Enstitüsü’nün test amacıyla yeni ABD yapay zeka modellerine erişip erişemeyeceği ve teknolojinin kendisinin insanlık için bir risk oluşturup oluşturmadığı üzerine odaklandı.

Fakat Whitehall’ın bazı çevrelerinde, siber saldırılarda kullanılma da dahil olmak üzere yapay zeka modellerinin oluşturduğu acil tehlikenin çok daha fazla dikkat gerektirdiği yönünde bir görüş hakim.

Bu yaz, Hükümet Siber Koordinasyon Merkezi, devletin bazı birimlerinde en gelişmiş yapay zeka modellerinden kaynaklanan siber saldırılara karşı savunma sistemlerini test etmek amacıyla bir dizi “hackathon” düzenledi.

Bu çalışmalar, dokuz devlet kurumunda 407 güvenlik açığı ortaya çıkardı. Bunlardan biri, bir saldırganın bilgisayar kodunu değiştirmesine ve “önemli bir dijital hizmetin” işleyişini etkilemesine olanak tanıyan “kritik” olarak değerlendirilen bir güvenlik açığıydı.

Sonuçlar kamuoyuna açıklandığında söz konusu hizmetin adı belirtilmedi.

Saldırıların gerçekleştirilmesi sadece 13.000 sterline mal olmuştu. Bu durum, niyetleri kötü aktörlerin nispeten küçük meblağlarla ne kadar büyük hasara yol açabileceğini hatırlattı.

Hem Burnham hem de Maliye Bakanı John Healey, parti kongresindeki konuşmalarında yapay zekanın getirdiği zorluklara değindi ama bu konuyu kısaca ele aldılar.

Hükümet, geçen Kasımda Sovereign AI Fund’ı kurdu; bu fon, siber güvenlik becerilerine sahip olanlar da dahil olmak üzere İngiliz yapay zeka şirketlerine beş yıl boyunca 500 milyon sterlin yatırım yapıyor.

Bir hükümet sözcüsü şunları söyledi:

“Ulusal güvenlik, hükümetin birinci görevidir. Yapay zeka giderek daha güçlü hale geldikçe, İngiltere bunun getireceği tehditlere karşı hazırlıklı olmalıdır. Bu, en gelişmiş sistemleri test etmek, kendi yeteneklerimizi geliştirmek ve savunmamızı güçlendirmek anlamına gelir. İngiliz halkının güvenliğini sağlamak için ne gerekiyorsa yapacağız.”