Çevirmenin notu: Yapay zekâ teknolojilerinin gelişiminde en kaygı verici nokta askeri konulardaki yenilikler. Mevcut savaşlarda yapay zekâ ürünlerinin tali olsa da etkisi olduğu ve yaygın kullanılmaya başladığı fark edilecektir. Savaşan devletler açısından ileriye dönük, iyi düşünülmüş bir yatırım olarak görülebilir. Ve yapay zekâ teknolojilerinin önde gelen yatırımcıları arasında Filistin’i işgal eden İsrail devleti geliyor. İsrail’in bu konuda yatırımları ve uygulamaları dünyanın pek dikkatine nail olmuyor, nitekim Filistin meselesi de büyük ölçüde unutulmuş ve “rutinleşen” bir gündem. Şirketlerin güvenlik kurumlarıyla olan dirsek temasları üzerindeki çalışmalarıyla bilinen İsrailli iktisatçı Shir Hever, Tel Aviv’in yapay zekâ yatırımlarının tehlikelerine odaklanmış.
İsrail yapay zekâyı zaten silah olarak kullanıyor: ama iddia ettiği şekilde değil
Shir Hever
Mondoweiss
2 Temmuz 2023
İsrail yapay zekâ teknolojisinde lider olduğunu iddia ediyor ama getirdiği başlıca yenilikler gevşek endüstri etiği ve yaygın gözetim.
Filistinlilerin haklarını destekleyen akademisyenler ve aktivistler bazen istemeden de olsa İsrail’in silah endüstrisini destekliyor mu? İsrail’in askeri niteliğini abartma makinesi, işgali yeni geliştirdiği silahlar için bir “laboratuvar” ya da “vitrin” olarak kullanmasıyla meşhur, ancak bu durum İsrail’in silah ihracatına karşı çıkan aktivistler için bir ikilem yaratıyor. Akademisyenler ve aktivistler, İsrail güçleri tarafından işlenen suçları vurgulamaktan ahlaki olarak sorumlu. Fakat aktivistler bu silahların yol açtığı yıkım, acı ve ölümlere işaret ederek, istemeden de olsa İsrail’in ölüm, yıkım ve baskı teknolojilerini satmasını sağlayan propagandayı yeniden üretebilirler.
İsrail’in abartı tuzağına düşmemek için bir adım geri atmalı ve zaman içinde uyguladığı baskı ve devlet şiddeti yöntemlerine bakmalıyız. Yakın zaman önce Batı Şeria’daki İsrail kuvvetleri 20 yıl öncesinin, ikinci İntifada’nın yöntemlerine geri döndü ve bir Apaçi helikopteri bütün bir kalabalığa kurşun yağdırdı. Teknoloji geriye doğru gidiyor.
Casus yazılımlar bu aldatmacaya iyi birer örnek. İsrailli casus yazılım şirketleri, en yüksek teklifi verenlere ya da İsrail hükümetinin ilişkilerini geliştirmek istediği otoriter rejimlere casus yazılım satmak için hükümetten yetki aldılar. Bu durum casus yazılımları İsrail’e ait bir teknoloji haline getirmez ve ABD, Rusya ve casus yazılımlara erişimi olan diğer ülkelerdeki istihbarat teşkilatları bunları piyasada satışa sunmazlar.
Antony Loewenstein, The Palestine Laboratory (Filistin Laboratuvarı) adlı kitabında bu aldatmacanın nasıl İsrailli silah şirketlerinin satışlarını artırmak için üretildiğini tartışırken Rhys Machhold da İsrail’in işlediği suçlara dönük eleştirel metinlerin, aktivistlerin durdurmaya çalıştığı şirketler tarafından tanıtım malzemelerine dönüştürülmesi konusunda uyarıda bulundu.
İsrail’in abartı makinesinin ötesinde
Abartı makinesinin en son ürünü yapay zekâ. Öğrenme ve uyum sağlama kabiliyetine sahip yapay zekânın hızlı gelişimi basında ve sosyal medyada hem hayranlık hem de korku uyandırıyor, bu nedenle İsrail apartheid kurumlarının şimdiden kendilerini öncüler olarak markalaştırmaya çalışması şaşırtıcı değil.
Sophia Goodfriend, 972 Magazine’de kaleme aldığı makalesinde İsrail ordusunun yapay zekâ kullanımı konusunda uyarıda bulunuyor ama bu iddiasını dayandırdığı tek kaynak İsrail ordusunun kendisi. Haziran 2022’de İsrail’in en büyük silah şirketi Elbit Systems, Legion-X adlı katil robot sürüsünden oluşan yeni sistemini sergiledi ve bunu “yapay zekâ destekli” olarak nitelendirdi. Bu silah sahiden de dehşet verici. Bununla birlikte, Legion-X’in sürücüsüz bir arabadan daha az yapay zekâ özelliği içerdiğini ve işgal altındaki topraklarda sivil bir mahallede faaliyet gösteren herhangi bir askeri birlikten daha fazla veya daha az ölümcül olacağına dair hiçbir delil olmadığını vurgulamak önemli.
Netanyahu, İsrail’in yapay zekâ araştırmalarında dünya lideri olduğuna dair tutkulu bir konuşma yaptı ve bu konuşma, en az Netanyahu’nun diğer konuşmaları kadar doğruluk payı içeriyordu. Open AI CEO’su ve ChatGPT sisteminin en ünlü geliştiricilerinden biri olan Sam Altman, haziran ayının başlarında İsrail’e yapmayı planladığı bir gezi sırasında Netanyahu ile görüşme fırsatını geri çevirdi. Bunun üzerine Netanyahu alelacele ülkesinin, yapay zekâ ile haşır neşir olması nedeniyle hisseleri yükselen NVIDIA ile İsrail hükümeti için bir süper bilgisayar geliştirmesi konusunda sözleşme yapacağını duyurdu. Süper bilgisayar geliştirme fikrinin herhangi bir fizibilite çalışmasına değil de bir hevese dayandığı ortaya çıkınca planlar birkaç gün içinde iptal edildi. İlginçtir ki bu mega projenin iptali İbranice basında haber yapılırken İngilizce basında yer bulmadı.
Yapay zekâ korkusu, Eliezer Yudkowsky gibi önde gelen akademisyenlerin alarmı yükseltmesi ve denetimsiz yapay zekâ gelişiminin kitle imha silahları kadar tehlikeli olarak görülmesi gerektiği konusunda uyarıda bulunması ile yapay zekânın tehlikelerine canlı bir tartışmayı körüklüyor. Yapay zekânın tehlikeleri hakkındaki tartışmalar, otonom silahların veya yapay zekânın dikkatsiz bir operatör tarafından kendisine verilen bir hedefe ulaşmak için tüm sistemlerin kontrolünü ele geçirmesi ihtimalinin yarattığı tehlikeye odaklanıyor. Yaygın örnek, güçlü bir yapay zekâ sistemine “iklim değişikliğini çözmesi” için verilen varsayımsal talimat; bu senaryoda yapay zekâ, mantıksal olarak iklim değişikliğinin nedeni olan insanları derhal yok etmeye başlayacaktır.
Şaşırtıcı olmayan bir şekilde, İsrail’in yapay zekâ tartışması büyük ölçüde farklı. İsrail ordusu El Halil’e otonom bir top yerleştirdiğini iddia ediyor, fakat İsrail, riskleri en aza indirmek adına yapay zekâyı düzenleme konusunda AB, Britanya ve ABD’nin gerisinde kalıyor. İsrail, Oxford Insights Yapay Zekâ Hazırlık Endeksi’nde 22. sırada yer alıyor. Ekim 2022’de İsrail Teknoloji ve İnovasyon Bakanı Orit Farkash-Hacohen, yapay zekâyı düzenlemek için herhangi bir mevzuata gerek olmadığını açıklamıştı.
Bununla birlikte, otonom silahlar ya da robot isyanı, yapay zekâdaki yeni gelişmelerin yarattığı en büyük risk değil. Bana göre, genelde ChatGPT olarak adlandırılan dil modeli ve gerçek belgeler gibi görünecek kadar gerçekçi görüntü, ses ve video üretme kabiliyeti, sınırsız erişim satın alabilecek kadar zengin olan yapay zekâ kullanıcılarına sınırsız güç verebilir.
ChatGPT ile yaptığınız bir sohbette, riskli konuları gündeme getirmeye çalışırsanız, program size cevap vermenin kuralları ihlal edeceğini bildirecektir. ChatGPT bireyler hakkında özel bilgiler toplama, tehlikeli patlayıcıların, kimyasal veya biyolojik silahların nasıl üretileceği hakkında bilgi toplama gücüne sahip ve en tehlikelisi de ChatGPT, insanlarla ikna edici bir şekilde nasıl konuşacağını ve onları politikalarını etkileyebilecek belirli bir gerçek ve yalan karışımına nasıl inandıracağını bilir. ChatGPT kullanıcılarının ortalığı kasıp kavurmasını engelleyen tek şey, geliştiriciler tarafından kurulan ve kolayca kaldırabilecekleri güvenlik önlemleri.
Cambridge Analytica gibi dezenformasyon şirketleri, yalan haberler yayarak ve daha da önemlisi, yalan bilgileri kişilere uyarlayarak —yaş, cinsiyet, aile durumu, hobiler, beğeniler ve beğenilmeyenler hakkında toplanan verileri kullanarak— onları etkilemek suretiyle seçimlerin nasıl yönlendirilebileceğini göstermişti. Cambridge Analytica sonunda ifşa edilmiş olsa da onlarla birlikte çalışan İsrailli Archimedes Group hiçbir zaman ifşa edilmedi ya da hesap vermedi. Forbidden Stories tarafından kısa süre önce yayımlanan bir haber, Archimedes Group’un İsrail merkezli, ancak dünya çapında faaliyet gösteren bir dezenformasyon ve seçim hilesi endüstrisi olarak yaşamaya devam ettiğini ortaya koydu. Dezenformasyon şirketleri, sosyal medyada dezenformasyon yayan sahte avatar orduları oluşturmak için yapay zekânın ilkel biçimlerini halihazırda kullanıyor. Rakiplerinin itibarını yok etmeyi göze alabilen adaylar, kamu görevine girmenin yolunu satın alabilirler. Bu yasa dışı, fakat İsrail hükümeti bu sektörün ülke dışında serbestçe faaliyet göstermesine izin vermeyi tercih etti.
Yapay zekâyı kötüye kullanmada dünya lideri
Yakın zaman önce Janes, Blackdot ve hatta ABD İç Güvenlik Bakanlığı, OSINT’in (açık kaynak istihbaratı) yarattığı etik riskleri tartışmıştı. Bilgi çalmayı ve gizli gözetlemeyi içeren casusluk riskli ve gayri meşru, ancak gazeteler, sosyal medya vb. gibi açık kaynaklardan kamuya açık bilgileri toplayarak casuslar hedefleri hakkında kapsamlı profiller oluşturabilirler. Yabancı ülkelerdeki istihbarat teşkilatları tarafından gerçekleştirilen OSINT operasyonları fazla miktarda zaman, çaba ve para gerektiriyor. O dili konuşan ve yerel gelenekleri anlayan casuslardan oluşan bir ekip kurulmalı ve ardından bir hedef hakkında özenle bilgi toplanması gerekir; bu bilgiler daha sonra itibar suikastı —hatta gerçek suikast— için kullanılabilir.
Yine, İsrail OSINT’te lider değil ama bu yöntemlerin para için vicdansızca kullanılmasında lider. Eski Mossad casusları tarafından kurulan Black Cube adlı İsrail şirketi, Harvey Weinstein gibi suçlulara hizmet sunmuş ve Weinstein’ı şikâyet eden kadınlara itibar suikastı düzenlemeye çalışmıştı. Neyse ki Black Cube projelerinin çoğunda başarısız oldu. Yalanları yeterince inandırıcı değildi, kılıfları yeterinde incelikli değildi, topladıkları bilgiler çok eksikti.
Yapay zekânın yeni kabiliyetleri ile tüm bunlar değişiyor. Yapay zekâ üzerindeki etik kısıtlamaları devre dışı bırakmak için yapay zekâ sağlayıcılarına rüşvet verebilen herkes, normalde haftalar ve onlarca insandan oluşan bir ekip gerektiren bir OSINT operasyonunu dakikalar içinde gerçekleştirme gücüne sahip olacaktır. Bu güçle yapay zekâ, sadece insanları otonom silahlarla öldürmek için değil, çok daha ciddi bir şekilde, insanların dostu düşmandan ayırt etme kabiliyetlerindeki karar alma sürecini etkileyerek yıkıcı bir rol oynayabilir.
İnsan hakları örgütleri ve BM uzmanları bugün İsrail devletinin bir apartheid rejimi olduğunu kabul ediyor. İsrailli yetkililerin savunmasız Filistinli sivilleri öldürmek için yapay zekaya ihtiyacı yok. Ancak, insan propagandistler İsrail’in itibarını koruyamadılar, ki bu insanlar açısından epey zor bir iş. Fakat İsrail, insanların başarısız olduğu yerde yapay zekânın başarılı olabileceğini umuyor.
İsrail rejiminin ticari pazarda mevcut olanlardan başka yapay zekâ teknolojisine erişimi olduğunu düşünmek için herhangi bir gerekçe yok ama Filistin halkına karşı apartheid ve yerleşimci-sömürgeciliği sürdürmek için her türlü yola başvuracağına ve her türlü kırmızı çizgiyi aşacağına inanmak için her türlü gerekçe mevcut. ChatGPT gibi mevcut yeni yapay zekâ dil modelleri ile bu rejim ile hedefi arasında duracak tek şey, yapay zekâ geliştiricilerinin bir apartheid rejimini böylesine tehlikeli bir teknoloji ile silahlandırma riskini fark etmeleridir.
İsrail’in gizli polis şefi Ronen Bar, bunun halihazırda gerçekleştiğini ve yapay zekânın çevrimiçi otonom kararlar almak ve insanları henüz işlemedikleri suçlardan sorumlu tutmak üzere sosyal medyada gözetlemek için kullanıldığını açıkladı. Bu, yapay zekânın İsrail tarafından halihazırda silah olarak kullanıldığına dair bir ikaz. Yapay zekânın neden olduğu zararı önlemek, ancak onu anlamak için zaman ayırırsak mümkün olabilir.
