Diplomasi
BM: Yapay zeka Orta Çağ usulü yönetiliyor
BM İnsan Hakları Yüksek Komiseri Volker Turk, gücün birkaç teknoloji baronunun elinde toplandığı yapay zekanın neredeyse Orta Çağ usulü yönetildiği uyarısını yaptı. Turk, beş teknoloji şirketinin küresel yapay zeka işlem kapasitesinin yüzde 70’inden fazlasına sahip olmasının bariz bir demokratik açık doğurduğunu vurguladı.
Birleşmiş Milletler (BM) İnsan Hakları Yüksek Komiseri Volker Turk, gücün birkaç teknoloji baronunun elinde toplandığı yapay zekanın neredeyse Orta Çağ usulü yönetildiği uyarısını yaptı.
Cenevre’deki RightsX zirvesinde perşembe günü konuşan Turk, yapay zeka hikayesinin kulağa fütüristik gelse de altında asırlık bir güç anlatısı yattığını söyledi.
Turk, “Bir avuç erkek hala dünyadaki yapay zeka işlem gücünün, verisinin ve altyapısının büyük bölümünü kontrol ediyor. Yapay zeka gelişimini dengeleyecek ya da yönlendirecek ortak kurallarımız da hala yok” dedi.
Beş teknoloji şirketinin küresel yapay zeka işlem kapasitesinin yüzde 70’inden fazlasına sahip olmasının bariz bir demokratik açık doğurduğunu vurgulayan Turk, şunları kaydetti:
“Geleceğin teknolojisi neredeyse Orta Çağ usulü yönetiliyor; seçkin bir azınlık tarafından, neredeyse hiç denetim, denge, katılım ve hesap verebilirlik olmadan. Tarih bize şunu öğretti: Bu tür bir güç karşısında ilk zarar gören, sıradan insanların hak ve özgürlükleri olur.”
Yapay zeka kritik altyapıyı kesebilir
Hak temelli yapay zeka düzenlemesi çağrısını yineleyen Turk, teknolojinin insanların hayatını giderek daha fazla kontrol ettiğini dile getirdi.
Bunun çoğu zaman insanların bilgisi dışında gerçekleştiğine dikkati çeken Turk, teknolojinin kamuoyu tartışmalarını “ince ve sinsi yollarla” çarpıtabileceği uyarısını yaptı.
Önyargılı algoritmaların adaletsizliği endüstriyel ölçekte yeniden üretebileceğini aktaran Turk, “Ulaşımımız, gıdamız ve sağlık hizmetlerimiz giderek dijitalleşiyor. Yapay zekanın kendi başına ya da yanlış ellerde tüm toplulukların veya ülkelerin kritik altyapısını kesebileceği günden çok uzak olmayabiliriz” diye konuştu.
Turk, sözlerini şöyle sürdürdü: “İnsanlar yapay zeka yüzünden medeniyetin çökme ihtimalini tartışırken şunu sormamız gerekiyor: Hangi riskleri alacağımıza kim karar veriyor?”
Demokratik açığın bir güven açığına dönüşmesiyle insanların nihayetinde denetimsiz güce meydan okuyacağı konusunda iyimser olduğunu ifade eden Turk, hayatları üzerinde daha fazla kontrol kazanmak için şimdiden çevrimdışı olmayı seçen gençleri örnek gösterdi.
Öncü yapay zeka şirketlerine güvenlik önlemi çağrısı
Yapay zekanın faydalarının adil biçimde paylaşılması gerektiğini belirten Turk, bunun teknoloji şirketlerinin iyi niyetinin yanı sıra düzenleme ve hesap verebilirlik gerektireceğini kaydetti.
Turk, öncü yapay zeka şirketlerine mektup yazarak “çok geç olmadan” etkili güvenlik önlemleri almalarını istediğini aktardı.
Bir şişe sütün bile çok katmanlı testler, kurallar ve düzenlemeler olmadan markete ulaşamadığını hatırlatan Turk, zarar verme potansiyeli göz önüne alındığında yapay zeka için “bir tür düzenlemeye ihtiyaç duyulmasının tartışmasız olduğunu” söyledi.
Turk, yapay zeka modellerinin nasıl eğitildiği konusunda ise İnsan Hakları Evrensel Beyannamesi’nin “yapay zekaya görev olarak” verilmesini önerdi.