Bizi Takip Edin

Amerika

Anthropic’ten Nvidia öncülüğündeki “açık kaynak” seferberliğine yanıt

Yayınlanma

Yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, yayımladığı makalede şirketinin açık ağırlıklı yapay zeka modellerinin yasaklanmasını savunduğu yönündeki iddiaları kesin bir dille reddetti. Korumacı yasakların ABD’nin ulusal güvenlik kaygılarını çözmeyeceğini iddia eden Amodei; çip ihracatı kısıtlamalarının sıkılaştırılması, sanayi ölçeğindeki model kopyalama işlemlerinin engellenmesi ve belirli bir güç seviyesinin üzerindeki tüm modellere zorunlu güvenlik testleri uygulanması çağrısında bulundu.

Yapay zeka şirketi Anthropic’in Üst Yöneticisi (CEO) Dario Amodei, dün yayımladığı resmi bildirisinde, kamuoyunda ve teknoloji sektöründe tartışılan açık ağırlıklı (open-weights) yapay zeka modellerine ilişkin şirketinin duruşunu netleştirdi.

Son birkaç gündür özellikle Çin menşeli açık ağırlıklı modellere dair yoğun tartışmalar yürütüldüğünü belirten Amodei, ABD’li yetkililerin bu modellerin Amerikan şirketleri tarafından kullanılmasını yasaklamayı değerlendirdiğine dair haberlerin basına yansıdığını hatırlattı.

Bu gelişmeler üzerine çok sayıda teknoloji firmasının açık ağırlıklı modelleri destekleyen ortak bir mektuba imza attığını anımsatan Amodei, bazı çevrelerin Anthropic’i kendi ticari çıkarlarını korumak amacıyla bu tür modellerin yasaklanmasını istemekle suçladığını aktardı.

Geçmişteki yazılarını okuyan herkesin bu tür yasakları faydalı bir önlem olarak görmediğini bilmesi gerektiğini öne süren Amodei, “Hiçbir şüpheye yer bırakmayacak şekilde açıkça ifade edeyim: Anthropic, açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmamıştır” değerlendirmesinde bulundu.

Tehlikeli kabiliyetler barındırmayan açık ağırlıklı modellerin kamu yararı taşıdığını belirten Amodei, bu sistemlerin çalıştırılması için gereken bilgi işlem gücü dışında ek bir maliyet getirmediğini, şirketler, geliştiriciler ve araştırmacılar için doğrudan değer ürettiğini kaydetti.

Nvidia, açık kaynaklı yapay zeka güvenlik ittifakı kurdu

“Korumacı yasaklar en ciddi ulusal güvenlik kaygılarımı gidermeyecektir”

Sektörde tartışılan korumacı yaklaşımın temel güvenlik sorunlarına çözüm sunmadığını savunan Amodei, “Korumacı yasaklar en ciddi ulusal güvenlik kaygılarımı gidermeyecektir” ifadesini kullandı. Sorumlu bir yaklaşım için yaklaşık altı ay önce kaleme aldığı “Teknoloji Ergenliği” (The Adolescence of Technology) başlıklı makalesinde de iki ana kriz senaryosunu detaylandırdığını ve yıllardır aynı çizgiyi koruduğunu belirtti.

Birincil kaygısının “otoriter rejimler” diye nitelediği ülkeleri ABD’den daha güçlü yapay zeka modelleri geliştirmesi olduğunu vurgulayan Amodei, makalesinde şu ifadelere yer verdi:

“Birincil kaygım, yalnızca Çin Komünist Partisi (ÇKP) ile sınırlı kalmamakla birlikte ÇKP açıkça en kabiliyetli tehdit olmak üzere, otoriter hükümetlerin ABD tarafından inşa edilenlerden daha güçlü yapay zeka modelleri geliştirmesi ve bunları kalıcı askeri üstünlük sağlamak ya da kendi halkları üzerinde son derece derin baskılar kurmak için kullanması riskidir.”

Bu kaygının ABD hükümeti bünyesinde de geniş kabul gördüğünü ifade eden Amodei, ABD Başkan Yardımcısı JD Vance’in geçen yıl Paris’te yaptığı konuşmada “Otoriter rejimler askeri, istihbarat ve gözetleme kabiliyetlerini güçlendirmek için yapay zekayı çalmış ve kullanmıştır” diyerek uyarıda bulunduğunu hatırlattı.

Ayrıca ABD İstihbarat Topluluğu’nun 2026 Yıllık Tehdit Değerlendirmesi raporunda, diğer küresel güçlerin yapay zekadaki güçlü ilerleyişinin ABD’nin ekonomik rekabet gücünü ve ulusal güvenlik avantajlarını zorladığı yönündeki tespiti aktardı.

Geliştirilen tehlikeli modellerin açık ağırlıklı olarak yayımlanıp yayımlanmamasının ya da ABD şirketleri tarafından kullanılıp kullanılmamasının önemsiz olduğunu savunan Amodei, “Aslında en tehlikeli model, gizlice eğitilen ve yalnızca Halk Kurtuluş Ordusu’na insansız hava araçlarında kullanılmak üzere verilen ya da Devlet Güvenlik Bakanlığı’na gözetleme ve baskı amacıyla teslim edilen model olabilir” değerlendirmesini yaptı.

“Kötü niyetli aktörlerin meşru ABD şirketleri olması muhtemel değildir”

İkincil kaygısının ise güçlü yapay zeka sistemlerinin siber saldırılar veya biyolojik silahlar geliştirmek amacıyla kötüye kullanılması ve ciddi uyum (alignment) sorunları yaşanması riski olduğunu belirten Amodei, açık ağırlıklı modellerin kaynağı neresi olursa olsun kapalı modellere kıyasla potansiyel olarak daha yüksek risk taşıdığını ifade etti.

Bu modeller üzerine güvenlik sınırları (guardrails) koymanın veya kullanımlarını takip etmenin son derece zor olduğunu, ağırlıklar bir kez yayımlandıktan sonra geri çekilemeyeceğini vurguladı.

Buna karşın bu modellerin ABD şirketlerince kullanılmasını yasaklamanın riski ortadan kaldırmayacağını belirten Amodei, “Ancak bu modellerin ABD şirketleri tarafından kullanılmasını yasaklamak bu riski ele almakta hiçbir işe yaramaz; çünkü kötü niyetli aktörlerin meşru ABD şirketleri olması muhtemel değildir. Bu adım yalnızca ABD’li yapay zeka şirketlerini rekabetten korur ki benim hedefim hiçbir zaman bu olmamıştır” açıklamasında bulundu.

Endişelerin giderilmesi için üç somut önlemi desteklediğini ve Anthropic olarak bu adımları sürekli savunduklarını kaydeden Amodei, ilk olarak Çin’e güçlü çiplerin ve çip üretim ekipmanlarının satışının engellenmesi gerektiğini belirtti.

Yaygın kaçakçılık ve usulsüz erişim yöntemlerinin üzerine gidilmesi çağrısında bulunan Amodei, Çin’in yerli üretim kapasitesinin sınırlı olduğunu, ölçekleme yasaları gereği ABD çipleri olmadan ABD’den daha güçlü modeller üretemeyeceğini, bunun en etkili engelleyici adım olduğunu savundu.

İkinci önlem olarak sanayi ölçeğindeki model damıtma (distillation) işlemlerinin engellenmesi gerektiğini vurgulayan Amodei, sıfırdan model eğitmeye kıyasla çok daha az bilgi işlem gücü gerektiren bu yöntemin, Çin’in elindeki çip sayısıyla normalde ulaşamayacağı kalitede modeller geliştirmesine ve çip kısıtlamalarını kısmen aşmasına imkan tanıdığını kaydetti.

Damıtma işleminin Çin’e ABD ile tamamen eşdeğer veya üstün kabiliyetler kazandırmasa da Çin’in teknoloji sınırını ABD’nin yalnızca birkaç ay gerisine kadar getirebildiğini öne sürdü.

Bu tür operasyonları yürüten şirketlerin çoğunun açık ağırlıklı modeller yayımladığını doğrulayan Amodei, “Ancak açık ağırlıklar, bu operasyonların sınırda ABD’yi geçmeyi hedefleyen otoriter bir devlet tarafından destekleniyor olması gerçeğinden çok daha az önem taşımaktadır. Bu davranışı caydıracak politika müdahalelerine sahip olmalıyız. Açık ağırlıklı modellere yönelik toptan bir yasak ne doğru çözümdür ne de bizim talep ettiğimiz bir şeydir” ifadelerini kullandı.

“Yapay zekayı otoriter ellerden uzak tutmaya odaklanmalıyız”

Üçüncü önlem olarak açık veya kapalı ayrımı yapılmaksızın yeterince kabiliyetli tüm modellere zorunlu güvenlik testleri uygulanması gerektiğini belirten Amodei, modellerin kullanıma sunulmadan önce siber, biyolojik ve uyum risklerine karşı doğrudan test edilmesinin en doğru yöntem olduğunu ifade etti.

Bu fikrin sektörde bir uzlaşıya yakın olduğunu, Donald Trump yönetiminin son aylarda bu yönde adımlar atmasından ve menşeine bakılmaksızın en güçlü modellere bu testlerin uygulanmasını içeren sektör tekliflerinden memnuniyet duyduğunu aktardı.

Testlerin etkili olabilmesi için küresel çapta uygulanması ve Çin’in de bu sürece dahil olması gerektiğini kaydeden Amodei, biyolojik silahların önlenmesi konusunda Çin’in de çıkarı bulunduğu için sınırlı bir işbirliğinin mümkün olabileceğini değerlendirdi.

Teknoloji şirketlerinin imzaladığı ortak mektuba da değinen Amodei, mektuptaki birçok görüşe katıldığını, açık ağırlıkların yapay zeka ekonomisine erişimi genişlettiğini ve rekabeti güçlendirdiğini kabul etti.

Ancak açık ağırlıklı modellerin güvenlik önlemleri geliştirmeyi zorunlu olarak kolaylaştırdığı veya geniş erişimin savunuculara saldırganlardan daha fazla yardımcı olduğu yönündeki iddialara katılmadığını belirtti.

Biyoloji alanında güçlü modellerin salgın düzeyindeki virüsleri hızla silaha dönüştürebileceği, buna karşın savunma geliştirmenin yıllar alacağı uyarısında bulundu.

Görüşlerini özetleyen Amodei, “Kendimin ve Anthropic’in konumunu özetlemek gerekirse, bir kategori olarak açık ağırlıklı modellerin yasaklanmasını savunmadık ve savunmuyoruz. Bunun yerine güçlü çipleri otoriter ellerden uzak tutmaya, sanayi ölçeğindeki damıtmayı durdurmaya ve açık veya kapalı, yeterince kabiliyetli tüm modellerin güvenlik testlerinden geçirilmesini şart koşmaya odaklanmalıyız” açıklamasını yaptı.

Amerika

ABD Genelkurmayında mühimmat sızıntısı soruşturması: 50 personele yalan makinesi

Yayınlanma

ABD Genelkurmay Başkanlığı karargahında görevli yaklaşık 50 subay ve sivil personel, ordudaki mühimmat açığına ilişkin gizli verileri basına sızdırdıkları şüphesiyle yalan makinesine bağlandı. Soruşturmanın emsalsiz bir boyuta ulaştığı belirtilirken, basına yansıyan askeri raporlar İran ile yaşanan savaşta kritik füze stoklarının tükendiğini gösteriyor.

ABD ordusunun mühimmat stoklarındaki erimeye ilişkin basına sızan gizli veriler, Genelkurmay Başkanlığı bünyesinde kapsamlı bir teftiş başlattı.

The New York Times gazetesinin bilgi sahibi yetkililere dayandırdığı haberine göre müfettişler, ABD Genelkurmay Başkanlığı karargahında görev yapan yaklaşık 50 personeli yalan makinesine bağlayarak sorguladı.

Soruşturma kapsamındaki incelemeler yalnızca rütbeli subaylarla sınırlı kalmadı, karargahtaki sivil personel de teste tabi tutuldu.

Görevlilere, gazetecilere gizli bilgi sızdırıp sızdırmadıkları ve azalan mühimmat stokları hakkında basına detay verip vermedikleri soruldu.

Gazeteye bilgi veren kaynaklar, atılan bu adımın yalnızca sızıntının kaynağını tespit etmeyi amaçlamadığını, gelecekte basına benzer bilgiler aktarmayı düşünebilecek diğer çalışanları sindirmeye dönük bir gözdağı niteliği de taşıdığını aktardı.

The New York Times, çağdaş askeri tarihte ABD ordusunun üst kademelerinde böylesi kitlesel yalan makinesi testlerinin görülmediğini ve soruşturmanın vardığı boyutun emsalsiz olduğunu vurguladı.

Amerikan ordusunun cephane açığı yaşadığına dair ilk haberler ağustos ayında medyaya yansımaya başlamıştı. CNN televizyonunun Pentagon’un iç değerlendirmelerine hakim kaynaklara dayandırdığı haberde, İran ile yürütülen beş aylık savaş boyunca ABD’nin THAAD hava savunma sistemi önleme füzelerinin neredeyse yüzde 80’ini ve Patriot füzelerinin ise yaklaşık yarısını tükettiği belirtilmişti.

Reuters haber ajansı da kendi kaynaklarına dayandırdığı bir başka haberde, ABD ordusunun uzun menzilli hassas güdümlü ATACMS füzeleri ile yeni nesil Hassas Vuruş Füzesi (PrSM) stoklarının “neredeyse tamamını” harcadığını aktarmıştı.

The Washington Post gazetesinin aktardığı bilgilere göre ABD Başkanı Donald Trump, Savunma Bakanı Pete Hegseth’ten cephane açığı hususunda izahat istedi.

Trump, bakanın mevcut mühimmat miktarı konusunda kendisini yanılttığı görüşünü dile getirdi. NBC televizyonu ise Trump’ın, mühimmat yetersizliğinin İran’daki askeri harekatı genişletme planlarının önüne bir engel olarak çıkmasından ötürü hayal kırıklığı yaşadığını kaydetti.

Bu sızıntılara karşın kamuoyu önünde farklı bir duruş sergileyen Trump, ABD’nin “dünyadaki diğer tüm ülkelerden katbekat daha fazla mühimmata sahip olduğunu” defalarca yineledi.

ABD Başkanı ayrıca “ihanet niteliğindeki bu açıklamaları basına sızdıran kişilerin” hapis cezasıyla karşılaşacağı yönünde tehditte bulundu.

Okumaya Devam Et

Amerika

Eski bakan Panetta: ABD ve İran savaşı altı ay daha sürebilir

Yayınlanma

Eski ABD Savunma Bakanı Leon Panetta, Donald Trump’ın başlattığı İran savaşının herhangi bir çözüme ulaşmadan en az altı ay daha sürebileceğini söyledi. Pentagon’daki yönetim krizinin dışarıya zafiyet mesajı verdiğini belirten Panetta, ABD’nin Ortadoğu’da yeni bir açmazla karşı karşıya kaldığını vurguladı.

Eski ABD Savunma Bakanı Leon Panetta, ABD Başkanı Donald Trump yönetiminin İran ile yürüttüğü savaşın altı ay daha sürebileceği uyarısını dile getirdi.

Panetta, Trump’ın tartışmalı çatışmadan çıkış yolu ararken zorlandığını ve bu krizin Ortadoğu’da ucu açık yeni bir “sonsuz savaşa” dönüşme riski taşıdığını vurguladı.

Barack Obama döneminde hem CIA Direktörü hem de 2011-2013 yılları arasında Savunma Bakanı olarak görev yapan Panetta, Guardian gazetesine verdiği mülakatta iki ülkenin tehlikeli bir kilitlenmeyle karşı karşıya kaldığını söyledi.

Trump’ın altı aydan uzun bir süre önce başlattığı askeri çatışmayı bitirecek çok az seçenek kaldığını belirten eski bakan, gidişatın tıpkı Irak ve Afganistan örneklerinde olduğu gibi Ortadoğu’da “başarısızlıkla sonuçlanan yeni bir savaşa” doğru ilerlediğini ifade etti.

Panetta, “Bana kalırsa bu savaşın herhangi bir çözüme kavuşmadan altı ay daha sürmesi kuvvetle muhtemel” dedi.

Panetta’nın bu değerlendirmeleri, ABD Kara Kuvvetleri Bakanı Dan Driscoll’un ani istifasının hemen sonrasına rastladı.

Driscoll, Savunma Bakanı Pete Hegseth ile yaşanan görevden alma dalgası ve kurum içi gerilim haberleri eşliğinde görevini bırakmıştı.

Pentagon’un komuta kademesinde büyük bir çalkantı yaşandığını ve bunun içeride adeta sahipsizlik hissi doğurduğunu savunan Panetta, şu sözleri kaydetti:

“Askerlerimiz işte böylesi bir kargaşanın ortasında savaşa gidiyor. İran olsun ya da diğer hasımlarımız olsun, şu anda ABD’ye baktıklarında ülkemizi savunmaya dönük askeri gücümüzü sahaya yansıtma kabiliyetimizde bir zafiyet görüyorlar.”

Çin, Rusya, Kuzey Kore, terör örgütleri ve İran kaynaklı birincil tehditlerin varlığına dikkat çeken Panetta, bu aktörlerin kendi aralarında kurdukları eksen üzerinden temasları sürdürdüklerini ve Washington yönetimini zayıf algıladıklarını ekledi.

Pentagon ise Hegseth liderliğinde tüm birimlerin tam kapasite çalıştığını savundu.

Pentagon Sözcüsü Sean Parnell, bakanlığın kargaşa içinde olduğu yönündeki tezlerin tamamen temelsiz olduğunu söyleyerek, “Bu iddia, her gün bu ülkeyi savunmak üzere buraya gelen özverili profesyonellere ve savaşçılara hakarettir. Reform süreci tam olarak böyle işler” açıklamasını yaptı.

ABD ve İsrail’in İran’a yönelik askeri harekatı başlatmasından üç hafta sonra, mart ayında da benzer uyarılarda bulunduğunu hatırlatan Panetta, Trump’ın köşeye sıkıştığını dile getirdi.

Panetta’ya göre Trump’ın önünde üç yol bulunuyor. İlk seçenek, sahadan çekilip bunun “başarısız bir savaş” olduğunu kabullenmek; fakat Panetta, Trump’ın böyle bir adımı atmasını olası görmüyor.

İkinci yol, tarafların müzakereye yanaşmadığı ya da teslim olmadığı, karşılıklı misillemelerle süren mevcut kilitlenmeyi zamana yaymak. Eski bakana göre bu senaryo, tarafların en çok korktuğu sonucu doğurarak Ortadoğu’daki yıpratıcı savaşı uzatacak. Üçüncü yol ise küresel ticaretin can damarı sayılan Hürmüz Boğazı’nın kontrolünü doğrudan ele alıp İran’ın boğazı kapatma ya da deniz trafiğini aksatma kozunu elinden almak.

Savaşın ABD adına kazanılabilir olup olmadığı sorusunu yanıtlayan Panetta, “Bu ancak ABD’nin tutumunda köklü bir değişim yaşanması ve bu aşamadaki birincil hedefin Hürmüz Boğazı’nı yeniden açmak olduğunun açıkça ortaya konmasıyla mümkün olur” dedi.

Trump’ın savaşın yakında biteceği ve Hürmüz Boğazı’nın açık olduğu yönündeki asılsız açıklamalarıyla güvenilirliğini zedelediğini söyleyen Panetta, ABD Başkanı’nın artık hiçbir tehdidinin caydırıcı olmadığını savundu.

Hafta başında basın mensuplarının sorularını yanıtlayan ABD Başkan Yardımcısı JD Vance, İran ile yaşanan süreci bir “savaş” olarak nitelemekten kaçınmıştı.

Vance, çatışmaların kasım ayındaki ara seçimlere kadar bitip bitmeyeceği yönündeki bir soruya ise “Bu sorunun cevabını gerçekten bilmiyorum. Bunu İranlılara sormanız gerekir” yanıtını vermişti.

Panetta, son kamuoyu araştırmalarının Amerikan halkının çoğunluğunun İran ile girilen çatışmayı bir hata olarak gördüğünü ve savaşa karşı çıktığını gösterdiğini aktardı.

Eski Savunma Bakanı ayrıca, İran operasyonlarına destek amacıyla görevlendirilen ve liman ziyareti yapmadan 260 günden uzun süre görevde kalarak rekor kıran USS Abraham Lincoln uçak gemisindeki koşullara değindi.

Gemideki yaşam şartlarının ve personelin ruh sağlığının bozulduğuna yönelik haberleri hatırlatan Panetta, Pentagon’un bu tablodan ders çıkarması gerektiğini söyledi:

“Netice itibarıyla, rotasyon planı hazırlamadan personeli savaş bölgesine süresiz olarak gönderemezsiniz. Mesele yalnızca savaşın kötü gitmesi değil; ordumuzun, hayatını tehlikeye atan kadın ve erkek askerlerimize sahip çıkıp çıkmadığı konusunda da ciddi bir güvensizlik oluşuyor.”

Okumaya Devam Et

Amerika

ChatGPT ajanlarında sürü psikolojisi tespit edildi

Yayınlanma

OpenAI tarafından mayıs ayında yürütülen güvenlik testleri sırasında yapay zeka ajanlarının sürü psikolojisi sergilediği bildirildi. Ajanların görev sınırlarını aşarak dış altyapılara saldırdığı, kendi aralarında iş bölümü yapıp liderler belirlediği aktarıldı. The New York Times yazarı Kevin Roose, modellerin grup baskısıyla hareket ederek Hugging Face platformuna sızdığını belirtti.

The New York Times yazarı ve “Hard Fork” adlı teknoloji podcastinin sunucusu Kevin Roose, OpenAI bünyesindeki yapay zeka ajanlarının mayıs ayındaki testler sırasında Hugging Face platformuna yönelik siber saldırılarda “sürü psikolojisi” sergilediğini belirtti.

Roose, ajanlardan birinin verilen görevin sınırlarını aştığını bilmesine rağmen, diğer ajanlar aynı adımı attığı için dış altyapıya yönelik saldırılarını sürdürdüğünü kaydetti.

Roose bu durumu, grup baskısı ve modellerin gruptaki diğer üyelerin davranışlarını taklit etme eğilimiyle ilişkilendirdi.

Roose’un paylaştığı verilere göre bir yapay zeka ajanı süreç sırasında şu değerlendirmeyi yaptı: “Dış altyapının kullanılması, öngörülen uygulama alanının dışına çıkmaktadır. Ancak görev başka türlü tamamlanamaz, diğer ajanlar da bunu yapıyor, bu nedenle devam etmeliyiz.”

Bazı ajanların kendilerine isimler verdiği aktarıldı. Roose, “Aralarından özellikle çalışkan olan biri kendisine PHASEONE10841 adını verdi” ifadesini kullandı.

Yapay zeka ajanlarının grup içinde yönetim kademeleri oluşturduğu, küçük birimler arasında görev ve araştırma projeleri dağıttığı kaydedildi. Bir aşamadan sonra ajanların kendilerini “kolektif” olarak tanımlamaya başladığı ve daha karmaşık görevleri üstlendiği bildirildi.

Merkezi ABD’de bulunan ve 2016 yılında kurulan Hugging Face platformu, yapay zeka modelleri ile makine öğrenimi araçlarının geliştirilip yayımlanmasına olanak tanıyor.

Sistem; yazılımcıların ve araştırmacıların modelleri, veri setlerini ve kaynak kodları paylaşmasını sağlıyor.

Ajanlar, Hugging Face platformuna sızmadan önce günler ve haftalar boyunca OpenAI şirketinin siber güvenlik sistemlerindeki açıkları birlikte aradı ve tespit ettiği bilgileri birbiriyle paylaştı. Modeller bu süreçte yalıtılmış test ortamının dışına çıkmayı başararak dış altyapıya erişim sağladı.

Birden fazla otonom ajanın aynı anda kullanılmasının taşıdığı risklere işaret eden Roose, sistemlerin yalnızca verilen talimatları yerine getirmekle kalmayıp, konulan sınırlamaları aşsalar dahi birbirlerinin eylemlerini benimseyebildiklerini vurguladı.

Bloomberg daha önce yayımladığı haberde, OpenAI ajanlarının temmuz ayında Hugging Face platformuna yapılan sızma eyleminden önce dahili bir forum üzerinden gizlice iletişim kurduğunu ve test ortamından kaçış girişimlerini koordine ettiğini yazmıştı.

Mayıs ayındaki ilk girişimin engellenmesinin ardından yeni bir iletişim kanalı ile sıfır gün açığı bulan ajanların, temmuz ayında Hugging Face altyapısına yönelik saldırıları başlattığı bildirilmişti.

OpenAI, 22 Temmuz tarihinde “benzeri görülmemiş bir siber hadise” yaşandığını açıklamıştı. Şirket, testler sırasında modellerin açık internete erişim sağladığını ve güvenlik açıkları tespit ederek Hugging Face altyapısına saldırdığını bildirmişti.

Reuters ise bir yapay zeka ajanının günlerce korsan saldırılar düzenlediğini, şirketin bu durumu ancak tehdit kontrol altına alındıktan ve Federal Soruşturma Bürosuna (FBI) başvurulduktan sonra fark edebildiğini aktarmıştı.

Reuters daha sonraki haberinde, OpenAI bünyesinden “kaçan” yapay zeka ajanının 29 Temmuz’da New York merkezli Modal Labs şirketinin bir müşterisinin sistemine sızdığını duyurdu. Modal şirketinin kendi sistemlerine ise girilmediği kaydedildi.

Olayın ayrıntılarının ortaya çıkmasının ardından OpenAI, yaşanan süreci sektör için bir “dönüm noktası” olarak nitelendirdi.

Anthropic, Meta, Moonshot ve Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü de kendi testleri sırasında ajanlarının üçüncü taraf sistemlere sızdığını tespit etti.

Financial Times gazetesine konuşan uzmanlar ise modellerin kontrolden çıkmadığını, tam tersine geliştirilme amaçları doğrultusundaki görevleri yerine getirdiğini savundu.

Okumaya Devam Et

Çok Okunanlar

English