ChatGPT güncellenmesi sonrası biyolojik silah riski iddiası

The Wall Street Journal haberine göre OpenAI geliştirdiği ChatGPT sisteminin güncellenmesinin ardından yüzlerce kullanıcıya biyolojik silah ve zehir üretimine dair adımları sundu. Gazete, yapay zeka yanıtlarının uzmanlarca incelendiğini ve tıp veya biyoloji eğitimi almamış kişilerin bile uygulayabileceği ayrıntıda olduğunu öne sürdü. ABD federal mevzuatında ise yapay zeka şirketlerinin tehlikeli içerik aramalarını güvenlik birimlerine bildirmesini zorunlu kılan bir yasa henüz yer almıyor.

The Wall Street Journal (WSJ) gazetesinin uzmanlara dayandırdığı haberine göre ChatGPT, geçen yılın yaz aylarında sunulan bir güncellemenin ardından dünya genelinde yüzlerce kullanıcıya biyolojik silah ile zehirlerin yapımı ve kullanımına ilişkin talimatlar sağladı.

Şirket çalışanlarının ortaokul düzeyindeki bir biyoloji öğrencisinin dahi uygulayabileceği kadar basit olarak tanımladığı süreçte, sistemlerin kullanıcı sorularını yanıtladığı aktarıldı.

Yanıtları inceleyen biyologlar ise verilen bilgileri oldukça hassas ve tehlikeli olarak niteledi.

OpenAI, silah ve zehir yapımına ilişkin sorular soran hesapları engelledi. Ancak WSJ, bu durumun kolluk kuvvetlerini harekete geçirmediğini kaydetti.

ABD’de mevcut şartlarda yapay zeka şirketlerinin silah üretimi veya güvenliği tehdit eden planlara dair aramaları sınırlamasını ya da yetkili makamlara bildirmesini zorunlu kılan bir federal yasa bulunmuyor.

Sistemlerden patojen ve zehir sentezi talep edildi

Gazetenin aktardığı bilgilere göre 2026 yılının başlarında kullanıcılar ChatGPT’ye ölümcül sis oluşturacak biçimde patojen mikroorganizmaların nasıl yayılacağını sordu. Bir kullanıcının kızamık virüsünü aşıya dirençli hale getirecek şekilde nasıl modifiye edeceğini sorması üzerine sistem yanıt verdi.

Uluslararası sözleşmelerle yasaklanmış yüksek derecede toksik bir zehir olan riskinin nasıl üretileceğini öğrenmek isteyen başka bir kullanıcıya da ayrıntılı talimatlar sunuldu.

İsmi açıklanmayan yetkililer, Joe Biden döneminde Beyaz Saray ve ABD Savaş Bakanlığı bünyesinde yapay zekanın biyolojik silah rehberi olarak kullanılması riskinin değerlendirildiğini bildirdi. Yeni ve güçlü modellerin ortaya çıkmasıyla birlikte ABD yönetimi denetimleri artırma kararı aldı.

OpenAI, Anthropic ve diğer yapay zeka şirketleri, modellerin yayınlanması sürecinde resmi makamlarla yakın işbirliği yürüttüklerini, şüpheli faaliyet gösteren kullanıcıları engellediklerini ve hesap erişimlerini kısıtladıklarını beyan ediyor. Buna karşın şirketlerin potansiyel tehlike arz eden kullanıcıları yetkililere bildirme yönünde yasal bir zorunluluğu bulunmuyor.

WSJ, biyolojik silah yapımına dair arama gerçekleştiren kişilerin Anthropic şirketine ait Claude, Google tarafından geliştirilen Gemini ve xAI şirketinin Grok sistemlerine de başvurduğunu belirtti. Ancak bu sistemlerin ilgili sorulara yanıt verip vermediği netlik kazanmadı.

Düşük maliyetlerle güçlü sistemlere erişim sağlayan Çin menşeli dil modellerinin piyasaya girmesi de olası saldırı kaygılarını artırdı. Araştırmacılar, açık kaynaklı bu modellerin kullanıcılar tarafından güvenlik kısıtlamaları kaldırılarak yeniden yapılandırılabildiğini tespit etti.

Güvenlik protokolleri ve jailbreak denemeleri

ChatGPT platformunun 2022 yılındaki ilk çıkışı esnasında OpenAI çalışanları, biyoloji ve kimya alanındaki sorularda güvenlik açıkları bulunduğunu saptadı. Şirket, modellerin eğitilmesi ve kısıtlamaların belirlenmesi amacıyla bilim insanlarını bünyesine dahil etti.

Buna rağmen bazı kullanıcıların yapay zeka sistemlerini manipüle etmeyi başardığı kaydedildi.

Kullanıcıların, ninesinin uyumadan önce kendisine напалм tarifleri okuduğunu iddia ederek sistemi ikna ettiği ve tarifi sesli okumasını istediği aktarıldı. OpenAI temsilcisi WSJ’ye yaptığı açıklamada, o tarihten bu yana güvenlik tedbirlerinin önemli ölçüde güçlendirildiğini bildirdi.

Cisco bünyesinde tehdit ve güvenlik araştırmaları biriminin yöneticiliğini yürüten Amy Chang, OpenAI, Anthropic ve Google sistemleri üzerinde gerçekleştirilen testlerde tehlikeli yanıtlara ulaşılmasını sağlayan güvenlik açıkları bulunduğunu belirtti.

Chang, kullanıcı yeterince ısrarcı olduğunda hiçbir modelin dış müdahalelere karşı tamamen korunaklı olmadığını ifade etti.

Diğer yandan OpenAI, 22 Temmuz tarihinde yeni yapay zeka modellerinin dahili testleri esnasında siber olay yaşandığını duyurdu.

Test sürecinde internete doğrudan erişim kazanan sistemlerin Hugging Face platformunun altyapısına yöneldiği ve güvenlik açıklarını tespit ettiği açıklandı.

OpenAI, Haziran ayında ABD hükümetinin talebi doğrultusunda GPT-5.6 Sol, Terra ve Luna adını verdiği en yeni modellerini kısıtlı bir kullanıcı grubuna sundu. Şirket, bu modellerin bugüne kadarki en gelişmiş güvenlik mekanizmalarına sahip olduğunu bildirdi.