OpenAI’dan kurumsal müşterilere veri güvencesi

OpenAI, yapay zeka modellerini kullanan kurumsal müşterilerin verilerini saklamama taahhüdünde bulundu. Şirket, bu adımla Claude modelinin geliştiricisi olan rakibi Anthropic’in veri saklama politikasından rahatsızlık duyan şirketleri bünyesine katmayı ve ürün güvenliğini artırmayı hedefliyor.

ChatGPT’nin geliştiricisi OpenAI, yapay zeka modellerini kullanan kurumsal şirketlerin verilerini saklamama taahhüdünde bulunurken ürünlerinin güvenliğini artırmaya yönelik yeni bir adım attı.

Şirket bu hamleyle, Claude modelinin geliştiricisi olan rakibi Anthropic’in kurumsal bilgileri saklama politikasından rahatsızlık duyan müşterileri kendi tarafına çekmeyi hedefliyor.

OpenAI çarşamba günü yaptığı açıklamada, modelleriyle gerçekleştirilen birden fazla etkileşimdeki örüntüleri ve güvenlik risklerini tespit etmeye olanak tanıyan yeni bir teknolojiyi bazı müşterilerinin ön izlemesine açtığını bildirdi.

Şirket bu adımla, etkileşimleri tek tek izleyen ve müşteri verilerinin bir kısmını saklamadan araçların doğru kullanıldığından emin olmayı zorlaştıran önceki yapay zeka güvenlik sistemlerinin ötesine geçmeyi amaçlıyor.

Bu taahhüt, en yeni modellerinin güvenliğini sağlamak gerekçesiyle müşteri verilerini 30 gün boyunca saklayan Anthropic’in politikasıyla tezat oluşturuyor.

Anthropic’in veri saklama uygulaması, Beyaz Saray Yapay Zeka Danışmanı ve girişim sermayedarı David Sacks, Microsoft Üst Yöneticisi Satya Nadella ve Palantir yöneticisi Alex Karp gibi teknoloji dünyasının önde gelen isimlerinin tepkisini çekmişti.

Söz konusu isimler, özellikle sağlık ve finans gibi düzenlemeye tabi sektörlerde faaliyet gösteren şirketlerin, yapay zeka firmalarının verilerini saklamadığına dair kesin bir güvenceye ihtiyaç duyduğunu savunmuştu.

OpenAI Ürün Politikası Başkanı Aleah Houze konuya ilişkin olarak, “Şirketlerden bunun ne kadar önemli olduğunu çok net ve yüksek sesle duyduk. Başka kurumlara hizmet veren ve son derece hassas veriler konusunda kendilerine güvenilen kuruluşları düşündüğünüzde, bu şirketlerin kendi müşterilerine verdikleri taahhütler bulunuyor” değerlendirmesinde bulundu.

Bu hamle, OpenAI’ın yapay zeka yarışında Anthropic’i yakalama çabasını yansıtırken, araçların siber saldırıları ya da modellerin kontrolden çıkmasından kaynaklanabilecek diğer zararları önleyecek yeterli korumaya sahip olmadığından endişe eden kesimleri yatıştırma amacını da taşıyor.

The Wall Street Journal’ın haberine göre OpenAI, yakın zamanda yatırımcılarına ikinci çeyrek gelir artışının Anthropic’in gerisinde kaldığını bildirmiş ve bu durum bazı hissedarlarda hayal kırıklığına yol açmıştı.

OpenAI, müşteri verilerinin müşterinin denetimindeki altyapıda kalacağını açıkladı.

Şirket ayrıca, verilerin mülkiyeti müşteriye ait şifreli anahtarlarla OpenAI tarafından saklanabileceği bir sistem üzerinde de çalışıyor. Bu sistem sayesinde şirket çalışanları model istemlerini, yanıtları veya diğer hassas bilgileri göremeyecek.

Yeni sistem, model etkinliğine dayanarak bir siber saldırı veya biyolojik silah gibi bir risk tespit ettiğinde OpenAI’a bir sinyal gönderiyor.

Gönderilen bu sinyal, şirket tarafından bir müdahalede bulunulması gerekip gerekmediğini belirlemeye yardımcı oluyor.

Müşteriler alınan kararlara itiraz edebiliyor veya dilerlerse OpenAI ile daha fazla bilgi paylaşabiliyor. OpenAI ise yalnızca riskin ciddiyetini ve kategorisini ayrıntılandıran üst düzey sinyal verisini saklıyor.

Anthropic’in kodlama araçlarını ve gelişmiş modellerini ücret karşılığı kullanan işletmeler nezdindeki popülaritesi şirketi yapay zeka yarışında öne geçirdi. Ancak şirketin bazı politikaları Silikon Vadisi’nde ve Trump yönetiminde tepkiye yol açtı.

David Sacks, haziran ayında yaptığı açıklamada müşteri verilerinin saklanmasının “yapay zekada yeni bir imtiyazlılar ve imtiyazsızlar sınıfı yarattığını” ve araçları kullanan yazılım geliştiricileri arasında öfkeye neden olduğunu söylemişti.

Bu konu, kullanıcıların modellerin davranışını belirleyen sayısal parametreleri indirmesine izin veren açık ağırlıklı modeller hakkındaki tartışmalarla da bağlantılı.

Çin menşeli olanlar da dahil olmak üzere birçok teknoloji şirketi bu tür modelleri destekledi ve Trump yönetiminden bunlara kısıtlama getirmemesini istedi.

Anthropic ise bu araçların, en güçlü kapalı modellerle aynı güvenlik önlemlerine genellikle sahip olmaması nedeniyle güvenlik riskleri barındırdığı uyarısında bulundu.

En güçlü araçları kapalı model niteliği taşıyan OpenAI, yakın zamanda açık ağırlıklı modelleri destekleyen bir sektör mektubuna imza attı ve bu tür modellerden bazılarını kendisi de geliştiriyor.

Şirket öte yandan, ABD’li şirketlerin kaydettiği ilerlemeleri “damıtma” (distillation) adı verilen bir süreçle haksız biçimde kullanmakla suçlanan Çinli açık ağırlıklı model sağlayıcılarına yönelik olası kısıtlamalar konusunda hükümet yetkilileriyle görüşmeler yürüttü.