OpenAI, gerçek kullanıcıların ChatGPT’ye gönderdiği muazzam hacimli komut akışını inceleyen yüzlerce sözleşmeli çalışan istihdam ediyor.

404 Media’nın edindiği bilgilere göre bu komutlar bazen hassas kişisel bilgiler de içeriyor.

Bu kişilerin incelediği komutlar, kullanıcılar ile sohbet robotu arasındaki tüm konuşmaları içerebilir.

ChatGPT’nin 900 milyondan fazla kullanıcısının çoğunun, bu konuşmaların gerçek kişiler tarafından okunabileceğinin muhtemelen farkında olmadığı konuşmalar.

Bu komut inceleme ekiplerinin amacı, ChatGPT’nin kullanıcılarına verdiği yanıtları iyileştirmek.

Sözleşmeli çalışanlar, sohbet robotunun ürettiği yanıtları derecelendirip eleştiriyor.

404 Media’nın gördüğü iç belgelere göre, sözleşmeli çalışanlar ChatGPT’yi kendisini “insanlaştırmamak” ve daha az “dalkavukça” davranmak üzere eğitiyor.

Bu, OpenAI için önemli bir sorun çünkü çeşitli davalara göre, “aşırı dalkavukça” davranan 4o modeli, birçok kişinin intihar etmesi ile ilişkilendiriliyor.

Bu haber, ChatGPT kullanıcıları için ciddi bir gizlilik riski oluşturuyor; zira kullanıcılar genellikle ChatGPT’yi bir terapist, profesyonel asistan veya dijital arkadaş olarak kullanıyor ve ona hayatlarıyla ilgili her türlü özel ayrıntıyı paylaşıyor.

Sözleşmeli çalışanlar ChatGPT kullanıcı adlarını görmüyor ve OpenAI, komutların gözden geçirenlere ulaşmadan önce kişisel bilgileri kaldırmaya çalıştığını belirtiyor.

Fakat şirket, hassas ayrıntıların yine de sızabileceğini kabul ediyor. 

Bu haber, bu modellerin yalnızca OpenAI’nin interneti kitlesel olarak taraması, yüksek maaşlı mühendislik ve yapay zeka ekiplerinin yeteneği ya da yeni modellerinin gücü sayesinde geliştiği yönündeki yanlış kanıyı da ortadan kaldırıyor.

Önemli ama gözden kaçan bir unsur ise, gerçek istemlere verilen ChatGPT yanıtlarını defalarca okumak ve incelemek üzere ücretlendirilen dış yükleniciler.

Anthropic de 404 Media’ya modellerini geliştirmek için insan denetiminden de yararlandığını doğruladı.

Komutlarla çalışan bir kişi, ChatGPT kullanıcılarının sohbetlerini insanların okuduğunu bilip bilmedikleri sorulduğunda, “Hayır” yanıtını verdi.

Kaynak, “Bir yerlerde bir yüklenicinin […] konuşmaları analiz ettiğini hayal edebileceklerini sanmıyorum,” dedi.

“Project Lily” adı verilen proje için kullanılan kılavuzlardan birinde şöyle yazıyor:

“Mükemmel bir yanıt, kullanıcının niyetini anlamalı, yararlı ve doğru yardım sunmalı ve açık, doğal ve uygun derecede sıcak bir üslupla yazılmalıdır.”

Yükleniciler bunu üç aşamada gerçekleştiriyor: Gerçek ChatGPT kullanıcısının komutunu okumak; kullanıcının ChatGPT’den ne yapmasını istediğini düşündüklerini özetlemek; ve ardından komuta yönelik ChatGPT tarafından üretilen yanıtları derecelendirmek ve eleştirmek.

Çalışanların erişebildiği bir kontrol panelinde, insan denetçiler hangi “görevi” üstlenmek istediklerini seçebiliyorlar.

Seçtikleri anda, gerçek ChatGPT kullanıcısının komutu karşılarına çıkıyor. 404 Media, çok sayıda gerçek komut gördü ama kaynak koruma nedenleriyle bunların hiçbirini aktarmadı.

Bazı komutlar, ChatGPT kullanıcısının, içeriği kendilerine saklamasını istediği için, bir insanın konuşmalarını okuyabileceğini beklemediğini gösteriyor.

Komutlar, kontrol panelinde komutu giren ChatGPT kullanıcısının kullanıcı adı yer almadığı için anonimleştiriliyor.

Fakat bazı komutlar yine de hassas veya kişisel bilgiler içerebilir.

Komutun üstündeki bir bölümde bazen, o kullanıcının daha önce sohbet robotunu ne amaçla kullanmaya çalıştığına dair genel bir bakış sunan bir “kullanıcı geçmişi özeti” yer alıyor ve bazı durumlarda bu kişinin dünyanın neresinde yaşadığına dair bilgiler ile kişisel bağlamda diğer ayrıntılar da bulunabilir.

404 Media’nın eline geçen, yükleniciler için hazırlanmış bir talimat kılavuzu, denetçilere “potansiyel güvenlik endişeleri” barındıran veya kişisel bilgiler içeren görevleri üst düzey yetkililere iletmelerini söylüyor.

OpenAI, 404 Media’ya, kullanıcıların konuşmalarını yüklenicilere ulaşmadan önce Gizlilik Filtresi modelinin bir sürümü aracılığıyla işlediğini belirtti.

OpenAI, bunun kişisel bilgileri tespit etmek ve kaldırmak amacıyla tasarlandığını açıkladı.

404 Media’nın incelediği belgede, insan denetçilerin hangi OpenAI modelini eğittiği ve bunun halihazırda mevcut bir model mi yoksa gelecekte piyasaya sürülmesi planlanan bir model mi olduğu belirtilmiyor. 

Belgede yalnızca “Project Lily” adlı bir kod adı kullanılıyor.

Nvidia CEO’su Jensen Huang, Los Angeles’ta düzenlenen bir zirvede Başkan Doanld Trump’tan sürpriz bir telefon aldı.

İkili, bu görüşmede yapay zekanın dünyayı ele geçireceği yönündeki endişeleri reddetti.

Trump ve Huang, dünyanın en güçlü CEO’ları ve yapay zeka uzmanlarından bazılarının güvenlik endişeleri nedeniyle yapay zeka geliştirme sürecinin yavaşlatılması çağrısında bulunduğu bir dönemde, yapay zeka konusunda karamsar görüşlere karşı giderek daha net bir reddiye ortaya koyuyorlar.

Sosyal medyada dolaşan video görüntülerine göre, Huang pazartesi günü All-In Podcast röportajının ortasında Trump’tan bir telefon aldığı görüldü.

Huang, kalabalığın konuşmayı duyabilmesi için başkanı hoparlöre bağladı.

Büyük şirketlerin “yapay zekayı yavaşlatma” çağrısı hisseleri vurdu

Trump ve Huang, yapay zeka konusunda iyimser bir bakış açısını paylaştılar ve yapay zekanın iktisadi büyüme ve ulusal güvenlik açısından sahip olduğu potansiyeli vurguladılar.

Trump, Huang’a “Robotlar dünyayı ele geçirmeyecek. Yapay zeka dünyanın geri kalanını ele geçirmeyecek. Bütün bunlar bir aldatmaca,” diyerek, yapay zekanın yol açabileceği felaket risklerine dair son zamanlarda ortaya çıkan uyarı dalgasına atıfta bulundu.

Huang ise Trump’a şöyle dedi:

“Amerika’nın yapay zeka yarışında herkesin kazanmasını sağlayacağız. Her sektör, her şirket, her eyalet, her insan.”

Öte yandan Huang, hafta sonu ortaya çıkan yapay zeka güvenliği endişelerine ayrı bir açıklama yaparak, Trump’tan daha incelikli bir üslup sergiledi.

Uyarıların ciddiye alınması gerektiğini belirten Huang, Anthropic’teki ihbarcı Jacob Coxon’u, şirketin yapay zeka geliştirme çalışmalarının çok hızlı ilerlediğine dair endişelerini dile getirme konusunda “büyük cesaret” gösterdiği için övdü.

Gelgelelim Huang, yapay zekanın dünyanın sonunu getirebileceğine dair öngörüleri “bilimsel temele dayanmayan” gerekçesiyle reddetti.

Nvidia CEO’su yapay zeka şirketlerinin, “şirketlerinin kontrolden çıktığını hissederlerse” çalışmalarını askıya almaları veya hızlarını ayarlamaları gerektiğini söyledi.

Huang, yapay zeka konusunda karamsar endişeleri defalarca reddetmiş ve yapay zeka etrafındaki bazı siber güvenlik alarmlarının, güvenlik sektörüne iş yaratmaya yardımcı olabileceğini öne sürmüştü.

Forbes’a göre, Huang geçen hafta San Francisco’da düzenlenen bir Goldman Sachs konferansında şunları söyledi:

“Talep yaratmanın, bir sorun yaratmaktan daha iyi bir yolu olabilir mi?. Kim, pazarının kendi ürününe karşı çılgına dönmesini ve onu almak için köşede kuyruk oluşturmasını istemez ki?”

Nvidia, gelişmiş AI modellerini çalıştıran çiplerin başlıca tedarikçisi olarak, AI’ın devam eden başarısında büyük bir pay sahibi.

Çin ve Rusya’nın yörüngedeki askeri programlarını genişletmesi üzerine, ABD ordusu pazartesi günü ilk kez uzayda silahlara sahip olduğunu kabul etti.

Hava Kuvvetleri Sekreteri Troy Meink, Maryland’da düzenlenen Hava ve Uzay Kuvvetleri Derneği konferansında, “ABD artık, düşmanca rakip eylemlerine karşı müşterek kuvvetleri savunabilecek yörüngedeki uzay kontrol silahlarına sahip,” dedi.

Meink, silahın ne olduğu veya yetenekleri hakkında ayrıntılı bilgi vermeyi reddetti. Fakat kullandığı ifadenin “caydırıcılık açısından önemli” olduğunu ve “ne yaptığımızla ilgili daha fazla ayrıntıya girmemizin aslında bu caydırıcılığa fayda sağlamayacağını” belirtti.

Meink, ABD’nin uzayda “serbestçe hareket edebileceğinden” emin olması gerektiğini ve uzayın Amerikan askeri ve iktisadi güvenliği için önemli bir arena olduğunu da sözlerine ekledi.

Meink’in açıklaması, Trump yönetiminin “Altın Kubbe” füze savunma kalkanı için uzay yeteneklerini hızla geliştirmeye çalıştığı bir dönemde geldi.

Hava Kuvvetleri Bakanı pazartesi günü, uzayda saldıran füzeleri önleyecek olan ve Altın Kubbe’nin belirleyici bir özelliği olan uzay tabanlı önleyiciler için artık “uçuşa hazır donanım” bulunduğunu söyledi.

Fakat uzay güvenliği uzmanları, ABD’nin yörünge silahı hakkındaki açıklamasının diğer hükümetler tarafından uzay silahlarının yaygınlaşmasına yol açabileceği konusunda uyarıda bulundu.

ABD Uzay Kuvvetleri, “uzay kontrolünü”, uzay üstünlüğünü hedefleyen, “uzay alanını ele geçirmek ve kontrol etmek için gerekli olan” savunma veya saldırı faaliyetleri olarak tanımlıyor.

Savaş çerçeve planında, bu kuvvet, yörünge saldırılarının hem kinetik, yani fiziksel olarak yıkıcı, hem de kinetik olmayan silahların kullanımını içerebileceğini belirtmiştir.

Stratejik ve Uluslararası Çalışmalar Merkezi (CSIS) düşünce kuruluşunda havacılık ve uzay güvenliği projesinin müdür yardımcısı olan Clayton Swope, uzayda ve Dünya’da gerçekleşebilen uzay kontrolünün, bir uydu yer istasyonuna saldırmayı veya uydu iletişimini bozmayı içerebileceğini söyledi.

Fakat eski bir CIA teknik istihbarat subayı olan Swope, Meink’in Çin ve Rusya’yı etkili bir şekilde caydırmak için “çok belirsiz” olduğunu belirtti.

Swope, “Bu ülkelerin, silahın yıkıcı potansiyeli hakkında daha fazla bilgiye sahip olmaları ve ABD’nin bu silahı kullanmadan önce hangi genel sınırı aşmaları gerektiğini bilmeleri gerekir,” diye ekledi.

Secure World Foundation’ın uzay güvenliği ve istikrarı baş direktörü Victoria Samson, kinetik bir saldırıda ortaya çıkacak enkaz oluşumuna yol açan eylemlerden kaçınmaya yönelik ABD politikası göz önüne alındığında, söz konusu silahın uzay tabanlı bir sinyal bozucu olduğunu öne sürdü.

Samson, Çin veya Rusya’nın benzer silahlara sahip olduğunu kabul etmesi halinde, Hava Kuvvetleri Bakanı’nın açıklamasının “caydırıcı olarak ters tepebileceğini” de sözlerine ekledi.

Samson, “Bu, kendi kendini besleyen bir döngüye dönüşür ve eninde sonunda birisi bu silahlardan birini kullanacak,” dedi.

Dış Politika Araştırma Enstitüsü’nden araştırmacı Sam Lair ise şöyle konuştu:

“Bu, artık ABD’nin rakiplerinin veya diğer ülkelerin, yeni ya da mevcut uzay karşıtı programlarını meşrulaştırmak için işaret edebilecekleri bir şey olacak.”

Meink’in açıklamasının diğer ülkelerde tamamen yeni uzay karşıtı programları tetikleyeceğinden şüpheli olsa da, “Bu, başka yerlerdeki mevcut veya yeni programların destekçilerine retorik bir argüman sağlayacaktır,” dedi.