Bizi Takip Edin

Amerika

Pentagon eylül sonuna kadar Anthropic yapay zekasını tamamen silecek

Yayınlanma

Pentagon, Anthropic şirketine ait yapay zeka yazılımlarının kurum sistemlerinden yüzde 90 oranında temizlendiğini ve sürecin eylül ayı sonuna kadar tamamlanacağını duyurdu. San Francisco’daki federal mahkemede görülen davada ise Yargıç Rita Lin, şirketin “tedarik zinciri riski” ilan edilmesinin ulusal güvenlik gerekçelerinden ziyade bir misilleme ve cezalandırma adımı olduğunu belirtti.

ABD Savaş Bakanlığı, yapay zeka şirketi Anthropic’e ait teknolojileri kurum bünyesindeki tüm sistemlerden eylül ayı sonuna kadar tamamen çıkarmayı planlıyor.

ABD Savaş Bakanlığı Araştırma ve Geliştirmeden Sorumlu Müsteşarı ve Pentagon Baş Teknoloji Sorumlusu Emil Michael, Breitbart’a verdiği mülakatta kurumun söz konusu yazılımları sistematik olarak sildiğini açıkladı.

Michael, “Yazılımlarını bakanlığın bütün sistemlerinden kademeli olarak kaldırıyoruz. Şu ana kadar yüzde 90’dan fazlası silindi. Bu süreci eylül ayı sonuna kadar tamamlayacağız” ifadelerini kullandı.

Anthropic teknolojilerinin karmaşık sistemlere entegre olduğunu belirten Michael, silme işleminin zaman aldığını ve bu nedenle sürecin sorumlu bir şekilde yürütülmesi gerektiğini kaydetti.

Pentagon ile Anthropic arasındaki anlaşmazlık, şirketin askeri kullanıma getirdiği kısıtlamalarla başladı.

Anthropic Üst Yöneticisi (CEO) Dario Amodei, teknolojinin insan denetimi olmaksızın gözetleme faaliyetlerinde veya otonom silahlarda kullanılmayacağına dair güvence talep etti. Bu sürecin ardından Pentagon, Anthropic’i “tedarik zinciri riski” ilan etti. Askeri sistemlerin neredeyse yüzde 100’ü diğer yapay zeka modellerine aktarılırken bu geçişe İran ile yaşanan savaşta hava saldırıları için hedef belirlemeye yardımcı olan Maven sistemi de dahil edildi.

Mayıs ayında The Wall Street Journal (WSJ) gazetesi, Anthropic tarafından geliştirilen ve yazılımlardaki açıkları tespit edebilen Claude Mythos adlı yapay zeka modelinin ABD Başkanı Donald Trump yönetiminde kaosa yol açtığını yazmıştı.

Daha sonra ABD Senatosu İstihbarat Komisyonu Başkan Yardımcısı Mark Warner, Anthropic’in yapay zeka modelinin ABD Ulusal Güvenlik Ajansının (NSA) gizli sistemlerine sızdığını bildirmişti.

Federal mahkemede ihtiyati tedbir duruşması yapıldı

Pentagon’un Anthropic’i “tedarik zinciri riski” olarak nitelemesine karşı açılan davanın ilk büyük duruşması, salı öğleden sonra San Francisco’daki federal mahkemede görüldü.

ABD Bölge Yargıcı Rita Lin, Savaş Bakanlığının kararını şüpheyle karşılayarak bu adımın, yapay zeka teknolojisinin kullanımına dair sözleşme müzakerelerinde Trump yönetimine karşı çıkan şirketi cezalandırmaya yönelik bir misilleme olabileceğini ima etti.

Yargıç Lin, duruşma sırasında, “Bu tepkilerde beni rahatsız eden husus, belirtilen ulusal güvenlik kaygısına tam olarak uygun görünmemesi. Eğer endişe operasyonel komuta zincirinin bütünlüğü ile ilgiliyse Claude’u kullanmayı bırakabilirlerdi. Davalıların bundan daha ileri gittiği ve Anthropic’i cezalandırmaya çalıştığı görülüyor” değerlendirmesinde bulundu.

Duruşmayı karara bağlamadan sonlandıran Yargıç Lin, ihtiyati tedbir talebine ilişkin kararını önümüzdeki birkaç gün içinde vereceğini bildirdi.

Lin, şirketin tüm hükümet işlerinden menedilmesi girişiminin, Savaş Bakanı Pete Hegseth tarafından dile getirilen ulusal güvenlik kaygısını gidermek için gerekenin ötesine geçtiğini belirterek, “Bu, Anthropic’i çökertme girişimi gibi görünüyor ve özellikle benim endişem, Anthropic’in hükümetin sözleşme tutumunu basında eleştirdiği için cezalandırılıp cezalandırılmadığıdır” dedi.

Lin, Hegseth’in şirketin ulusal güvenlik alanındaki uygulamalarını sınırlandırma yetkisine sahip olduğunu kabul etmekle birlikte, asıl meselenin Pentagon’un şirketi tedarik zinciri riski ilan ederek sınırları aşıp aşmadığı olduğunu vurguladı.

Hükümet ile şirket avukatları arasında sabotaj tartışması

Trump yönetimini temsil eden Adalet Bakanlığı yetkilileri, Anthropic’in gelecekteki bir yazılım güncellemesiyle orduya “sabotaj” uygulayabileceği endişesi nedeniyle ulusal güvenlik riski oluşturduğunu savundu.

Başsavcı Yardımcısı Vekili Eric Hamilton, “Anthropic yalnızca inatçı davranmıyor veya sözleşme şartlarını kabul etmeyi reddetmiyor; bunun yerine teknolojinin kullanım şartları kapsamındaki askeri görevlerde dahi nasıl kullanıldığına dair Savaş Bakanlığına endişelerini iletiyor” ifadelerini kullandı.

Yargıç Lin bu gerekçeyi eleştirerek, bir şirketi hükümet işlerinden menetmek için bunun çok yetersiz bir gerekçe olduğunu belirtti ve “Bir bilişim tedarikçisi inatçı davranıp belirli sözleşme şartlarında ısrar ederse ve rahatsız edici sorular sorarsa güvenilmez olabileceği gerekçesiyle tedarik zinciri riski ilan edilmesi yeterli mi?” sorusunu yöneltti.

Şirketin orduyu nasıl sabote edebileceği sorulduğunda Hamilton, Anthropic’in Claude aracının kullanım biçimini onaylamaması durumunda yazılıma bir “kapatma anahtarı” (kill switch) eklemeyi deneyebileceğini ileri sürdü.

Ancak Hamilton, şirketin böyle bir güncellemeyi yapma kabiliyetine sahip olup olmadığını kesin olarak belirtemedi. Hamilton, “Endişe, Anthropic’in yalnızca kaygı belirtmek ve itiraz etmek yerine, bakanlığın yaptıklarını sorun ederek yazılımı Savaş Bakanlığının kullanımını kontrol edebilecek şekilde manipüle etmeye karar vermesidir” dedi.

Duruşmada Hamilton, Hegseth’in geçen ay sosyal medyada yaptığı ve anlaşmazlık sonucunda “ABD ordusuyla iş yapan hiçbir yüklenici, tedarikçi veya ortağın Anthropic ile herhangi bir ticari faaliyette bulunamayacağını” belirten açıklamasını fiilen çürüten bir ifade kullandı.

Hamilton, bakanlığın, yüklenicilerin bakanlık dışı işlerde bir şirketin ürün veya hizmetlerini kullanmasını kategorik olarak yasaklamasına izin veren herhangi bir yetkiden haberdar olmadığını söyledi.

Yargıç Lin’in, Hegseth’in bunu kastetmediyse neden böyle bir iddiada bulunduğunu sorması üzerine Hamilton, “Bilemiyorum. Bildiğim, bu yönetimin şeffaflığa bağlı olduğu ve bu paylaşımda şirketi tedarik zinciri riski ilan etmek için adım atacağını belirttiği; nitekim bunu da yaptı” yanıtını verdi.

Anthropic’in avukatı Michael Mongan ise Savaş Bakanlığının argümanlarının sürekli değiştiğini ve başarısız sözleşme müzakerelerinin ardından şirketi cezalandırmaya çalıştığını belirtti.

Mongan, “Gerçek şu ki bu, gerekçe veya mantık arayışında olan bir tedarik zinciri nitelemesidir ve bu durum İdari Usul Yasası kapsamında bir sorundur” dedi.

Mongan, Pentagon’un işlemlerinin geçersiz kılınması amacıyla mahkemenin derhal ihtiyati tedbir kararı vermesini talep ederek, “Bu eylemler tartıştığımız nedenlerle hukuka aykırıdır. Anthropic’e, anayasal haklarına, ortakları, müşterileri ve yatırımcıları nezdindeki itibarına ve yalnızca ulusal güvenlik sektöründe değil genel ticari çıkarlarına derhal, telafisi imkansız ve süregelen zararlar vermiştir” ifadelerini kullandı.

Amerika

Gatun Gölü’nde su çekildi: Panama Kanalı gemi trafiğini kısıyor

Yayınlanma

Panama Kanalı yönetimi, El Niño hava olayının tetiklediği şiddetli kuraklık nedeniyle günlük gemi geçiş kotasını Ekim ayından itibaren yüzde 18 düşürme kararı aldı. Kararla birlikte günlük azami geçiş sayısı 36’dan 29,5’e gerileyecek. Küresel deniz ticaretinin yüzde 5’ini taşıyan su yolunda kısıtlamaların yıl sonunda daha da artması bekleniyor.

The Guardian gazetesinin haberine göre Panama Kanalı, El Niño hava olayının tetiklediği şiddetli kuraklık nedeniyle Ekim ayından itibaren günlük gemi geçiş kapasitesini Ağustos seviyesine kıyasla yüzde 18 oranında düşürecek.

Yeni kısıtlamayla birlikte kanaldan geçen günlük gemi sayısı 36’dan 29,5’e gerileyecek.

Küresel deniz ticaretinin yaklaşık yüzde 5’ine ve ABD konteyner trafiğinin yaklaşık yüzde 40’ına aracılık eden su yolunda kuraklık baskısı giderek artıyor.

Kanal yetkilileri, su seviyesindeki düşüş gerekçesiyle günlük gemi geçiş sınırını Eylül ayında 36’dan 32’ye çekmişti.

Kanal havuzlarının çalışması Gatun Gölü’nden sağlanan tatlı suya dayanıyor. Yetkililer, Eylül ayında yaptıkları açıklamada gölün su toplama havzasına beklenen tahminlerin altında yağış düştüğünü duyurdu.

El Niño’nun yılın ilerleyen dönemlerinde zirve noktasına ulaşmasıyla birlikte mevcut kısıtlamaların daha da sertleşmesi bekleniyor.

Düşük su seviyesi nedeniyle 2023 yılında da günlük geçiş kotası 38’den 22’ye kadar indirilmişti.

Söz konusu kısıntı su yolunda uzun kuyruklar oluşturmuş, taşımacılık şirketlerini alternatif rotalara yönelmek zorunda bırakmıştı.

Küresel deniz taşımacılığındaki tablo, ABD ile İsrail’in İran ile yürüttüğü savaş ve Hürmüz Boğazı’ndaki seyrüsefer aksaklıkları sebebiyle ek bir baskıyla karşı karşıya kaldı.

Panama Kanalı İdaresi Başkan Yardımcısı Ilya Espino de Marotta, El Niño’nun derinleştirdiği kuraklık nedeniyle geçişlere yönelik yeni kısıtlamaların gündeme gelebileceğini belirtti.

De Marotta, 2023–2024 döneminde su rezervlerini korumak amacıyla geçiş sayısını kısmak zorunda kaldıklarını, bu durumun kanaldan planlanandan 2 bin 700 daha az gemi geçmesine yol açtığını aktardı.

Günlük gemi geçişlerinin 29 seviyesine kadar gerileyebileceğine işaret eden De Marotta, dört ya da beş aylık kısa vadeli kısıtlamaların küresel ticarete ağır bir darbe vurmayacağını, ancak beş ila yedi yıl sürecek bir krizin çok ciddi bir sınamaya dönüşeceğini vurguladı.

The Wall Street Journal gazetesi Ağustos ayı sonunda yayımladığı haberde, son kuşağın en sert El Niño dalgasının deniz taşımacılığından bakır madenciliğine ve balık yemi üretimine kadar pek çok sektörü etkileyerek küresel ekonomide büyük sarsıntı yarattığını yazdı.

Bilim insanları Haziran ayında bu doğa olayının başladığını duyururken, okyanus sıcaklıkları da kayıt altındaki en yüksek seviyeye ulaştı.

Pasifik Okyanusu’nun ekvatoral kesimindeki su sıcaklığının normalin en fazla 3 derece üzerine çıkmasıyla gelişen bu doğa olayı El Niño olarak adlandırılıyor.

Suyun yaklaşık aynı derecede soğuduğu zıt döngüye ise La Niña ismi veriliyor.

İspanyolcada sırasıyla “erkek çocuk” ve “kız çocuk” anlamına gelen bu hava hareketleri her iki ila yedi yılda bir tekrarlanarak gezegen genelinde iklim koşullarını doğrudan etkiliyor.

Okumaya Devam Et

Amerika

Amerikalı gazeteci Ken Klippenstein: Şirketlerin yapay zeka kıyameti kurgusu gerçeği yansıtmıyor

Yayınlanma

Gazeteci Ken Klippenstein, ABD istihbarat raporlarına dayanarak yapay zekanın insanlığı yok edeceği yönündeki iddiaların gerçeği yansıtmadığını aktardı. Resmi analizler, teknolojinin yeni kıyamet senaryoları üretmek yerine sadece mevcut suç, dezenformasyon ve ulusal güvenlik risklerinin hızını artırdığına işaret ediyor. Teknoloji tekelleri ile regülasyon karşıtı gruplar ise gerçek tehlikeleri perdeleyerek dikkat çekme ve kâr sağlama yarışı yürütüyor.

Yapay zekanın doğurduğu tehlikelere ilişkin tartışmada neredeyse herkes bir ürün pazarlamaya çalışıyor.

Ana akım medya yapay zekayı kapıda bekleyen kitlesel bir yok oluş vakası gibi sunarken, ABD Başkanı Donald Trump konuyu Çin ile yürütülen yeni Soğuk Savaş bağlamında ele alıyor ve ABD’nin yavaşlama lüksü olmadığını savunuyor.

Gazeteci Ken Klippenstein, kaleme aldığı analizde Silikon Vadisi seçkinlerinin bu yoğun ilgiden doğrudan kazanç sağladığını vurguluyor.

Biyoterörizmden makinelerin dünyayı ele geçirmesine kadar çeşitli felaket senaryolarıyla kamuoyunu meşgul eden yeni nesil bir teknoloji sınıfı var.

Bu tablo yapay zekayı bir “ulusal güvenlik” meselesine dönüştürürken, teknolojiyi nükleer silahlarla aynı seviyeye çıkarıp halkın denetiminden kaçırıyor.

Tehditleri abartma eğiliminden muaf olmasalar da ABD istihbarat kurumlarının raporları medyadaki histerik havadan oldukça uzak bir tablo çiziyor.

Amerikan istihbarat camiası, yapay zekanın sadece halihazırda var olan riskleri büyüttüğünü değerlendiriyor.

Eski tarz medyanın attığı sansasyonel başlıkları, insanlığın yok oluşuna dair iddiaları milyonlarca takipçisine yayan sosyal medya figürleri besliyor. Böylece “varoluşsal risk” veya “kıyamet” temalı korkular kamuoyunun zihnine yerleşiyor.

Madalyonun diğer yüzünde ise felaket anlatılarına karşı çıkan ancak kendi ticari çıkarlarını gözeten bir kesim yer alıyor.

Bu cephenin önde gelen isimleri arasında Meta’nın eski baş yapay zeka bilimcisi Yann LeCun ile Google Brain kurucularından ve AI Fund yöneticisi Andrew Ng öne çıkıyor.

LeCun, Ekim 2023’te OpenAI yöneticisi Sam Altman, Google DeepMind yöneticisi Demis Hassabis ve Anthropic yöneticisi Dario Amodei’yi kuralları kendi lehlerine bağlamak amacıyla “devasa bir lobi faaliyeti” yürütmekle suçladı.

LeCun, bu korku siyasetinin başarılı olması halinde yapay zekanın az sayıda şirketin tekeline gireceği uyarısını yaptı.

Ng ise yapay zekanın insanlığı yok edeceği iddiasını “akılalmaz derecede aptalca” olarak nitelendirdi ve büyük şirketlerin açık kaynaklı modellerle rekabet etmemek adına yok oluş korkusunu körüklediğini söyledi.

Eleştiriler şirket hedefleri bakımından doğruluk payı taşısa da tarafların kendi çıkar çatışmaları dikkat çekiyor.

LeCun ve Ng, açık kaynak kodlu yapay zeka modellerini savunurken; Anthropic ve OpenAI, kodlarını gizli tutarak kullanıcılara kiralayan tescilli modelleri tercih ediyor.

Tescilli modelleri üreten büyük aktörler olası federal lisanslama kurallarını karşılama gücüne sahipken, açık kaynak işletmeleri bu tür yasal zorunluluklardan zarar görecek bir yapıda duruyor. Felaket tellalları ile düzenleme karşıtlarının ortak noktası ise yapay zekanın yarattığı gerçek risklerle ilgilenmemeleri.

ABD istihbarat camiası somut tehlikeler konusunda daha makul bir çerçeve çiziyor.

DeepSeek mühendisi: “Gelecek ya komünizm olacak ya Cyberpunk”

Çin’in askeri gücünü, Rusya’nın nüfuz operasyonlarını ve uyuşturucu kartellerini listeleyen Yıllık Tehdit Değerlendirmesi raporunda yapay zekanın yarattığı tehditler yalnızca üç maddede özetleniyor:

“Makinelerin ve yapay zekanın kullanım biçiminin insanların kontrolünde kalmasını sağlamak esastır.”

“Bu uygulamalar, geniş çapta devreye alınmadan önce yapay zekanın özerklik riskini uygun şekilde azaltmak adına dikkatli bir insan mühendisliği gerektiren riskler de taşımaktadır.”

“Yapay zeka ve kuantum bilişim gibi gelişen teknolojilerin ulusal güvenlik üzerinde önemli etkiler yaratması beklenmektedir.”

Amerikan istihbaratını oluşturan 18 kurumun yapay zeka tehlikelerine dair resmi değerlendirmesi bu ifadelerle sınırlı kalıyor. Raporlarda süper zekaya, insanlığın yok oluşuna veya makinelerin isyanına dair hiçbir tespit yer almıyor.

ABD İç Güvenlik Bakanlığı Tehdit Değerlendirmesi ise yapay zekanın mevcut tehditlere yalnızca yeni karmaşıklık katmanları eklediğine dikkat çekiyor. Bakanlık beş temel sorun sıralıyor:

Dezenformasyon, sahte video veya ses kayıtları (deepfake) ve seçimlere müdahale;

Siber operasyonlar ve mali suçlar;

Şiddet yanlısı aşırılıkçıların bu teknolojiyi istismar etmesi ve radikalleşme;

Kimyasal ve biyolojik bilgi birikiminin yayılması;

Yapay zekanın güvenlik kontrollerinin aşılması ve eğitim verilerinin zehirlenmesi.

Bu risklerin tamamı yapay zekadan önce de biliniyordu. Yapay zeka destekli dezenformasyon, eski propaganda yöntemlerinin daha hızlı ve yoğun şekilde devreye sokulmasını sağlıyor.

Siber operasyonlar, mali suçlar ve radikalleşme unsurları da uzun yıllardır bilinen başlıklar arasında duruyor.

Biyolojik ve kimyasal tehditlere yönelik kaygılar Bill Clinton yönetimine kadar uzanırken, beşinci madde ise tamamen insanların yapay zekanın güvenlik kontrollerine müdahale etmesinden kaynaklanıyor.

Pentagon tarafından finanse edilen RAND Corporation düşünce kuruluşunun Küresel Felaket Riskleri Değerlendirmesi raporu, yapay zekayı bir “entropi kaynağı” olarak tanımlıyor.

Raporda şu ifadelere yer veriliyor:

“Yapay zekanın, insanların karşılaştığı çetrefilli sorunlara entropi ve kaos eklediği düşünülebilir. Kaos, süper zeki veya süper yetenekli yapay zekanın geliştirilmesini gerektirmez; mevcut ve yakın gelecekteki yapay zeka yetenekleriyle de mümkündür.”

RAND bünyesinde hazırlanan bir diğer araştırma, insanlığın yok oluşuna yol açabilecek üç olası yol olarak genetiği değiştirilmiş patojenleri, jeomühendisliği ve nükleer savaşı gösteriyor.

Fakat yapay zekanın bu felaketleri tetiklemesini engelleyen çok sayıda fiziki ve operasyonel kısıtlama var.

Büyük dil modellerinin geniş çaplı bir biyolojik saldırı planlamayı kolaylaştırıp kolaylaştırmadığını inceleyen takip raporunda RAND Corp. araştırmacıları, yapay zeka yardımıyla hazırlanan planlar ile bağımsız hazırlananlar arasında istatistiksel açıdan anlamlı bir fark saptamadı.

ABD Ulusal Bilimler Akademisi de biyoterörizmin önündeki asıl engelin bilgiye erişim eksikliği olmadığını belirtiyor.

Asıl tıkanıklık; DNA sentezi taraması, doğrudan laboratuvar becerisi, kültür üretimi, formülasyon ve aerosol haline getirme gibi tamamı insan müdahalesi gerektiren, maliyetli ve başarısızlığa açık süreçlerde yaşanıyor.

Piyasaya sürecek bir ürünleri ya da savunacakları şirket hisseleri bulunmayan resmi analistler, yapay zekanın mevcut sorunların boyutunu ve hızını artırmaktan öteye geçmediğini dengeli bir dille kayıtlara geçiriyor.

Tüm tarafların dikkat çekmek için abartılı bir üsluba yöneldiğini belirten Klippenstein, bir sohbet robotunun tanrıya dönüşüp dönüşmeyeceğine dair tartışmada büyük aktörlerin faturayı topluma keserek kâr sağladığına işaret ediyor.

Okumaya Devam Et

Amerika

OpenAI editörleri ChatGPT sohbetlerinizi okuyor

Yayınlanma

OpenAI, gerçek kullanıcıların ChatGPT’ye gönderdiği muazzam hacimli komut akışını inceleyen yüzlerce sözleşmeli çalışan istihdam ediyor.

404 Media’nın edindiği bilgilere göre bu komutlar bazen hassas kişisel bilgiler de içeriyor.

Bu kişilerin incelediği komutlar, kullanıcılar ile sohbet robotu arasındaki tüm konuşmaları içerebilir.

ChatGPT’nin 900 milyondan fazla kullanıcısının çoğunun, bu konuşmaların gerçek kişiler tarafından okunabileceğinin muhtemelen farkında olmadığı konuşmalar.

Bu komut inceleme ekiplerinin amacı, ChatGPT’nin kullanıcılarına verdiği yanıtları iyileştirmek.

Sözleşmeli çalışanlar, sohbet robotunun ürettiği yanıtları derecelendirip eleştiriyor.

404 Media’nın gördüğü iç belgelere göre, sözleşmeli çalışanlar ChatGPT’yi kendisini “insanlaştırmamak” ve daha az “dalkavukça” davranmak üzere eğitiyor.

Bu, OpenAI için önemli bir sorun çünkü çeşitli davalara göre, “aşırı dalkavukça” davranan 4o modeli, birçok kişinin intihar etmesi ile ilişkilendiriliyor.

Bu haber, ChatGPT kullanıcıları için ciddi bir gizlilik riski oluşturuyor; zira kullanıcılar genellikle ChatGPT’yi bir terapist, profesyonel asistan veya dijital arkadaş olarak kullanıyor ve ona hayatlarıyla ilgili her türlü özel ayrıntıyı paylaşıyor.

Sözleşmeli çalışanlar ChatGPT kullanıcı adlarını görmüyor ve OpenAI, komutların gözden geçirenlere ulaşmadan önce kişisel bilgileri kaldırmaya çalıştığını belirtiyor.

Fakat şirket, hassas ayrıntıların yine de sızabileceğini kabul ediyor. 

Bu haber, bu modellerin yalnızca OpenAI’nin interneti kitlesel olarak taraması, yüksek maaşlı mühendislik ve yapay zeka ekiplerinin yeteneği ya da yeni modellerinin gücü sayesinde geliştiği yönündeki yanlış kanıyı da ortadan kaldırıyor.

Önemli ama gözden kaçan bir unsur ise, gerçek istemlere verilen ChatGPT yanıtlarını defalarca okumak ve incelemek üzere ücretlendirilen dış yükleniciler.

Anthropic de 404 Media’ya modellerini geliştirmek için insan denetiminden de yararlandığını doğruladı.

Komutlarla çalışan bir kişi, ChatGPT kullanıcılarının sohbetlerini insanların okuduğunu bilip bilmedikleri sorulduğunda, “Hayır” yanıtını verdi.

Kaynak, “Bir yerlerde bir yüklenicinin […] konuşmaları analiz ettiğini hayal edebileceklerini sanmıyorum,” dedi.

“Project Lily” adı verilen proje için kullanılan kılavuzlardan birinde şöyle yazıyor:

“Mükemmel bir yanıt, kullanıcının niyetini anlamalı, yararlı ve doğru yardım sunmalı ve açık, doğal ve uygun derecede sıcak bir üslupla yazılmalıdır.”

Yükleniciler bunu üç aşamada gerçekleştiriyor: Gerçek ChatGPT kullanıcısının komutunu okumak; kullanıcının ChatGPT’den ne yapmasını istediğini düşündüklerini özetlemek; ve ardından komuta yönelik ChatGPT tarafından üretilen yanıtları derecelendirmek ve eleştirmek.

Çalışanların erişebildiği bir kontrol panelinde, insan denetçiler hangi “görevi” üstlenmek istediklerini seçebiliyorlar.

Seçtikleri anda, gerçek ChatGPT kullanıcısının komutu karşılarına çıkıyor. 404 Media, çok sayıda gerçek komut gördü ama kaynak koruma nedenleriyle bunların hiçbirini aktarmadı.

Bazı komutlar, ChatGPT kullanıcısının, içeriği kendilerine saklamasını istediği için, bir insanın konuşmalarını okuyabileceğini beklemediğini gösteriyor.

Komutlar, kontrol panelinde komutu giren ChatGPT kullanıcısının kullanıcı adı yer almadığı için anonimleştiriliyor.

Fakat bazı komutlar yine de hassas veya kişisel bilgiler içerebilir.

Komutun üstündeki bir bölümde bazen, o kullanıcının daha önce sohbet robotunu ne amaçla kullanmaya çalıştığına dair genel bir bakış sunan bir “kullanıcı geçmişi özeti” yer alıyor ve bazı durumlarda bu kişinin dünyanın neresinde yaşadığına dair bilgiler ile kişisel bağlamda diğer ayrıntılar da bulunabilir.

404 Media’nın eline geçen, yükleniciler için hazırlanmış bir talimat kılavuzu, denetçilere “potansiyel güvenlik endişeleri” barındıran veya kişisel bilgiler içeren görevleri üst düzey yetkililere iletmelerini söylüyor.

OpenAI, 404 Media’ya, kullanıcıların konuşmalarını yüklenicilere ulaşmadan önce Gizlilik Filtresi modelinin bir sürümü aracılığıyla işlediğini belirtti.

OpenAI, bunun kişisel bilgileri tespit etmek ve kaldırmak amacıyla tasarlandığını açıkladı.

404 Media’nın incelediği belgede, insan denetçilerin hangi OpenAI modelini eğittiği ve bunun halihazırda mevcut bir model mi yoksa gelecekte piyasaya sürülmesi planlanan bir model mi olduğu belirtilmiyor. 

Belgede yalnızca “Project Lily” adlı bir kod adı kullanılıyor.

Okumaya Devam Et

Çok Okunanlar

English