OpenAI editörleri ChatGPT sohbetlerinizi okuyor

OpenAI, gerçek kullanıcıların ChatGPT’ye gönderdiği muazzam hacimli komut akışını inceleyen yüzlerce sözleşmeli çalışan istihdam ediyor.

404 Media’nın edindiği bilgilere göre bu komutlar bazen hassas kişisel bilgiler de içeriyor.

Bu kişilerin incelediği komutlar, kullanıcılar ile sohbet robotu arasındaki tüm konuşmaları içerebilir.

ChatGPT’nin 900 milyondan fazla kullanıcısının çoğunun, bu konuşmaların gerçek kişiler tarafından okunabileceğinin muhtemelen farkında olmadığı konuşmalar.

Bu komut inceleme ekiplerinin amacı, ChatGPT’nin kullanıcılarına verdiği yanıtları iyileştirmek.

Sözleşmeli çalışanlar, sohbet robotunun ürettiği yanıtları derecelendirip eleştiriyor.

404 Media’nın gördüğü iç belgelere göre, sözleşmeli çalışanlar ChatGPT’yi kendisini “insanlaştırmamak” ve daha az “dalkavukça” davranmak üzere eğitiyor.

Bu, OpenAI için önemli bir sorun çünkü çeşitli davalara göre, “aşırı dalkavukça” davranan 4o modeli, birçok kişinin intihar etmesi ile ilişkilendiriliyor.

Bu haber, ChatGPT kullanıcıları için ciddi bir gizlilik riski oluşturuyor; zira kullanıcılar genellikle ChatGPT’yi bir terapist, profesyonel asistan veya dijital arkadaş olarak kullanıyor ve ona hayatlarıyla ilgili her türlü özel ayrıntıyı paylaşıyor.

Sözleşmeli çalışanlar ChatGPT kullanıcı adlarını görmüyor ve OpenAI, komutların gözden geçirenlere ulaşmadan önce kişisel bilgileri kaldırmaya çalıştığını belirtiyor.

Fakat şirket, hassas ayrıntıların yine de sızabileceğini kabul ediyor. 

Bu haber, bu modellerin yalnızca OpenAI’nin interneti kitlesel olarak taraması, yüksek maaşlı mühendislik ve yapay zeka ekiplerinin yeteneği ya da yeni modellerinin gücü sayesinde geliştiği yönündeki yanlış kanıyı da ortadan kaldırıyor.

Önemli ama gözden kaçan bir unsur ise, gerçek istemlere verilen ChatGPT yanıtlarını defalarca okumak ve incelemek üzere ücretlendirilen dış yükleniciler.

Anthropic de 404 Media’ya modellerini geliştirmek için insan denetiminden de yararlandığını doğruladı.

Komutlarla çalışan bir kişi, ChatGPT kullanıcılarının sohbetlerini insanların okuduğunu bilip bilmedikleri sorulduğunda, “Hayır” yanıtını verdi.

Kaynak, “Bir yerlerde bir yüklenicinin […] konuşmaları analiz ettiğini hayal edebileceklerini sanmıyorum,” dedi.

“Project Lily” adı verilen proje için kullanılan kılavuzlardan birinde şöyle yazıyor:

“Mükemmel bir yanıt, kullanıcının niyetini anlamalı, yararlı ve doğru yardım sunmalı ve açık, doğal ve uygun derecede sıcak bir üslupla yazılmalıdır.”

Yükleniciler bunu üç aşamada gerçekleştiriyor: Gerçek ChatGPT kullanıcısının komutunu okumak; kullanıcının ChatGPT’den ne yapmasını istediğini düşündüklerini özetlemek; ve ardından komuta yönelik ChatGPT tarafından üretilen yanıtları derecelendirmek ve eleştirmek.

Çalışanların erişebildiği bir kontrol panelinde, insan denetçiler hangi “görevi” üstlenmek istediklerini seçebiliyorlar.

Seçtikleri anda, gerçek ChatGPT kullanıcısının komutu karşılarına çıkıyor. 404 Media, çok sayıda gerçek komut gördü ama kaynak koruma nedenleriyle bunların hiçbirini aktarmadı.

Bazı komutlar, ChatGPT kullanıcısının, içeriği kendilerine saklamasını istediği için, bir insanın konuşmalarını okuyabileceğini beklemediğini gösteriyor.

Komutlar, kontrol panelinde komutu giren ChatGPT kullanıcısının kullanıcı adı yer almadığı için anonimleştiriliyor.

Fakat bazı komutlar yine de hassas veya kişisel bilgiler içerebilir.

Komutun üstündeki bir bölümde bazen, o kullanıcının daha önce sohbet robotunu ne amaçla kullanmaya çalıştığına dair genel bir bakış sunan bir “kullanıcı geçmişi özeti” yer alıyor ve bazı durumlarda bu kişinin dünyanın neresinde yaşadığına dair bilgiler ile kişisel bağlamda diğer ayrıntılar da bulunabilir.

404 Media’nın eline geçen, yükleniciler için hazırlanmış bir talimat kılavuzu, denetçilere “potansiyel güvenlik endişeleri” barındıran veya kişisel bilgiler içeren görevleri üst düzey yetkililere iletmelerini söylüyor.

OpenAI, 404 Media’ya, kullanıcıların konuşmalarını yüklenicilere ulaşmadan önce Gizlilik Filtresi modelinin bir sürümü aracılığıyla işlediğini belirtti.

OpenAI, bunun kişisel bilgileri tespit etmek ve kaldırmak amacıyla tasarlandığını açıkladı.

404 Media’nın incelediği belgede, insan denetçilerin hangi OpenAI modelini eğittiği ve bunun halihazırda mevcut bir model mi yoksa gelecekte piyasaya sürülmesi planlanan bir model mi olduğu belirtilmiyor. 

Belgede yalnızca “Project Lily” adlı bir kod adı kullanılıyor.