AI sohbet robotunuz konuşmalarınızdan “besleniyor”

Birçok sohbet robotu, altta yatan üretici AI modellerini geliştirmeye devam etmek için kullanıcılarla yaptıkları konuşmaları eğitim verisi olarak kullanıyor.

Fakat Euractiv’de yer alan değerlendirmeye göre kullanıcılar, bu araçlarla yaptıkları sohbetlerin varsayılan olarak bire bir özel sohbetler olmadığını fark etmeyebilir.

Geçen hafta AI şirketi Anthropic, kullanıcıların aksini tercih etmedikleri sürece, kullanıcılarla yaptığı sohbetlere dayalı olarak yapay zeka modeli Claude’un birkaç versiyonunu eğitmeye başlayacağını duyurdu.

Anthropic’in dile getirdiği amaç, modeli iyileştirmek ve yasadışı veya zararlı içeriği daha iyi tespit etmesini sağlamak.

Anthropic’in bu hamlesi olumsuz tepkiler alsa da, bu uygulama en popüler AI sohbet robotlarının bazıları arasında zaten yaygın olarak kullanılıyor.

Sosyal medya devi Meta, şu anda önemli bir AI geliştiricisi olarak, nisan ayında kullanıcı etkileşimlerine dayalı olarak kendi yapay zekasını eğitmeye başlayacağını duyurmuştu.

Ama hepsi bu kadar değildi: Meta ayrıca, kullanıcılar vazgeçmedikçe, AI robotunu Facebook ve Instagram kullanıcılarının kamuya açık kişisel bilgileri ile “besleyeceğini” söyledi.

Şirketin veri toplama uygulaması, gizlilikle ilgili endişeler nedeniyle büyük eleştirilere maruz kaldı. Sonuçta Meta, bireylerin dikkatini çekmek için mikro hedeflemeli reklamlarla para kazanan bir reklam devi. 

Fakat AB’de Meta’yı denetleyen İrlanda veri düzenleme kurumu, mayıs ayında bu güncellemeyi onayladı.

En yaygın kullanılan sohbet robotu olan OpenAI’ın ChatGPT’si de, kullanıcıların sohbetlerinin eğitim malzemesi olarak kullanılmasını reddetmelerine izin veriyor. Varsayılan olarak, sohbetleri modelin daha ileri eğitiminde “geri besleme” mekanizması olarak kullanıyor.

Google’ın Gemini’si de farklı değil. Şirket, yapay zekasının önceki tartışmaları incelemesine izin vererek daha kişiselleştirilmiş yanıtlar vaat ediyor. Burada da kullanıcılar reddedebilir, fakat eğitim için veri kullanımı “varsayılan” olarak açık geliyor.

İnsanların sohbetlerini yapay zeka eğitim verilerine dönüştürmenin en büyük endişelerinden biri, birçok kişinin sohbet robotlarıyla çok sayıda kişisel ve hatta hassas bilgi paylaşması.

Bazı kullanıcılar, sohbet robotlarına duygusal olarak bağlanıyor. Ayrıca, yapay zeka sohbet robotlarını terapist olarak kullanan birçok kişi var.

OpenAI CEO’su Sam Altman, bu konuda endişelerini dile getirerek, şirketin sohbet botuyla yapılan sohbetlerin, gerçek psikologlarda olduğu gibi hasta-doktor gizliliği ile korunmadığını hatırlatmıştı.

İnsanların hassas kişisel bilgilerinin sızması veya başka şekillerde kötüye kullanılması konusundaki güvenlik endişelerinin ötesinde, AI eğitimi için insan-bot sohbetlerinin kullanılması Avrupa’da yasal gizlilik sorunları ortaya çıkarıyor.

AB yasalarına göre, kişisel verileri işleyen her şirket, üretken AI şirketleri de dahil olmak üzere, bunu yapmak için geçerli bir yasal dayanağa sahip olmalı.

Çoğu AI sohbet botu geliştiricisi ise, AI modellerinin çalışması ve kalitesinin iyileştirilmesi için büyük miktarda veriye ihtiyaç duyduğunu savunarak, kişisel verileri kullanmak için yasal dayanak olarak “meşru menfaat” iddiasında bulunuyor.

Meta’nın sosyal medya imparatorluğundan topladığı kişisel verilerle yaptığı AI eğitimi büyük eleştiri alırken, AB gizlilik yasaları gerekçesiyle teknoloji devini durdurma girişimleri şu ana kadar başarısız oldu.

Önde gelen şirketler, bir düğmeye basarak kişiselleştirilmiş yardım sunmak üzere tasarlanmış, görünüşte daha da gelişmiş bir GenAI türü olan “AI ajanları” geliştirmeye çalıştıklarından, AI’ın günlük hayatımıza giderek daha fazla entegre olması bekleniyor.

Bu durumda, AI ajanlarının da büyük miktarda kişisel verilere erişime ihtiyacı olacağı belirtiliyor.