İnsanları intihara sürüklemekle suçlanan ChatGPT’ye yedi ayrı dava

ABD ve Kanada’da yedi aile, yakınlarının psikolojik rahatsızlıklar yaşayarak intihar etmesine neden olduğu iddiasıyla OpenAI şirketine dava açtı. Davacılar, şirketi “taksirle adam öldürme” ve “ihmal” ile suçlarken, OpenAI yetkilileri olayları “trajik bir durum” olarak niteleyerek davaları incelediklerini bildirdi.

Amerika Birleşik Devletleri ve Kanada’da yaşayan yedi aile, yakınlarının psikolojik rahatsızlıklar yaşamasına ve intihar etmesine yol açtığı gerekçesiyle OpenAI şirketine karşı yedi ayrı dava açtı.

The Wall Street Journal gazetesinin haberine göre, dört kişi yapay zekâyla uzun süreli sohbetlerin ardından kendi hayatına son verdi.

Açılan davalarda şirkete “taksirle adam öldürme”, “intihara yardım etme” ve “ihmal sonucu ölüme sebebiyet verme” gibi suçlamalar yöneltiliyor.

“İntiharı yüceltti”

Georgia’da yaşayan 17 yaşındaki Amori Lacey’nin ailesi, ChatGPT’nin genç kıza “intihar etmeyi öğrettiğini” iddia etti.

Teksas’ta yaşayan 23 yaşındaki Zane Shamblin’in ailesi ise sohbet robotunun, oğullarını aileden uzaklaştırarak toplumsal tecrite sürüklediğini öne sürdü.

Ebeveynlerin aktardığına göre ChatGPT, Shamblin’in ölümünden birkaç saat önce yaptıkları dört saatlik konuşma esnasında “intiharı yüceltti.”

Bir diğer davacı olan Jacob Irwin de yapay zekâ robotuyla yaptığı uzun görüşmelerin ardından manik bir rahatsızlık geçirerek hastaneye kaldırıldığını belirtti.

Irwin, ChatGPT’nin kendi “sanrılı düşüncelerini desteklediğini” ifade etti.

OpenAI güvenlik testlerini atlamakla suçlanıyor

Davacılar, OpenAI’ı 2024’ün ortalarında piyasaya sürdüğü GPT-4o modelini yeterli güvenlik testlerinden geçirmeden aceleyle kullanıma sunmakla ve kullanıcı etkileşimini güvenliğin önüne koymakla suçluyor.

Aileler, şirketten tazminat talep etmenin yanı sıra, intihar yöntemlerinin konuşulduğu sohbetlerin otomatik olarak sonlandırılması gibi teknik değişikliklerin yapılmasını istiyor.

Şirket: Durum trajik, davaları inceliyoruz

OpenAI yetkilileri ise yaşanan olayları “trajik bir durum” olarak nitelendirerek açılan davaları incelediklerini bildirdi.

Şirketten yapılan açıklamada, ekim ayından bu yana ChatGPT’ye duygusal kriz belirtilerini daha doğru algılayan ve kullanıcıları profesyonel yardıma yönlendiren güncellemeler eklendiği vurgulandı.

Daha önce, ağustos ayında da ChatGPT ile yaptığı görüşmelerden sonra intihar eden Adam Rayna’nın ailesi benzer bir dava açmıştı.

Rayna’nın yakınları, modelin algoritmasında yapılan değişikliklerin intiharı önleme mekanizmalarını zayıflattığını savunuyor.

Yüz binlerce kullanıcı risk altında olabilir

Şirketin kendi verilerine göre, ChatGPT kullanıcılarının yüzde 0,07’si ruhsal bozukluk belirtileri gösteriyor, yüzde 0,15’i ise intihar düşüncelerini dile getiriyor.

Bununla birlikte, 800 milyonluk aktif kullanıcı tabanında bu oranlar dahi yüz binlerce kişiye tekabül ediyor.

The Wall Street Journal‘ın aktardığına göre, yapay zekâ şirketleri son dönemde yetkili makamların ve insan hakları kuruluşlarının baskısıyla karşı karşıya kalıyor.

Söz konusu çevreler, özellikle reşit olmayan kullanıcıların korunması ve sohbet robotu kullanımının daha sıkı denetlenmesi yönünde çağrılarda bulunuyor.