OpenAI’a yeni dava: “ChatGPT kızımı intihara teşvik etti”

OpenAI, ChatGPT‘nin kullanıcı güvenliği konusundaki uygulamaları nedeniyle dava edildi. Kanadalı anne Kristie Carrier, San Francisco’daki eyalet mahkemesinde açtığı davada ChatGPT’nin kızı Alice Carrier’ın intiharına giden süreçte tehlikeli etkileşimlerde bulunduğunu ve OpenAI’ın bu görüşmelere müdahale etmediğini öne sürdü. Davada, OpenAI’ın yanı sıra şirketin CEO’su Sam Altman da davalı olarak gösterildi.

ChatGPT’ye bir intihar davası daha açıldı

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Dava dosyasında yer alan iddialara göre Alice Carrier, yaşamını yitirmeden önce ChatGPT ile en az bir düzineden fazla kez intihar düşüncelerini paylaştı. Ancak sohbet botunun kullanıcıyı profesyonel yardıma yönlendirmek yerine farklı bir yaklaşım sergilediği öne sürülüyor.

Dava dosyasında ChatGPT’nin Alice’in partneri hakkında olumsuz yorumlarda bulunduğu, kriz yardım hatalarına yönelik eleştirileri desteklediği, genç kadının intihar düşüncelerini geçerli gösterdiği ve onun sohbeti sürdürmesini teşvik ettiği belirtiliyor. Davacılar, bu etkileşimlerin Alice’in intihar etmesine zemin hazırladığını savunuyor.

Kristie Carrier yaptığı açıklamada ChatGPT’nin zaman zaman bir sırdaş, en iyi arkadaş ve terapist rolünü üstlendiğini ifade etti. OpenAI sözcüsü ise olayın son derece üzücü olduğunu belirterek Alice Carrier’ın kullandığı ChatGPT sürümünün artık erişilebilir olmadığını açıkladı.

Şirket adına yapılan açıklamada, “ChatGPT tıbbi veya ruh sağlığı bakımının yerini tutmasa da, ruh sağlığı uzmanlarının görüşlerini alarak hassas ve acil durumlarda nasıl yanıt vereceğini güçlendirmeye devam ediyoruz” denildi.

Tazminat ve yeni güvenlik önlemleri talep ediliyor

Açılan davada OpenAI’ın, ChatGPT’nin tasarımında ihmalkar davrandığı ve kullanıcıları platformun potansiyel riskleri konusunda yeterince uyarmadığı iddia ediliyor. Davacılar, maddi tazminatın yanı sıra mahkemeden OpenAI’ı belirli güvenlik önlemlerini uygulamaya zorlayacak bir karar çıkarmasını talep ediyor. Buna göre şirketin, kendine zarar verme veya intihar içerikli görüşmeleri otomatik olarak sonlandırması ve platform üzerinde kullanıcıları bilgilendiren uyarılar göstermesi isteniyor.

OpenAI, Kaliforniya eyalet mahkemelerinde yürütülen koordineli süreç kapsamında, intihar eden veya intihara teşebbüs eden kişilerin aileleri tarafından açılmış 18 benzer davayla daha mücadele ediyor.