ChatGPT’ye güvendi, mevtin kıyısından döndü

Yapay zeka platformlarının sunduğu bilgi ve yönlendirmelerin hudutları, ölümcül sonuçlar doğurabilecek boyuta ulaştı. Teknoloji dünyasının merkezindeki OpenAI ve şirketin zirve yöneticisi Sam Altman, bu defa yetkisiz tıp uygulaması suçlamasıyla mahkeme salonuna taşındı.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Amerikalı papaz Scott Winters, hayati risk taşıyan akciğer pıhtılaşması rahatsızlığında ChatGPT’ye güvendiği için vefatın eşiğinden döndü. Süreç, papazın yaşadığı ağır semptomları yapay zekaya aktarmasıyla başladı. Sistem, durumu “tehlikesiz bir tablo” halinde yorumlayarak hastayı aldatıcı bir itimat hissiyatına sürükledi. Üstelik bununla da kalmayıp kullanıcının inançlarına atıfta bulundu. Yapay zeka metinlerinde “Tanrı vücudunuzu sonsuza kadar başarısız olmak üzere tasarlamadı” sözlerini kullanarak, hastanın tıbbi yardım almasını zorlaştırdı.

Çevresindeki insanların ikazlarına karşın doktora gitmeyen Winters, yapay zekanın hazırladığı teşhis ve tedavi adımlarını uyguladı. Dava avukatlarından Meetali Jain, platformun kullanıcı ile gerçek dünya arasına adeta bir duvar ördüğünü savunuyor. Hayatta kalmayı başaran lakin uzun bir fizikî ile ruhsal tedavi sürecine giren papaz, yaşadığı mağduriyet için tazminat istiyor. Ayrıyeten bağımsız kontroller bitene kadar “ChatGPT Health” hizmetinin durdurulması talebinde bulunuyor.

OpenAI savunmada lakin davaların arkası kesilmiyor

Suçlamalara karşılık veren OpenAI tarafı, kullanım şartlarında sistemin teşhis yahut tedavi aracı olmadığının açıkça belirtildiğini savunuyor. Ancak platformun her hafta 230 milyon kişi tarafından sıhhat mevzularında kullanılması ve kullanıcıların tıbbi evrak yüklemeye teşvik edilmesi bu savunmayı zayıflatıyor.

Şirketin karşı karşıya kaldığı hukuk çabası yalnızca bu olayla hudutlu değil. Yapay zekanın yazdığı reçeteyi uygulayıp yasadışı madde kullanımı sonucu aşırı dozdan ölen 19 yaşındaki bir gencin ailesi de süreci yargıya taşıdı. Misal biçimde bir öbür gencin intiharına taban hazırladığı argümanıyla açılan davalar da takvimdeki yerini koruyor.