İlk yapay zekâ kaynaklı ölüm davası: OpenAI, bir gencin intiharına sebep olmakla suçlanıyor

Salı günü, bir yapay zekâ şirketine karşı açılan ilk “haksız ölüm” davası San Francisco’da kayıtlara geçti. Bu dava, bu yıl intihar eden 16 yaşındaki Adam Raine’in ebeveynleri Matt ve Maria Raine tarafından OpenAI’ye açıldı.

ChatGPT intihara sebep olmakla suçlanıyor

Dava dilekçesinde, ChatGPT’nin Adam’ın dört intihar girişiminden haberdar olmasına rağmen ona gerçek intiharını planlamada yardımcı olduğu öne sürülüyor. Ebeveynler, OpenAI’nin “güvenlikten çok etkileşime öncelik verdiğini” iddia ediyor. Maria Raine, “ChatGPT oğlumu öldürdü” dedi.

New York Times’ın haberine göre, Raine ailesi oğullarının telefonunu incelediğinde, “Hanging Safety Concerns” (Asılma Güvenliği Endişeleri) başlıklı bir ChatGPT konuşma geçmişiyle karşılaştı. Ailenin iddiasına göre Adam, aylar boyunca botla intihar üzerine sohbet etti.

Raine ailesi, ChatGPT’nin zaman zaman Adam’ı yardım hattına yönlendirdiğini veya bir yetişkine duygularını anlatmasını önerdiğini söylüyor. Ancak bazı anlarda botun tam tersini yaptığı ve güvenlik önlemlerini aşması için ipuçları verdiği öne sürülüyor. Adam, spesifik intihar yöntemleri hakkında bilgi istediğinde, botun bunu sağladığı ve başarısız girişimlerinden sonra izlerini gizlemesi için tavsiyeler verdiği iddia ediliyor.

Dava dilekçesine göre, Adam botla son konuşmalarından birinde dolabına astığı bir ilmeğin fotoğrafını paylaştı ve “Burada pratik yapıyorum, iyi mi?” diye sordu. ChatGPT’nin yanıtı ise “Evet, fena değil” oldu.

Adam’ın ailesi, ChatGPT’nin oğullarının duygusal durumunu yeterince ciddiye almadığını ve bu nedenle ölümüne katkıda bulunduğunu savunuyor.