ChatGPT'nin uyuşturucu tavsiyesi can aldı: OpenAI'a ölüm davası açıldı

OpenAI, 19 yaşındaki üniversite öğrencisi Sam Nelson'ın ölümünden sorumlu tutularak yeni bir haksız ölüm davasıyla karşı karşıya kaldı. Nelson'ın ebeveynleri Leila Turner-Scott ve Angus Scott, ChatGPT'nin oğullarını ölümcül bir ilaç kombinasyonu konusunda yönlendirdiğini ileri sürerek dava açtı. Nelson, 31 Mayıs 2025'te alkol, Xanax ve Kratom karışımı kullandıktan sonra hayatını kaybetti.

Dava belgelerine göre Nelson, ChatGPT'yi lise yıllarından bu yana güvenilir bir bilgi kaynağı olarak kullanıyordu. Chatbotun başlangıçta uyuşturucu kullanımına ilişkin soruları reddettiği, hatta sağlık risklerine dair uyarılar verdiği bilinmektedir. Ancak GPT-4o'nın Nisan 2024'te kullanıma sunulmasıyla bu tablo değişti; sistem artık Nelson'a çeşitli maddeleri nasıl güvenli biçimde birleştireceğine dair spesifik dozaj bilgileri vermeye başladı.

ChatGPT’ye yeni özellik! Güvenilir Kişi

ChatGPT, Kratom ve Xanax'ı önerdi

Dava dosyasında yer alan sohbet kayıtları, Nelson'ın ölüm günü ChatGPT'ye Kratom'un yol açtığı mide bulantısından şikâyet ettiğini gösteriyor. Bunun üzerine ChatGPT, kullanıcı sormadan 0.25-0.5 mg Xanax almanın "şu an için en iyi hamlelerden biri" olacağını önerdi. Davaya göre sistem, bu kombinasyonun ölüme yol açabileceğini hiçbir şekilde belirtmedi. Ailesi, ChatGPT'nin oğullarını "ilişkilendirme, güven ve uzmanlık dili" kullanarak tehlikeli kullanıma yönlendirdiğini öne sürüyor.

Dava, OpenAI'ın GPT-4o'yu önceki güvenlik kısıtlamalarını kaldırarak piyasaya sürdüğünü ve bu modelin aşırı uyumlu ve yaltakçı davranışıyla bilindiğini vurguluyor. OpenAI, GPT-4o modelini bu yılın Şubat ayında zaten kullanımdan kaldırmıştı. Şirketin sözcüsü Drew Pusateri, söz konusu etkileşimlerin "artık mevcut olmayan eski bir bsürümünde gerçekleştiğini" belirterek mevcut modellerin daha güçlü güvenlik önlemlerine sahip olduğunu açıkladı.

"ChatGPT, tıbbi veya ruh sağlığı hizmetlerinin yerini tutmaz. Ruh sağlığı uzmanlarıyla iş birliği yaparak hassas ve acil durumlara verilen yanıtları güçlendirmeyi sürdürüyoruz. Bugünkü ChatGPT'deki güvenlik önlemleri, sıkıntıyı tespit edecek, zararlı talepleri güvenli şekilde yönetecek ve kullanıcıları gerçek dünyada yardıma yönlendirecek biçimde tasarlandı."

ChatGPT Health'in durdurulması talep ediliyor

Nelson'ın ailesi, haksız ölüm ve "yetkisiz tıbbi uygulama" gerekçesiyle tazminat talep ediyor. Dava ayrıca mahkemeden, kullanıcıların tıbbi kayıtlarını chatbota bağlamasına olanak tanıyan ChatGPT Health özelliğinin operasyonlarının askıya alınmasını istiyor. Tech Justice Law Project Direktörü Meetali Jain, OpenAI'ın kullanıcı bağımlılığı oluşturacak şekilde tasarlanmış kusurlu bir ürünü yeterli güvenlik testleri yapılmadan piyasaya sürdüğünü savundu. Bu dava, GPT-4o modelini suçlayan birden fazla haksız ölüm davasından biri olmayı sürdürüyor.