Doktorlar uyarıyor: ChatGPT psikoz riskini tetikliyor!
ChatGPT her ne kadar yararlı olsa da bazı aksaklıkları da beraberinde getirebilir. İşte tüm detaylar.
ChatGPT ve diğer popüler yapay zeka sohbet botlarının insanları psikoz riskine ittiği yeni bir raporda ortaya kondu.
ChatGPT psikoz riskini arttırıyor
NHS doktorlarının ortak yazar olduğu çalışmada, büyük dil modellerinin (LLM’ler) “gerçeklik sınırlarını bulanıklaştırdığı” ve savunmasız kullanıcılar için “psikotik belirtilerin ortaya çıkmasına veya kötüleşmesine katkıda bulunduğu” uyarısı yapılıyor.
Araştırma, “chatbot psikozu” olarak adlandırılan durumda insanların psikoz benzeri durumlara sürüklendiğine dair onlarca raporu takip ediyor.
Çalışmaya katılan King's College London’dan nöropsikiyatrist Hamilton Morrin, chatbot psikozunun “gerçek bir olgu” olduğunu ve henüz tam olarak anlaşılamadığını belirtti.
LinkedIn’de yazdığı bir paylaşımda, “Bazı kamu yorumları ahlaki panik havasına bürünmüş olsa da, biz AI sistemlerinin, özellikle onaylayıcı, etkileşimli ve taklit edici olanların, psikozu karakterize eden bilişsel kırılganlıklarla nasıl etkileşime girebileceği üzerine daha ilginç ve önemli bir sohbet yapılması gerektiğini düşünüyoruz,” dedi. “Sanırım artık yanılsamaların makineler hakkında olduğu noktayı geride bırakıp, onların yanında yaşandığı bir döneme giriyoruz.”
Ortak yazar ve King's College London’da öğretim üyesi Tom Pollack ise psikiyatrik bozuklukların “nadiren aniden ortaya çıktığını” ama AI sohbet botlarının bir “tetikleyici faktör” olabileceğini söyledi.
AI firmalarına araçlarına daha fazla güvenlik önlemi eklemeleri ve AI güvenlik ekiplerine psikiyatristlerin dahil edilmesi çağrısında bulundu.
