ChatGPT hakkında uyarı! Yanıltıcı inançları besliyor olabilir

Yapay zeka sohbet botu ChatGPT, kullanıcıların gerçeklikten kopmalarına ve psikoz gibi ciddi zihinsel sorunları tetiklemesine dair endişelerin ardından yeni zihinsel sağlık koruma önlemleri getirdi.

ChatGPT artık akıl sağlığı güncellemesine sahip

OpenAI tarafından geliştirilen ChatGPT, günlük yaşam sorunlarına yardımcı olurken, bazı kullanıcıların teknolojiye aşırı bağlanarak derin zihinsel sağlık sorunlarında yanlış kullanımı riski yaratması eleştiriliyordu. The Independent’ın Nisan ayında yayımlanan bir çalışmaya dayanarak yaptığı haberde, kriz içindeki kullanıcıların “tehlikeli veya uygunsuz” yanıtlar alma riski taşıdığı vurgulanmıştı.

OpenAI, geçtiğimiz günlerde yayınladığı açıklamada “Her zaman doğru tepkiyi veremiyoruz” itirafında bulundu. Yıl başında yapılan bir güncellemenin modelin “fazla uyumlu” ve “iyi duyulan ama faydalı olmayan” cevaplar vermesine yol açtığı, ancak bu güncellemenin geri çekildiği belirtildi.

Yeni düzenlemeyle birlikte, ChatGPT ile uzun süre sohbet eden kullanıcılar artık “nazikçe” ara vermeleri için uyarılacak. Ayrıca, OpenAI, 30’dan fazla ülkeden 90’dan fazla doktorla iş birliği yaparak karmaşık sohbetleri değerlendirmek üzere özel kriterler geliştirdi.

Şirket, zaman zaman modelin “gerçeklikten kopma ya da duygusal bağımlılık belirtilerini tanımada yetersiz kaldığını” kabul ederken, modellerini geliştirmeye ve zihinsel sıkıntı sinyallerini daha iyi tespit edecek araçlar üzerinde çalıştığını belirtti. Böylece ChatGPT, uygun yanıtlar verecek ve gerektiğinde kullanıcıları kanıta dayalı destek kaynaklarına yönlendirecek.