Reddit’in yapay zekası tehlikeli tıbbi tavsiyeleri ile tepki topladı!
Reddit Answers, kullanıcıya yüksek doz kratom önerince moderatörler tehlikeli tavsiyelere karşı isyan etti.
Reddit’in yapay zekâ destekli aracı Reddit Answers, kullanıcıya tehlikeli tıbbi tavsiyeler vermesiyle gündeme geldi. Bir moderatör, aracın kronik ağrısı olan kişilere mevcut ilaçlarını bırakıp yüksek dozda kratom almalarını önerdiğini fark etti. Kratom, bazı eyaletlerde yasadışı ve denetimsiz bir madde olarak biliniyor.
Reddit’in yapay zekası tehlikeli tıbbi tavsiyeleri ile tepki topladı!
Aynı moderatör, yapay zekâya diğer sağlık konularında da sorular yönelttiğinde, yenidoğan ateşi için yanlış yönlendirmeler ve hatta kronik ağrı tedavisinde eroin kullanılabileceği gibi son derece tehlikeli öneriler aldığını belirtti.
Sağlık odaklı subreddit yöneticileri, yapay zekânın verdiği yanlış veya zararlı bilgileri kapatma veya gizleme seçeneğinin bulunmadığını söyleyerek duruma tepki gösterdi.
Reddit sözcüsü, 404 Media’ya yaptığı açıklamada sistemin güncellendiğini ve “hassas konularla ilgili yanıtların artık gönderi sayfasında görüntülenmeyeceğini” belirtti. Ancak Reddit, yapay zekânın hangi konularda devre dışı kalacağını açıklamadı.
Platform, özel, karantinaya alınmış veya NSFW topluluklardaki içerikleri hariç tutsa da, Reddit Answers’ın hâlâ tıbbi bilgi sunmak için yeterince güvenli olmadığı eleştirileri artıyor.
