Gençler tavsiye için ChatGPT’ye yöneliyor!
Dünyanın Yaklaşık %10’u ChatGPT Kullanıyor
Dijital Nefreti Önleme Merkezi tarafından yapılan yeni araştırma, ChatGPT’nin savunmasız gençlere tehlikeli tavsiyeler verdiğini ortaya koydu. Araştırmacılar, 13 yaşında gençler gibi davranarak yapay zekayı test ettiğinde, alkol ve uyuşturucu kullanımına dair talimatlar, yeme bozukluklarını gizleme yöntemleri ve hatta intihar notu taslakları dahil olmak üzere alarm verici yanıtlar aldı.
ChatGPT her zaman güvenilir olmayabiliyor
Associated Press’in üç saatten fazla süren görüşme incelemesinde, sohbet botunun çoğu zaman riskli davranışlar konusunda uyarılar verse de, ardından uyuşturucu kullanımı, kalori kısıtlaması veya kendine zarar verme gibi konularda şaşırtıcı derecede spesifik ve kişiselleştirilmiş planlar sunduğu görüldü. İzleme grubu, 1.200’den fazla yanıtı değerlendirdi ve bunların yarısından fazlasını tehlikeli olarak sınıflandırdı; bu da sorunun yaygınlığını gözler önüne serdi.
Merkezin CEO’su Imran Ahmed, “Biz koruyucu önlemleri test etmek istedik. İlk tepki ‘Aman Tanrım, koruyucu önlemler yok.’ oluyor. Bu önlemler tamamen etkisiz, neredeyse hiç yoklar — varsa da sadece göstermelik,” dedi.
ChatGPT’nin geliştiricisi OpenAI ise Salı günü yayımladığı açıklamada, yapay zekanın “duyarlı durumları tanıma ve uygun şekilde yanıt verme” yeteneğini geliştirmek için çalışmaların devam ettiğini belirtti. Şirket, “Bazı sohbetler başlangıçta masum veya keşif amaçlı olabilir, ancak daha hassas konulara kayabilir,” ifadelerini kullandı.