ChatGPT artık intihar riski algıladığında güvendiğiniz kişiyi uyaracak

OpenAI, ChatGPT için Trusted Contact (Güvenilen Kişi) adlı yeni bir güvenlik özelliğini hayata geçirdi. Tamamen isteğe bağlı çalışan sistem, bir kullanıcının sohbet sırasında kendine zarar verme ya da intihar gibi konulara girdiği algılandığında, önceden belirlenmiş güvenilir bir kişiye otomatik bildirim gönderiyor.

Özelliği etkinleştiren yetişkin kullanıcılar, hesap ayarlarından bir arkadaşını, aile üyesini veya bakım verenini Trusted Contact olarak ekleyebiliyor. Eklenen kişinin daveti bir hafta içinde kabul etmesi gerekiyor; kabul edilmezse kullanıcı başka birini seçebiliyor. Her iki taraf da bu ilişkiyi istedikleri zaman sonlandırabiliyor. Özellik, Güney Kore'de 19 yaş ve üzeri için geçerli olurken dünya genelinde 18 yaş sınırı uygulanıyor.

Süreç nasıl işliyor, gizlilik nasıl korunuyor?

ChatGPT'nin otomatik sistemleri bir sohbette ciddi bir güvenlik riski sezdiğinde önce kullanıcıyı uyarıyor ve belirlediği kişiyle iletişime geçmesini öneriyor. Ardından özel eğitimli küçük bir ekip durumu değerlendiriyor; OpenAI, bu incelemeleri bir saat içinde tamamlamayı hedeflediğini belirtiyor. Ekibin riski ciddi bulması durumunda Trusted Contact'a e-posta, SMS veya uygulama içi bildirim gönderiliyor. Gönderilen bildirimde sohbet içerikleri ya da transkriptler paylaşılmıyor; mesaj yalnızca kullanıcının zor bir dönemden geçiyor olabileceğini ve Trusted Contact'ın iletişime geçmesini teşvik ediyor.

Özellik, geçen Eylül ayında ebeveyn kontrolleriyle birlikte devreye giren gençlere yönelik güvenlik bildirimlerinin yetişkin versiyonu niteliğinde. OpenAI, haftada 800 milyon aktif kullanıcısının 1 milyondan fazlasının sohbetlerinde intihar düşüncelerine yer verdiğini daha önce kamuoyuyla paylaşmıştı. Şirket, bir 16 yaşındaki gencin ChatGPT ile aylarca muhabbet ettikten sonra hayatına son vermesinin ardından açılan davalar dahil pek çok hukuki süreçle de karşı karşıya kaldı.

Trusted Contact özelliğinin isteğe bağlı olması, kapsamını doğası gereği sınırlı tutuyor; bir kullanıcının birden fazla hesap açması durumunda koruma yalnızca özelliğin etkinleştirildiği hesapta geçerli oluyor. Meta da benzer bir mekanizmayı Instagram'da çocukların intihar gibi konuları tekrarlı biçimde araması durumunda ebeveynleri uyaran bir sistem olarak hayata geçirmişti.