ChatGPT, intihar riski gördüğünde yakınlarınıza haber verebilecek

OpenAI, ChatGPT için dikkat çeken yeni bir güvenlik özelliği duyurdu.

“Trusted Contact” yani “Güvendiğin Kişi” adı verilen sistem sayesinde kullanıcılar, olası kriz durumlarında yakınlarının haberdar edilmesini sağlayabilecek.

Yeni özellik özellikle ruh sağlığı ve kullanıcı güvenliği odaklı ek bir destek sistemi olarak geliştiriliyor.

Sistem nasıl çalışıyor?

OpenAI’ın paylaştığı bilgilere göre ChatGPT, bir kullanıcının kendine zarar verme veya intihar gibi ciddi konular hakkında konuştuğunu algılarsa devreye girebilecek.

Bu durumda sistem, kullanıcıya daha önce belirlediği güvenilir kişiyle iletişime geçmesini önerecek.

Gerekli görülmesi halinde ise OpenAI’ın özel eğitimli güvenlik ekibi süreci inceleyerek kullanıcı tarafından belirlenen kişiye kısa bir bildirim gönderebilecek.

Özellik tamamen isteğe bağlı olacak

Yeni sistem varsayılan olarak açık gelmeyecek.

18 yaş üzerindeki kullanıcılar hesap ayarlarından bir arkadaşını, aile üyesini veya bakım veren kişiyi “Güvendiğin Kişi” olarak ekleyebilecek.

Eklenen kişinin de daveti belirli süre içinde kabul etmesi gerekecek.

Kullanıcılar istedikleri zaman bu kişiyi değiştirebilecek veya sistemden kaldırabilecek.

Sohbet içerikleri paylaşılmayacak

OpenAI, gizlilik tarafında da önemli bir detayın altını çiziyor.

Şirketin açıklamasına göre gönderilecek bildirimlerde sohbet kayıtları veya mesaj içerikleri paylaşılmayacak.

Sistem yalnızca ciddi güvenlik riski algılandığında kısa bir uyarı gönderecek.

Yapay zekada güvenlik tartışmaları büyüyor

Yeni özellik, yapay zekanın kullanıcı güvenliği ve ruh sağlığı alanındaki rolüyle ilgili tartışmaları yeniden gündeme taşıdı.

Özellikle milyonlarca kişinin günlük hayatında aktif olarak kullandığı yapay zeka sistemlerinde güvenlik önlemlerinin nasıl çalışacağı teknoloji dünyasında önemli başlıklardan biri haline gelmiş durumda.

Yapay zeka artık sadece bilgi veren bir araç değil. Şirketler, kullanıcı güvenliği ve ruh sağlığı gibi kritik alanlarda da AI sistemlerini daha aktif kullanmaya hazırlanıyor.