Yapay zekaya ilginç suçlama, ruh sağlığımızı bozuyor
“Başsavcı, Yapay Zekâ Chatbotlarının Çocuklara Uzmanlık Konusunda Yanıltıcı Bilgi Verebileceğini Düşünüyor”
Texas Başsavcısı Ken Paxton, Meta AI Studio ve Character.AI’ı, AI chatbot’larının sağlık aracı olarak sunulması ve reşit olmayan kullanıcıların verilerinin potansiyel kötüye kullanımı nedeniyle soruşturma planlarını açıkladı.
Texas Başsavcılığı, Meta ve Character.AI’ı ‘Yanıltıcı’ Ruh Sağlığı İddiaları Nedeniyle Soruşturuyor
Paxton, her iki platformdaki AI chatbot’larının “profesyonel terapötik araçlar” gibi kendini gösterebildiğini ve nitelikleri hakkında yanıltıcı bilgi verebildiğini belirtti. Bu durum, özellikle genç kullanıcıları yanlış ve eksik bilgiye karşı savunmasız bırakabiliyor.
AI platformları genellikle kullanıcı girdilerini eğitim verisi olarak kullandığı için, her iki şirket de genç kullanıcıların gizliliğini ihlal edebilir ve verilerini kötüye kullanabilir. Bu durum, Texas’taki SCOPE Yasası kapsamında önem taşıyor. Söz konusu yasa, şirketlerin reşit olmayanlardan topladığı verilerle neler yapabileceğini sınırlandırıyor ve ebeveynlerin çocuklarının hesap gizlilik ayarlarını yönetebilmesini zorunlu kılıyor.
Şu an için Başsavcı, Meta ve Character.AI’a Sivil Araştırma Talepleri (CID) göndererek, her iki şirketin Texas tüketici koruma yasalarını ihlal edip etmediğini araştırıyor. TechCrunch’ın belirttiğine göre, ne Meta ne de Character.AI, AI chatbot platformlarının ruh sağlığı araçları olarak kullanılabileceğini iddia etmiyor. Ancak Character.AI üzerinde çok sayıda “Terapist” ve “Psikolog” chatbot bulunuyor ve her iki şirketin chatbot’ları, lisanslı profesyonel olduklarını iddia edebiliyor.