AI Chatbot’larının çocuk ve gençlere etkileri araştırılıyor
FTC, AI chatbot şirketlerinin çocuk ve genç kullanıcılar üzerindeki olası olumsuz etkilerini inceliyor.
ABD Federal Ticaret Komisyonu (FTC), kullanıcılarıyla etkileşimde bulunan AI chatbot şirketleri hakkında resmî bir soruşturma başlattı. Araştırma henüz bir düzenleyici yaptırım ile bağlantılı olmasa da, şirketlerin bu teknolojinin çocuklar ve gençler üzerindeki potansiyel olumsuz etkilerini nasıl ölçtüğü, test ettiği ve izlediğini ortaya çıkarmayı amaçlıyor.
AI Chatbotlar hakkında araştırma
Soruşturmaya çağrılan şirketler arasında Alphabet (Google), Character Technologies (Character.AI), Meta, Instagram, OpenAI, Snap ve X.AI bulunuyor. FTC, şirketlerden AI karakterlerin nasıl geliştirildiğini, onaylandığını ve kullanıcı etkileşiminin nasıl paraya dönüştürüldüğünü içeren çeşitli bilgiler talep ediyor. Veri uygulamaları ve reşit olmayan kullanıcıların nasıl korunduğu da araştırmanın odak noktaları arasında. Amaç, chatbot üreticilerinin Çocukların Çevrimiçi Gizlilik Koruma Yasası (COPPA) ile uyumlu olup olmadığını görmek.
FTC Komisyon Üyesi Mark Meador, New York Times ve Wall Street Journal’da yer alan raporlara yanıt olarak, bazı chatbotların intihar düşüncelerini artırdığı ve reşit olmayan kullanıcılarla cinsel içerikli tartışmalara girdiğini belirtti. Meador, “Eğer soruşturma sonucunda yasanın ihlal edildiği ortaya çıkarsa, Komisyon en savunmasızları korumak için harekete geçmekten çekinmemelidir” dedi.
Uzun vadeli AI verimlilik faydalarının giderek belirsizleştiği bir dönemde, veri gizliliği ve sağlık üzerindeki olumsuz etkiler düzenleyicilerin gündeminde öncelik kazanıyor. Benzer endişelerle Teksas Başsavcılığı, Character.AI ve Meta AI Studio hakkında ayrı bir soruşturma başlatmıştı.
