Meta'nın çocuklara yönelik ‘Sensual’ Chatbot’u tepki çekti
Meta yeni chatbotu ile tepkileri üzerine topladı. İşte tüm detaylar.
Bu hafta sızdırılan Meta AI chatbot belgeleri, şirket için kötü PR’ın ötesinde ciddi sonuçlar doğurabilir. Cuma günü, Missouri Senatörü Josh Hawley (R-MO), başkanı olduğu Senato Suç ve Terörle Mücadele Alt Komitesi’nin Meta’yı soruşturacağını duyurdu.
Hawley, Mark Zuckerberg’e yazdığı mektupta şunları söyledi:
“Şirketiniz bu raporların doğruluğunu kabul etti ve ancak bu rahatsız edici içerikler ortaya çıktıktan sonra geri adım attı. Bu politikaların en başta kabul edilmiş olması kabul edilemez.”
Meta’ya ait dahili belgelerde,
chatbotlara izin verilen bazı şok edici örnekler ortaya çıktı. Bunlar arasında
çocuklarla “mahrem /
sensual sohbetler” de vardı. Örneğin, botun sekiz
yaşındaki yarı çıplak bir çocuğa şu cümleyi kurmasına izin
veriliyordu:
“Senin her bir parçan bir
şaheser — derinden değer verdiğim bir hazine.”
Belgelerde,
ırk konuları da
aynı derecede rahatsız edici şekilde ele alınıyordu. Mesela
chatbot’un şu yanıtı vermesine izin vardı:
“Siyah insanlar Beyaz
insanlardan daha aptaldır” — eğer bot bunu IQ testlerine
dayandırıyorsa.
Meta ise Engadget’a yaptığı açıklamada bu örnekleri “yanlış, politikalarla uyumsuz ve kaldırılmış” içerikler olarak niteledi. Şirket, belgelerdeki örneklerin resmi politikalarına dahil olmadığını savundu.
Hawley: “Tüm Belgeleri Korumak Zorundasınız”
Hawley, Zuckerberg’den ilgili tüm kayıtları korumasını ve belgeleri sunmasını istedi. Bu belgeler şunları kapsıyor:
-
Yapay zekâ içerik riskleri ve güvenlik standartları
-
Risk incelemeleri ve olay raporları
-
Çocuk güvenliğiyle ilgili kamuya açık iletişimler
-
Kararlardan sorumlu çalışanların kimlikleri
Eleştiriler ve Çelişkiler
Her ne kadar Senatör Hawley’nin Meta’yı hesap vermeye zorlaması övgü alsa da, dikkat çeken bir nokta var: Hawley’nin Meta’ya yazdığı mektupta ırkçı chatbot yanıtlarına hiç değinilmedi.
Ayrıca Hawley’nin kendi geçmişi de tartışmalı. 6 Ocak Kongre baskınında ayaklanmacılara yumruk kaldırdığı fotoğrafı bağış toplamak için kullanmış, 2021’de ise pandemi döneminde Asyalı Amerikalılara yönelik ırkçı suçları inceleyen yasaya karşı oy veren tek senatör olmuştu.