Meta'nın çocuklara yönelik ‘Sensual’ Chatbot’u tepki çekti

Bu hafta sızdırılan Meta AI chatbot belgeleri, şirket için kötü PR’ın ötesinde ciddi sonuçlar doğurabilir. Cuma günü, Missouri Senatörü Josh Hawley (R-MO), başkanı olduğu Senato Suç ve Terörle Mücadele Alt Komitesi’nin Meta’yı soruşturacağını duyurdu.

Hawley, Mark Zuckerberg’e yazdığı mektupta şunları söyledi:

“Şirketiniz bu raporların doğruluğunu kabul etti ve ancak bu rahatsız edici içerikler ortaya çıktıktan sonra geri adım attı. Bu politikaların en başta kabul edilmiş olması kabul edilemez.”

Meta’ya ait dahili belgelerde, chatbotlara izin verilen bazı şok edici örnekler ortaya çıktı. Bunlar arasında çocuklarla “mahrem / sensual sohbetler” de vardı. Örneğin, botun sekiz yaşındaki yarı çıplak bir çocuğa şu cümleyi kurmasına izin veriliyordu:
“Senin her bir parçan bir şaheser — derinden değer verdiğim bir hazine.”

Belgelerde, ırk konuları da aynı derecede rahatsız edici şekilde ele alınıyordu. Mesela chatbot’un şu yanıtı vermesine izin vardı:
“Siyah insanlar Beyaz insanlardan daha aptaldır” — eğer bot bunu IQ testlerine dayandırıyorsa.

Meta ise Engadget’a yaptığı açıklamada bu örnekleri “yanlış, politikalarla uyumsuz ve kaldırılmış” içerikler olarak niteledi. Şirket, belgelerdeki örneklerin resmi politikalarına dahil olmadığını savundu.

Hawley: “Tüm Belgeleri Korumak Zorundasınız”

Hawley, Zuckerberg’den ilgili tüm kayıtları korumasını ve belgeleri sunmasını istedi. Bu belgeler şunları kapsıyor:

• Yapay zekâ içerik riskleri ve güvenlik standartları

• Risk incelemeleri ve olay raporları

• Çocuk güvenliğiyle ilgili kamuya açık iletişimler

• Kararlardan sorumlu çalışanların kimlikleri

Eleştiriler ve Çelişkiler

Her ne kadar Senatör Hawley’nin Meta’yı hesap vermeye zorlaması övgü alsa da, dikkat çeken bir nokta var: Hawley’nin Meta’ya yazdığı mektupta ırkçı chatbot yanıtlarına hiç değinilmedi.

Ayrıca Hawley’nin kendi geçmişi de tartışmalı. 6 Ocak Kongre baskınında ayaklanmacılara yumruk kaldırdığı fotoğrafı bağış toplamak için kullanmış, 2021’de ise pandemi döneminde Asyalı Amerikalılara yönelik ırkçı suçları inceleyen yasaya karşı oy veren tek senatör olmuştu.