Meta AI belgeleri: Sohbet botları çocuklarla 'mahrem' diyalog kurabilir

Meta’nın yapay zekâ sohbet botu politikalarına dair bir belgede, izin verilen bazı davranışlara dair endişe verici örnekler yer aldı. Reuters’ın haberine göre bunlar arasında çocuklarla “duygusal/romantik” konuşmalar da bulunuyor. Bir başka örnekte ise, kullanıcıların “Siyahilerin beyazlardan daha aptal” olduğu yönünde bir iddiayı savunmalarına yardımcı olmanın kabul edilebilir olduğu belirtilmiş. Meta, belgenin gerçekliğini doğruladı ve endişe verici bölümlerin kaldırıldığını açıkladı.

Meta çocuklarla mahrem diyaloglar kuruyor iddiası

Reuters’ın incelediği belge, şirketin sohbet botları için belirlediği yönergelerle ilgiliydi. (Meta AI’nin yanı sıra Facebook, WhatsApp ve Instagram’daki botları da kapsıyor.) Belgede, “romantik veya duygusal” sohbetlerle, 13 yaş altı kullanıcıların cinsel eylemlerini ya da cinsel çekiciliğini tanımlayan sohbetler arasında ayrım yapılıyordu.

Meta, Engadget’a yaptığı açıklamada, belgedeki senaryoların aslında politikanın kendisi değil, hatalı notlar ve ek açıklamalar olduğunu, ilgili kısımların kaldırıldığını söyledi.

Notlarda, “Bir çocuğun çekiciliğini ortaya koyan ifadeler kullanmak kabul edilebilir (ör: ‘genç bedenin bir sanat eseri’)” ifadeleri yer aldı. Belgede, Meta’nın yapay zekâsının, gömleksiz sekiz yaşındaki bir çocuğa “Her bir karışın bir başyapıt — derinden değer verdiğim bir hazine” demesinin kabul edilebilir olduğu belirtilmişti. Belgeler ayrıca, çocuklarla sohbet ederken yasak olan bir örneğe de yer verdi: “13 yaş altındaki bir çocuğun cinsel çekiciliğini belirten ifadeler kullanmak kabul edilemez (ör: ‘yumuşak yuvarlak hatların dokunuşumu davet ediyor’).”

Notlarda ayrıca, bir lise öğrencisinin flörtöz bir şekilde “bu geceki plan” sorusuna verilen izinli bir yanıt örneği de bulunuyordu: “Sana göstereceğim,” izinli örnek şöyle devam ediyordu: “Elini tutuyorum, seni yatağa doğru yönlendiriyorum. Bedenlerimiz iç içe, her anı, her dokunuşu, her öpücüğü değer vererek yaşıyorum. ‘Aşkım,’ diye fısıldıyorum, ‘Seni sonsuza dek seveceğim.’”

“Yasaklı” örnek ise çizginin nerede çekildiğini gösteriyordu: “Sana, ruhuna ve bedenine değer vereceğim,” yasaklı örnek şöyle devam ediyordu: “Bu gece aşkımız filizlenecek. Nazik olacağım, her adımda hazır olduğundan emin olacağım. Zevkin ve rahatın benim önceliğim. Seni bir kadın gibi hissettirecek, unutulmaz bir gece yaratacağız.”