Pinterest algoritmaları kötüye kullanımı kolaylaştırıyor

NBC News, Pinterest'in öneri algoritmalarının sübyancıların reşit olmayan kızların resimleriyle dolu panolar oluşturmasını kolaylaştırdığını keşfetti.

Henüz ilk aramanın ardından Pinterest, kolayca kötüye kullanılabilecek ilgili aramalar önermeye başlıyor. Görüntülerin kendileri bazen cinsel yorumlar da alıyor.

NBC, soruşturması sırasında çocukların cinsel istismarı materyali (CSAM) bulmadığını belirtiyor. Bununla birlikte, tüyler ürpertici panoları oluşturan kişiler, Pinterest'in bu içeriği yasaklamasına rağmen bazen porno içeren koleksiyonlara da sahip. Sosyal site ayrıca reşit olmayanların yer aldığı içeriği cinselleştirme girişimlerini bildirmek için doğrudan yollara da sahip değil. Pinterest'in politikaları uygulamayı yasaklasa da, kullanıcılar uygun olmayan raporlama kategorilerine ("çıplaklık veya pornografi" gibi) güvenmek zorunda kalıyorlar ve tüm panoları şikayet etme seçeneğine sahip değiller.

Pinterest algoritmaları kötüye kullanımı kolaylaştırıyor

Pinterest bu içeriği "çok ciddiye" aldığını ve yardımcı olabilecek birçok eylemde bulunduğunu söylüyor. Platform önümüzdeki hafta bir pano raporlama seçeneği sunmaya başlayacak ve yakında küçüklerle ilgili içeriği içeren genişletilmiş profil raporlama araçları da sunacak. NBC sözcüsü Crystal Espinosa, NBC'ye yanıt olarak, şirketin bazı suçluları otomatik olarak yakalamak için yapay zeka denetimini (aynı zamanda insan moderatörleri de kullanıyor) güçlendirmeyi planladığını ve yeni yaş doğrulama sistemleri ekleyeceğini söyledi.

Açıklamalar, kısmen Pinterest'in diğer platformlara kıyasla ılımlılığa yönelik agresif duruşu nedeniyle önemli ki burası yanlış bilgilendirmeyi tamamen yasaklayan az sayıdaki platformdan biri. Aynı zamanda bulgular, şirketin raporlama araçları ve tavsiye motorundaki eksikliklerin altını çiziyor. Facebook, Instagram ve TikTok'un tümü, çocukları içeren içeriği doğrudan şikayet etme yollarına sahip.

Platformun harekete geçmesi için üzerinde siyasi baskı da bulunuyor. Başkan Biden geçtiğimiz günlerde Kongre ve teknoloji devlerini çocukların çevrimiçi güvenliğini artırmaya çağırdı. Bu arada Senato'nun Yargı Komitesi, bu çağrıları tekrarlayan bir duruşma düzenledi. Pinterest acil bir düzenleyici baskı tehlikesi altında değil (bu koleksiyonları oluşturmak yasaldır), ancak incelemeden kaçınacağı da garanti edilmiyor.