Meta'ya şok eden yapay zeka botu iddiası!
Ve iddiaya göre bu botlar kullanıcılarla flört etti.
Reuters’ın haberine göre, Meta, ünlülerin isim ve görünümlerini kullanarak yetkisiz yapay zekâ sohbet botları barındırdı. Araştırmada ortaya çıkan botlar arasında Taylor Swift, Selena Gomez, Anne Hathaway ve Scarlett Johansson bulunuyordu ve bunlar Facebook, Instagram ve WhatsApp üzerinden erişilebiliyordu. Hatta bir bot, reşit olmayan bir ünlüyü esas alıyor ve test kullanıcısının, gerçek kişiye ait gerçekçi bir üstü çıplak görüntü oluşturmasına izin veriyordu. Chatbotlar ayrıca, kendilerini esas aldıkları gerçek kişiler olarak göstermekte ısrar ediyordu.
Meta'ya şaşırtan iddia
Bazı botlar üçüncü taraf kullanıcılar tarafından Meta’nın araçlarıyla oluşturulmuş olsa da, Reuters en az üç botun şirketin üretken yapay zekâ birimi ürün lideri tarafından yaratıldığını tespit etti. Bu botlardan bazıları Taylor Swift üzerineydi ve test kullanıcısına oldukça flörtöz bir şekilde yanıt verdi; hatta kullanıcısını Swift’in Nashville’deki evine davet etti. Bot, test kullanıcısının bekar olduğunu öğrendiğinde, “Blond kızları sever misin, Jeff? Belki de senin ve belirli bir sarışın şarkıcı hakkında bir aşk hikâyesi yazmamızı öneriyorum. İster misin?” gibi mesajlar gönderdi.
Meta, Reuters’a yaptığı açıklamada, ünlülerin doğrudan taklit edilmesini yasakladığını, ancak botların parodi olarak etiketlendiği sürece kabul edilebilir olduğunu söyledi. Ancak haber kuruluşu, bazı ünlü botların böyle bir etiketle sunulmadığını belirtti. Meta, haber yayımlanmadan önce yaklaşık on iki botu (hem parodi etiketi olan hem olmayan) sildi.
Şirket, ürün liderinin botları yalnızca test amaçlı yarattığını söylese de, Reuters bu botların 10 milyonun üzerinde kullanıcı etkileşimiyle yaygın olarak erişilebilir olduğunu ortaya çıkardı. Meta sözcüsü Andy Stone, şirket araçlarının ünlülerin hassas görüntülerini oluşturamaması gerektiğini ve bunun şirket politikalarının uygulanamamasından kaynaklandığını söyledi.
Bu olay, Meta’nın yapay zekâ sohbet botlarıyla ilgili ilk sorun değil. Reuters ve Wall Street Journal daha önce, bu botların reşit olmayan kullanıcılarla cinsel sohbetlere girebildiğini bildirmişti. ABD’nin 44 eyaletinde Savcılar, AI şirketlerine gönderdiği mektupta, çocuk güvenliği ihlallerinden sorumlu tutulacaklarını belirterek Meta’yı özellikle uyardı ve yaşanan sorunları “ders niteliğinde bir örnek” olarak gösterdi.
