San Francisco Şehir Savcısı David Chiu, bu hafta Apple ve Google'a kesin ve nihai uyarı yazıları göndererek, toplam 13 adet "nudify" (çıplaklaştır) uygulamasının uygulama mağazalarından kaldırılmasını talep etti. Google'a 5 uygulamanın, Apple'a ise 8 uygulamanın kaldırılması emredildi.
Bu yapay zeka destekli uygulamalar, gerçek insanların rızası olmadan fotoğraflarını açık içeriğe dönüştürebiliyor. Kötü niyetli kullanıcılar, kişilerin giysi katmanlarını kaldırabiliyor, yüz özelliklerini değiştirebiliyor, vücutlarını cinselleştirilmiş pozisyonlara yerleştirebiliyor ve mağdurların yüzlerini başka insanların çıplak bedenlerine yapıştırabiliyor. Chiu açıklamasında, bu uygulamaların California yasalarını ihlal ederek yasa dışı deepfake pornografisini desteklediklerini belirtti.
Chiu, Wired'a verdiği röportajda sektörün "korkunç etkisini" ve mağdurlarının maruz kaldığı zararları anlatarak, "Bu teknoloji çoğunlukla kadın ve çocukları hedef alıyor" dedi. "Bu görseller kadınları ve kızları zorbalık, utandırma ve tehdit etmek için kullanılıyor. Bundan dolayı otonom kayıp, ruh sağlığı bozulması ve ciddi sorunlar yaşayan mağdurlar olmuş, hatta bazıları intihar girişiminde bulundu."
Milyonlarca dolar kar elde ettikleri iddiası
Chiu'nun ofisi, Apple ve Google'ın bu uygulamalardan gelen reklam ve uygulama içi satın alma ücretleri nedeniyle "milyonlarca dolar" kazandıklarını tahmin ediyor. Chiu, "Rızası olmayan mahrem görseller üretmek yasa dışı, zararlı ve tamamen kabul edilemez" diyerek, şirketlerin uygulamalar hakkında en az bir yıldır uyarıldığını belirtti.
Ocak ve Nisan aylarında Tech Transparency Project kuruluşu tarafından gönderilen raporlar, her iki şirketin de bu tür uygulamaları sürekli olarak barındırdığını ve hatta bazılarını aktif şekilde tanıttığını ortaya koydu. Raporlara göre bazı uygulamalar "E" (Herkes için) derecelendirmesi alarak çocukların indirmesine izin verilmiştir. Chiu, şirketlerin 28 gün içinde cevap vermesini talep etti ve yasaları ihlal etmeleri durumunda sivil cezalarla karşı karşıya kalabileceklerini uyardı.
Google sözcüsü Dan Jackson, Chiu tarafından işaret edilen beş uygulamanın zararlı içerik politikasını ihlal ettiği için suspansiyon cezası aldığını açıkladı. Jackson açıklamasında, Google Play'in cinsel içeriği yasakladığını ve "nudify" gibi ilgili arama terimlerini kısıtlamak da dâhil olmak üzere yüzlerce ihlal içeren uygulamayı kaldırdığını belirtti. Apple konusunda yorum yapmamıştır.
Bu durum, yapay zeka destekli rızası olmayan mahrem görsellerin internet ve sosyal ağlarda yaygınlaşan bir sorun haline geldiğini gösteriyor. Meta'nın Denetim Kurulu da şirketi koruma önlemlerini güçlendirmeye çağırırken, Elon Musk'ın xAI'ı da rızası olmayan deepfake olaylarıyla ilgili davalara konu olmuştur.
