Google, yapay zekasını kullanan bir siber suç operasyonunu ortadan kaldırmak için dava açtığını duyurdu. Outsider Enterprise adlı Çin'li ağ, Gemini AI'ı kullanarak Google, YouTube ve ABD Posta Servisi gibi hükümet kurumlarını taklit eden sahte web siteleri oluşturmuş ve milyonlar doğrultusunda zarar veren dolandırıcılık kampanyası yürütmüştür. Google, FBI ve AT&T, T-Mobile, Verizon gibi mobil operatörlerle koordineli bir şekilde çalışarak bu operasyonu sökmek için harekete geçmiştir.
Google'ın genel müşaviri DeLaine Prado, bu koordineli dava ve müdahalenin operasyonun etki alanının ne kadar geniş olduğunu gösterdiğini belirtti. Outsider Enterprise, Telegram kanalları üzerinden "dolandırıcılık hizmeti" sunmuş ve teknik bilgisi olmayan bireylerin Gemini'yi kullanarak sahte siteler ve metin kampanyaları kurmasına yardımcı olmak için yaklaşık 300 dolandırıcılık şablonu sağlamıştır.
Dolandırıcılık Operasyonunun Ölçeği
Operasyonun boyutları şaşırtıcıdır: ağ 9.000 sahte web sitesi ve 1 milyon hileli URL oluşturmuş, 2,5 milyon metin mesajı Android kullanıcılarına gönderilmiştir. Bunlardan 55.000'i sadece Mayıs ayının son iki haftasında gönderilmiş ve dakikada iki şikayete karşılık gelmiştir. Google, operasyonun yüzbinlerce kurbanı etkilediğini ve zarara uğradıklarını, kayıpların milyonlar düzeyinde olduğunu belirtmiştir.
Dolandırıcılar metin mesajlarında hesap sorunları veya kargo teslimatı sorunları hakkında iddialar yaptı. Kullanıcılar bağlantılara tıkladığında, Gemini tarafından tasarlanan meşru görünen sahte web siteleri üzerine yönlendirildi. Bu sitelerde suçlular kişisel veriler ve banka bilgilerini çalmaya çalıştı.
Yapay Zekaya Karşı Yapay Zeka Savunması
Google, Gemini'nin yanı sıra dolandırıcılıkla mücadelede yapay zeka araçları kullandığını belirtti. Google Messages'teki cihaz üzerinde dolandırıcılık tespiti özelliği ayda 10 milyar dolandırıcılık mesajını engellemeye yardımcı olmaktadır. Mobil operatörlerle iş birliği içinde, maliyetli metin mesajlarının çoğu engellendi.
Google, bu gibi yapay zeka destekli saldırıların geleceğini önlemek için en az yedi partiler arası yasanın güncellenmesi için lobi yapıyor. Bunlar arasında "National Strategy for Combatting Scams Act" ve "AI Plan Act" yer almaktadır. Kongre üyesi Brian Fitzpatrick (R-Pennsylvania) "Bu spam değildir, telefonlarımız aracılığıyla hareket eden organize transnasyonal suçtur ve tehdit kadar koordineli ve agresif bir müdahale gerektirir" dedi. FBI Yardımcı Direktörü Brett Leatherman ise "Suçlular giderek dolandırıcılığı daha inandırıcı ve algılanması zor hale getirmek için yapay zekayı kullanıyor" ifadesini kullandı.