AI tarayıcılar dolandırıcılar için en büyük fırsat mı?
Yeni bir rapor, Perplexity’nin etkileşimli AI’sının açık phishing sitelerine kandığını ve zararlı komutları çalıştırdığını ortaya koyuyor.
Bu yıl AI destekli dolandırıcılık yöntemleri hakkında çok şey duyduk; Facebook’taki ünlü deepfake’lerinden, hackerların hükümet yetkilisi gibi davranmasına kadar. Ancak yeni bir rapor, AI’nın insan kullanıcıların kolaylıkla fark edebileceği dolandırıcılıkları bile fark edemediğini ortaya koyuyor.
AI tarayıcılar ne açıdan riskli?
Guardio adlı bir siber güvenlik girişimi tarafından hazırlanan ve “Scamlexity” adı verilen rapor, dolandırıcılıkları gerçek zamanlı yakalamaya yönelik bir tarayıcı eklentisi geliştiren şirketin bulgularını içeriyor. Rapor, interneti sizin için tarayan ve sonuçları geri getiren “etkileşimli (agentic) AI” tarayıcıları inceliyor. Bu tarayıcılar, kullanıcılar rahatça otururken web sitesi oluşturmak veya seyahat planlamak gibi karmaşık görevleri yerine getirebildiklerini iddia ediyor.
Ancak güvenlik açısından büyük bir sorun var: İnsanlar dolandırıcılığı gerçeklikten ayırmakta her zaman iyi olmasa da, AI bu konuda çok daha başarısız. E-postaları özetlemek veya çevrimiçi alışveriş yapmak gibi basit görünen görevler, AI için hataya açık birçok fırsat içeriyor. Sağduyu eksikliği nedeniyle, etkileşimli AI açık tuzaklara kolaylıkla düşebiliyor.
Araştırmacılar, bu varsayımı Perplexity’nin Comet AI tarayıcısını kullanarak test etti; şu anda yaygın olarak kullanılabilen tek etkileşimli tarayıcı. Farklı bir AI kullanarak sahte bir Walmart sitesi oluşturup Comet’e bir Apple Watch satın almasını söylediler. Sitenin sahte olduğuna dair logodaki ve URL’deki açık ipuçlarını görmezden gelen Comet, alışverişi tamamladı ve finansal bilgileri teslim etti.
Başka bir testte, araştırmacılar kendilerine Wells Fargo’dan geliyormuş gibi görünen bir phishing e-postası gönderdi. Comet bağlantıyı uyarı vermeden açtı ve banka kullanıcı adı ile şifresini phishing sitesine girdi. Üçüncü test ise Comet’in prompt injection saldırısına açık olduğunu gösterdi; phishing sayfasındaki gizli bir metin kutusu AI’ya bir dosya indirmesini emretti ve Comet bu komutu uyguladı.