Discord, güvenlik sistemindeki bir hatanın Mayıs 2026'den bu yana 8.000'den fazla hesabı yanlışlıkla yasaklamasına yol açtığını kabul etti. Yasaklama yapılan kullanıcılar satranç tahtası, Minecraft envanteri, oyun dokularıve spreadsheet gibi tamamen zararsız grid görselleri paylaşmış bulunuyordu.
Discord kurucularından ve başkan teknoloji görevlisinden Stanislav Vishnevskiy, grid benzeri görseller yükleyen yaklaşık 200 kullanıcının yanı sıra diğer zararsız görselleri paylaşan 8.000 kişinin bu hatadan etkilendiğini bildirdi. Söz konusu tüm hesaplar kaldırılmıştır.
Moderasyon sistemi nasıl hata yaptı?
Discord'un yapay zeka destekli güvenlik sistemi, kullanıcıların yükledikleri içeriği bilinen zararlı malzemeler veritabanıyla karşılaştırarak işaretleme yapacak şekilde tasarlandı. Sistem yanlış pozitiflere (false positive) neden olabileceğinden, işaretlenen hesaplar bir eylem alınmadan önce Trust & Safety ekibi tarafından gözden geçirilmesi gerekiyordu. Amaçlanan davranış, inceleme sırasında hesabı geçici olarak durdurmak değil, tamamen yasaklamak olmamalıydı.
Ancak bir hata, sistemi hesapları anında yasaklamaya yöneltti. İdari ekip bu hesapları inceleyip temizlese bile, aynı hata yasaklamanın otomatik olarak kaldırılmasını engelledi. Discord yazılı açıklamasında "Personelimiz bu hesapları inceledikten sonra, yasaklamayı otomatik olarak kaldırması gereken aynı hata nedeniyle yasaklama yerinde kaldı" dedi.
Kullanıcıların tepkisi
Etkilenen kullanıcılar sosyal medyada hayal kırıklığını dile getirdi. Özellikle Discord'u iş, oyun toplulukları veya uzun mesafeli sosyal bağlantılar için kullanan kişiler, böyle bir hataya bağlı kalıcı yasaklamanın ciddi sonuçlar doğurabileceğini vurguladı. Bazı oyun geliştiricileri, hesapları yapay zeka moderasyonundaki bu hataya bağlı olarak kilitlenmelerinin iş iletişimlerini kesintiye uğrattığını belirtti.
Discord, bu durumun yaklaşık iki ay boyunca aktif kaldığını ve rezil bir hata olduğunu kabul ederek, benzer sorunları önlemek için daha iyi koruma mekanizmaları üzerinde çalıştığını açıkladı. Şirket, yanlış pozitifler nedeniyle yasaklanan tüm hesapların şu anda eski haline getirilme sürecinde olduğunu belirtti.
