Facebook terörizmle nasıl mücadele ediyor?

Facebook, "Terörle Nasıl Mücadele Ediyoruz?" başlıklı bir yazı yayınladı.

Facebook terörizmle nasıl mücadele ediyor?

Facebook Küresel Politika Yönetimi Direktörü Monika Bickert & Facebook Terörle Mücadele Politikaları Müdürü Brian Fishman

Son dönemde yaşanan terör saldırılarının ardından insanlar, terörizmle çevrimiçi mücadelede teknoloji şirketlerinin rolünü sorgulamaya başladı. Biz, bu sorulara net bir biçimde cevap vermek istiyoruz. Sosyal medyanın teröristlerin sesinin duyulduğu bir alan olmaması gerektiğini savunanlarla aynı fikirdeyiz. Bu konuyu ne kadar ciddiye aldığımızın da net olarak altını çizmek istiyoruz: Topluluğumuzu güvende tutmak, misyonumuzun en önemli kısmını oluşturuyor.

Bu yazıda, daha önce kamuoyuyla paylaşmadığımız bir konu olan terörle bağlantılı içerikleri Facebook’un dışında tutmak için yapay zekadan nasıl yararlandığımız gibi, içeride gerçekleştirdiğimiz bazı faaliyetlerden bahsedeceğiz. Buna ek olarak, aralarında tüm kariyerlerini terörle mücadeleye adamış kişilerin de bulunduğu, hâlihazırda terörle mücadele konusunda çalışan insanlardan bahsedecek ve is ortaklarimizla yaptığımız iş birliklerine değineceğiz.

Bizim bu konudaki duruşumuz oldukça net: Facebook’ta terörizme kesinlikle yer yok. Teröristlerden ve terörü destekleyen paylaşımlardan haberdar olduğumuz anda bunları kaldırıyoruz. Terör paylaşımı olabilecek içerikler ile ilgili şikâyetler aldığımızda, söz konusu içerikleri derhal ve büyük bir titizlikle inceliyoruz. Nadir de olsa yakın zamanda olması muhtemel felaketler ile ilgili delil keşfettiğimiz anda ise hiç vakit kaybetmeden yetkililere haber veriyoruz. Her ne kadar akademik araştırmalar DAEŞ ve El-Kaide gibi grup üyelerinin radikalleşme sürecinin öncelikli olarak çevrimdışı dünyada gerçekleştiğini ortaya koysa da, internetin bu konuda bir rol oynadığını biliyoruz ve Facebook’un herhangi bir terör ve benzeri faaliyet için kullanılmasını kesinlikle istemiyoruz.

Teknolojinin ve Facebook’un, çözümün bir parçası olabileceğine inanıyoruz.

Şimdiye kadar bu konuda ihtiyatlı konuştuk; çünkü basit bir teknik çözüm olduğu izlenimi uyandırmak istemeyiz. Her ay neredeyse 2 milyar kişinin kullandığı, insanların dünyanın her bir köşesinden 80’den fazla dilde paylaşım ve yorum yaptığı bir platformda insanları güvende tutmak çok zorlu bir görev. Ve yapmamız gereken daha çok şey var; ama biz neler üzerinde çalıştığımızı sizlerle paylaşmak ve neyi daha iyi yapabiliriz konusunda önerilerinizi dinlemek istiyoruz.

Yapay Zeka (Artificial Intelligence - AI)

Terör içerikli paylaşımları daha topluluğumuz görmeden, hızlı bir biçimde saptamak istiyoruz. Bugun, terör nedeniyle sildiğimiz hesapların çoğunu biz tespit ediyoruz. Yine de terör barındıran içeriklerin Facebook’ta yayılmasını durdurmak için teknolojiyi, özellikle de yapay zekayı daha iyi kullanabileceğimizi biliyoruz. Her ne kadar teröre karşı yapay zeka kullanımımız henüz yeni olsa da, bu teknoloji şimdiden potansiyel terör propagandalarını ve hesapları Facebook’tan uzak tutma konusundaki yöntemlerimizi değiştirmeye başladı bile. Şu anda en yeni teknolojilerimiz DAEŞ, El-Kaide ve bunların üyeleri ile ilgili terör içerikleriyle mücadeleye odaklanmış durumda ve zaman içinde bunu diğer terör örgütlerini kapsayacak şekilde genişletmeyi umuyoruz. Teknik çözümlerimizi sürekli olarak güncelliyoruz. En yeni ve güncel faaliyetlerimizden birkaçı ise aşağıdaki gibi:

*Görüntü eşleştirme: Biri terör içerikli bir fotoğraf veya videoyu yüklemeye çalıştığında, sistemlerimiz bu görüntünün daha önce bilinen bir terör fotoğrafı veya videosu ile eşleşip eşleşmediğini kontrol ediyor. Bu, örneğin eğer daha önce DAEŞ’ten bir propaganda videosunu kaldırdıysak, farklı hesapların aynı videoyu sitemize yüklemesini engelleyebileceğimiz anlamına geliyor. Bu da çoğu durumda Facebook’a yüklenmek üzere hazırlanan terör videolarının hiçbir zaman platforma erişememesi demek oluyor.

*Dil tanıma: Yakın zamanda yapay zeka kullanarak teröre özendiren metinleri anlamak için testler yapmaya başladık. Şu anda DAEŞ ve El-Kaide gibi terör gruplarını övdüğü veya desteklediği için kaldırdığımız metinleri analiz etmek için testler yapıyoruz ve böylece terör propagandası yapma potansiyeli olan içerikleri belirlemek için metne dayalı bazı göstergeler geliştirmeyi umuyoruz. Bu analizler, benzer paylaşımları saptamayı öğrenmenin henüz erken aşamasında olan bir algoritmayla inceleniyor. Bu otomatik öğrenme algoritmaları bir geri bildirim döngüsünde çalışıyor ve zaman içinde daha iyi çalışır hale geliyor.

*Terör topluluklarını kaldırma: Teröristlerle ilgili yapılan çalışmalardan, bu kişilerin gruplar halinde radikalleşmeye ve aksiyon almaya meyilli olduklarını biliyoruz. Bu çevrimdışı eğilim, çevrimiçi ortam için de geçerli. Terörü destekleyen Sayfalar, gruplar, paylaşımlar ya da profiller belirlediğimizde - yine algoritmalar yardımıyla - bunları kullanarak terörü destekleyen benzer içerikleri belirlemeye çalışıyoruz. Bir hesap daha önce terörizm yüzünden kapatılmış çok sayıda hesapla arkadaş mı ya da kapatılan bir hesapla benzer özellikler taşıyor mu gibi uyarı işaretleri kullanıyoruz.

*Tekrarlama: Mükerrer suçlular tarafından açılan yeni sahte hesapları saptama konusunda da oldukça hızlandık. Bu sayede terörden sabıkalı hesapların Facebook’ta bulunma sürelerini ciddi ölçüde azaltabiliyoruz. Ancak bu iş hiçbir zaman bitmiyor; çünkü ortada bir mücadele var ve teröristler de kendi yöntemlerini sürekli geliştiriyorlar. Sistemlerimizi alt etmeye çalışan terör aktörlerini saptamak için sürekli olarak yeni yollar geliştiriyor ve yöntemlerimizi de buna göre güncelliyoruz.

*Platformlar arası işbirliği: Teröristlerin Facebook uygulama ailesinin hiçbirinde bulunmasını istemediğimiz için, WhatsApp ve Instagram da dâhil olmak üzere tüm platformlarımızdaki terörist hesaplarla ilgili aksiyon almamızı sağlayacak sistemler üzerinde çalışmaya başladık. Verdiği hizmetin bir parçası olarak sınırlı veri toplayan bazı uygulamalarımız nedeniyle tüm uygulama ailemiz arasında veri paylaşımı yapabilme kabiliyeti, tüm platformlarımızı güvende tutma mücadelemizin ayrılmaz bir parçasını oluşturuyor.

İnsan Uzmanlığı

Yapay zeka, her şeyi yakalayamaz. Neyin terörü desteklediğini veya desteklemediğini anlamak her zaman kolay değil ve algoritmalar da bu tarz içerikleri anlamada henüz insanlar kadar gelişmiş değiller. DAEŞ bayrağı sallayan silahlı bir adam resmi propaganda veya üye kazanma amaçlı oluşturulan bir içerik de olabilir, bir haberde kullanılan görsel de. DAEŞ gibi gaddar grupların en etkili bazı karşıtları, onlara karşı onların kendi propaganda malzemelerini kullanıyorlar. Daha incelikli vakaları anlamak için insan uzmanlığına ihtiyacımız var.

*Şikayetler ve incelemeler: Topluluğumuz, yani Facebook’u oluşturan insanlar, küçük bir kısmı terörle ilgili olabilecek içerikler olmak üzere politikalarımızı ihlal eden hesapları veya içerikleri şikayet ederek bize yardımcı oluyorlar. Önümüzdeki yıl üç bin kişinin daha eklenerek büyüyeceği dünya çapında faaliyet gösteren Topluluk Operasyonları ekibimiz, bu şikayetleri incelemek ve durumu anlamak için 24 saat boyunca, düzinelerce farklı dilde çalışıyorlar. Bu çok zorlu bir iş olabiliyor ve biz de bu kişileri danışmanlık hizmetleri ve dayanıklılık eğitimleri ile destekliyoruz.

*Terör ve güvenlik uzmanları: Geçen yıl terörle mücadele uzmanları ekibimizi ciddi ölçüde genişlettik. Facebook’ta 150’den fazla kişi sadece veya öncelikli olarak terörle mücadeleden sorumlu olarak çalışıyor. Bu ekip, terörle mücadele uzmanı akademisyenler, eski savcılar, eski emniyet teşkilatı yetkilileri ve analistleri ve mühendislerden oluşuyor. Sadece bu uzmanlaşmış ekipte bile neredeyse 30 ayrı dil konuşuluyor.

*Gerçek dünya ile ilgili tehditler: Terör barındıran içerikleri belirlemek ve kaldırmak için gittikçe daha fazla yapay zeka teknolojileri kullanıyoruz; fakat bilgisayarlar emniyet birimlerine haber vermeyi gerektirecek muhtemel tehditleri belirlemek konusunda çok iyi değiller. Emniyet güçlerinden gelen talepleri dakikalar içerisinde cevaplayan bir küresel ekibimiz de bulunuyor.

Üçüncü Partilerle İşbirliği

Terörizmi sadece Facebook’tan uzak tutmak için çalışmak yeterli değil; çünkü teröristler bir platformdan öbürüne geçebiliyor. Bu yüzden diğer şirkeler, sivil toplum, araştırmacılar, devletler gibi kurumlarla işbirliği yapmak hayati önem taşıyor.

*Sektör işbirliği: Çevrimiçi ortamda terör içeriklerini daha hızlı saptamak ve yayılmasını yavaşlatmak için altı ay önce Microsoft, Twitter ve YouTube ile bir araya geldik ve terörist gruplar tarafından ya da onları destekleyici biçimde hazırlanan içerikler için fotoğraf ve videoların özgün dijital parmak izlerini (“hashes”) barındıran ortak bir veri tabanı oluşturduk. Bu işbirliği şimdiden meyvelerini vermeye başladı ve gelecekte daha fazla paydaşı bu amaca dâhil etmeyi umuyoruz. İş ortaklarımıza Facebook’u güvende tutmaya yardım ettikleri için minnettarız.

*Devletler: Devletler ve devletlerarası aktörler, şirketlerin bağımsız olarak geliştirmeleri imkânsız olan uzmanlığı bir araya getirme ve temin etme konusunda merkezi bir rol oynuyorlar. Farklı ülkelerdeki aktörlerle yaptığımız bilgilendirme toplantılarından DAEŞ ve El-Kaide propaganda yöntemleri ile ilgili pek çok şey öğrendik. Aynı zamanda Avrupa Birliği İnternet Forumu, DAEŞ’la Mücadele Küresel Koalisyonu ve Birleşik Krallık İçişleri Bakanlığı gibi kurumların sektör işbirliğini desteklemek üzere yaptıkları faaliyetlere katıldık ve bunlardan çok faydalandık.

*Şifreleme (Encryption): Teröristlerin bazen iletişim kurmak için şifreli mesajlaşma kullandıklarını biliyoruz. Şifreleme teknolojisinin çevrimiçi bankacılıktan fotoğraflarınızı güvende tutmaya kadar pek çok meşru kullanım alanı var. Bu, aynı zamanda gazeteciler, STK çalışanları, insan hakları konusunda mücadele edenler ve mesajlarının güvende kalacağından emin olması gereken diğer kişiler için çok önemli. Uçtan uca şifrelemenin çalışma biçimi nedeniyle bireysel olarak şifrelenen mesajların içeriğini okuyamıyoruz; ama ilgili yasa ve politikalarla uyumlu, geçerli emniyet teşkilatı talepleri olduğunda elimizde olan bilgileri paylaşıyoruz.

*Karşı söylem eğitimleri: Çevrimiçi ortamda aşırı uç söylemlere karşı çıkmanın, onları sorgulamanın, gerçek dünyadaki aşırılıklara karşı verilen cevabın önemli bir kısmını oluşturduğuna inanıyoruz. Karşı söylem pek çok farklı formda olabiliyor; ama hepsinin temelinde insanları nefretle ve şiddetle dolu bir yaşamdan vazgeçirmeye ikna etmek yatıyor. Fakat karşı söylem, ancak güvenilir konuşmacılardan gelirse etkili oluyor. Bu yüzden, en çok önem verilen sesleri daha fazla duyurabilmek için STK’lar ve topluluk gruplarıyla işbirliği yapıyoruz.

*İşbirliği programları: Çeşitli karşı söylem programına destek veriyoruz. Örneğin geçen sene Stratejik Diyalog Enstitüsü (Institute for Strategic Dialogue) ile “Online Civil Courage” inisiyatifini başlattık. Proje ile Avrupa’daki yüzden fazla nefret ve aşırılık karşıtı organizasyonla temaslarda bulunduk. Aynı zamanda Affinis Labs ile birlikte Manila, Dhaka ve Jakarta gibi yerlerde, topluluk liderlerinin teknoloji girişimcileriyle bir araya gelerek çevrimiçi ortamda aşırılık ve nefretle mücadele için yenilikçi çözümlerin üretildiği hackathonlar düzenledik. Desteklediklerimiz arasında en geniş küresel erişime sahip olanı ise “Peer 2 Peer (P2P): Facebook Global Digital Challange” öğrenci yarışması programı. İki seneden kısa bir sürede P2P, 68 ülkede 5,500’den fazla üniversite öğrencisi tarafından yaratılan 500’den fazla nefret ve aşırılık karşıtı kampanya ile dünya çapında 56 milyondan fazla kişiye ulaştı.

Politikamız

Facebook’ta terörizme kesinlikle yer yok. Çevrimiçi toplulukların yaşadıkları zorluklar, gerçek dünyadaki toplulukların yaşadıkları zorluklar ile aynı: işaretleri çok geç olmadan, erken aşamada yakalayabilmek. Terörizmi platformumuzdan uzak tutmakta kararlıyız. Bu konudaki faaliyetlerimiz ve gelişmeler ile ilgili sizleri bilgilendirmeye devam edeceğiz.