Yapay zekanın ürküten geleceği

Füzeye dönüştürülmüş insansız hava araçları, kamuoyunu manipüle eden sahte videolar ve otomatikleştirilmiş bilgisayar korsanlığı... Uzmanlara göre bunlar yanlış ellere düşen yapay zekanın getirdiği tehlikelerden sadece üçü.Onlarca uluslararası güvenlik uzmanı yapay zekanın kötü niyetle kullanıldığında oluşturabileceği tehlikeler hakkında bir rapor yayımladı.100 sayfalık raporda, yapay zekayı tasarlayanlar, teknolojinin kötüye kullanımını engellemek için daha fazla çaba sarfetmeleri konusunda uyarılıyor.Raporda, hükümetlerin bu konuda yapabilecekleri de sıralanıyor:Kanun koyucular ve teknik araştırmacılar, yapay zekanın kötüye kullanımının açacağı sorunları anlamak ve buna karşı hazırlanmak için birlikte çalışmalılarYapay zeka olumlu amaçlar için kullanılabilse de, gerçekte iki taraflı bir teknoloji olduğunun farkına varılmalı ve yapay zeka araştırmacıları ve mühendisleri dikkatli olmalı ve kötüye kullanılma ihtimalini önceden göz önünde bulundurmalıBilgisayar güvenliği gibi, uzun zamandır çift yönlü riskleri olan disiplinlerden ders çıkarmalılarYapay zekanın kötüye kullanılmasının oluşturacağı tehditleri önlemek ve azaltmak konusunda daha fazla çıkar grubu harekete geçmeliCambridge Üniversitesi Varoluşsal Risk Araştırması Merkezi'nden Shahar Avin BBC'ye yaptığı açıklamada, raporda yapay zekanın uzak bir geleceğe dair ortaya koyduğu tehditlerden ziyade, şu an getirdiği ya da önümüzdeki beş yıl içinde getirebileceği tehditlerin ele alındığını söyledi.Yakın zamandaki tehlikelerYapay zekada özellikle endişe verici olan, rehberlik eden ya da bir insan örneği olmadan, insanüstü seviyelerde zekaya sahip olacak şekilde eğitilmeleri.Shahar Avin, yakın gelecekte yapay zekanın kötü amaçlı kullanılabileceği muhtemel birkaç senaryoyu sıraladı:Google'un yapay zeka şirketi DeepMind tarafından geliştirilen ve zekasıyla rakiplerini alt eden AlphaGo oyunu, bilgisayar korsanları tarafından verilerde yeni örüntüleri ve kodlardan yararlanmanın yeni yollarını bulmak için kullanılabilirKötü niyetli bir kişi bir insansız hava aracı satın alarak, belirli bir kişiyi hedef alması için onu yüz tanıma yazılımıyla eğitebilirBot'lar otomatikleştirilebilir ya da sahte videolar siyasi manipülasyon için kullanılabilirBilgisayar korsanları hedeflerin kimliğine bürünmek için ses sentezini kullanabilirOxford Üniversitesi İnsanlığın Geleceği Enstitüsü'nden araştırmacı Miles Brundage şöyle diyor:"Yapay zeka vatandaşlar, organizasyonlar ve devletler için risklerin büyüklüğünü değiştirecek. Suçlular makineleri hecklemek ya da şifre çalmak üzere insan kapasitesi seviyesinde eğitebilir ya da gözetleme, fişleme ve baskı amacıyla kulanılabilir. Güvenlik üzerindeki etkileri çok büyük."Genellikle yapay zeka sistemleri sadece insan seviyesinde performansa ulaşmıyor, aynı zamanda onu önemli ölçüde aşıyor."Hackleme, gözetim, ikna ve fiziki hedef tanımlamanın insanüstü seviyede yapılabilecek olduğunu düşünmek rahatsız edici ama gerekli. İnsan seviyesine ulaşmamış yapay zekanın insanlardan daha fazla geliştirilebilecek olması da aynı şekilde."İnsanlığın Geleceği Enstitüsü Müdürü Doktor Seán Ó hÉigeartaigh tehditlerin gerçek olduğuna dikkat çekiyor ve dünya çapında hükümetleri, kurumları ve insanları harekete geçmeye çağırıyor.

Yapay zekanın ürküten geleceği

26 uzman, yapay zekanın getirdiği tehditlerin gerçek olduğuna ve şimdiden hayatımızı değiştirdiğine dikkat çekiyor