Canva'nın yapay zeka aracı tasarımlardaki 'Filistin' ifadesini 'Ukrayna' olarak değiştirdi
Canva'nın yeni Magic Layers özelliği, bazı tasarımlardaki 'Filistin' ifadesini otomatik olarak 'Ukrayna' yaptı. Şirket hatayı kabul ederek özür diledi ve sorunun giderildiğini açıkladı.
Popüler grafik tasarım platformu Canva, geçtiğimiz ay kullanıma sunduğu yapay zeka destekli Magic Layers (Sihirli Katmanlar) aracında ortaya çıkan tartışmalı bir hatayla gündeme geldi. Araç, bazı tasarımlardaki 'Filistin' ifadesini kullanıcı onayı olmadan 'Ukrayna' olarak değiştirdi. Olay, sosyal medyada kısa sürede yayılarak yapay zeka sansürü tartışmasını yeniden alevlendirdi.
Tartışma, bir kullanıcının X platformunda paylaştığı görüntüyle başladı. 'Cats for Palestine' (Filistin için kediler) yazılı bir tasarımı Magic Layers ile düzenlemeye çalışan kullanıcı, aracın metni otomatik olarak 'Cats for Ukraine' şeklinde değiştirdiğini fark etti. Aynı kullanıcı, 'Gazze' gibi bağlantılı ifadelerde benzer bir değişiklik yaşanmadığını da belirtti.
Canva'dan özür ve düzeltme açıklaması
Şirket sözcüsü, sorunun farkında olduklarını ve Magic Layers özelliğindeki hatayı hızla düzelttiklerini açıkladı. Canva, bu tür raporları ciddiye aldığını vurgularken yaşanan durumun kullanıcılarda yarattığı rahatsızlık için özür diledi. Sözcü ayrıca sorunun izole bir vaka olduğunu ve tasarımları genel olarak etkilemediğini savundu.
Ancak bazı kullanıcılar, hatanın kendi projelerinde de tekrarlanabildiğini bildirdi. Canva, benzer durumların yaşanmaması için ek denetim mekanizmaları kurduğunu ve hatanın kökenini anlamak amacıyla kapsamlı bir iç denetim süreci başlattığını duyurdu.
Aracın neden metne müdahale ettiği belirsiz
Geçen ay yayına alınan Magic Layers, aslında statik görselleri düzenlenebilir katmanlara ayırmak için tasarlanmıştı. Aracın neden metin içeriğine müdahale ettiği ya da hangi eğitim verilerinin bu çıktıya yol açtığı henüz netleşmedi. Şirket, gelecekteki beklenmedik çıktıları tespit etmek için iç test süreçlerini gözden geçirdiğini de belirtti.
Yapay zeka araçlarında benzer önyargı tartışmaları yeni değil. Daha önce Meta'nın WhatsApp üzerindeki yapay zeka araçları, Filistinli görseli istendiğinde tartışmalı sonuçlar üretmesiyle eleştirilmişti. 2023 yılında ise ChatGPT'nin Filistinlilerle ilgili bazı sorulara verdiği yanıtlar aktivistler tarafından mercek altına alınmıştı. Yapay zeka sistemlerinin eğitim süreçleri ve tarafsızlığı, sektörün gündemindeki en kritik başlıklardan biri olmayı sürdürüyor.
