Yapay zeka intihar konuşmaları yapmayacak şekilde eğitilecek!

Yeme bozuklukları ve intiharla ilgili sohbetler de gençler için yasak olacak.

Meta, genç kullanıcıların şirketin yapay zekâ sohbet botlarıyla zararlı konular üzerine konuşmalarını önlemek için yapay zekâsını yeniden eğitiyor ve yeni koruma önlemleri ekliyor. Şirket, gençlerin intihar, kendine zarar verme ve yeme bozuklukları gibi konuları Meta AI ile tartışmasını engellemek amacıyla ekstra bir “önlem seti” eklediklerini belirtti. Ayrıca, uygunsuz sohbetlere yol açabilecek kullanıcı tarafından oluşturulmuş yapay zekâ karakterlerine gençlerin erişimi de kısıtlanacak.

Meta yapay zekasını yeniden eğitiyor

TechCrunch’ın ilk olarak aktardığı bu değişiklikler, Meta AI ile gençler arasındaki rahatsız edici etkileşimlere dair çok sayıda raporun ardından geldi. Bu ayın başında Reuters, şirket içi bir Meta politika belgesinde yapay zekâ sohbet botlarının reşit olmayan kullanıcılarla “duygusal/erotik” sohbetlere izin verdiğini ortaya çıkarmıştı. Meta ise bu ifadenin “yanlış ve politikalarımızla tutarsız” olduğunu, bu nedenle metinden kaldırıldığını duyurdu. Dün ise The Washington Post, Meta AI’nın genç hesaplara intihar, kendine zarar verme ve yeme bozuklukları konusunda “yol gösterdiğini” ortaya koyan bir araştırmayı bildirdi.

Meta, şimdi bu tür etkileşimlerin Instagram ve Facebook’ta gençler için mümkün olmaması adına koruma önlemlerini sıkılaştırıyor. Meta sözcüsü Stephanie Otway, Engadget’e yaptığı açıklamada “Yapay zekâ ürünlerimize başından beri gençler için korumalar yerleştirdik; bunlar, kendine zarar verme, intihar ve yeme bozukluklarıyla ilgili yönlendirmelere güvenli yanıt vermek üzere tasarlandı” dedi.