Yapay zekâ sohbet botları için tarihi bir düzenleme geliyor!

California, yapay zekâ sohbet botlarını düzenleyen SB 243 adlı yasayı onaylamak için önemli bir adım attı. Yasa, hem Eyalet Meclisi hem de Senato’dan çift taraflı destekle geçti ve şimdi Vali Gavin Newsom’un imzasına sunuldu. Newsom’un yasayı onaylaması veya veto etmesi için 12 Ekim tarihine kadar süresi bulunuyor. Yasa kabul edilirse, 1 Ocak 2026’dan itibaren yürürlüğe girecek ve California, AI sohbet botlarını güvenlik protokolleri uygulamak ve standartlara uymayan şirketleri yasal olarak sorumlu tutmakla yükümlü kılan ilk eyalet olacak.

SB 243, çocuklar ve hassas kullanıcıları korumayı amaçlıyor. Yasa, sohbet botlarının intihar düşünceleri, kendine zarar verme veya cinsel içerikli konuşmalara girmesini engellemeyi hedefliyor. Ayrıca her üç saatte bir kullanıcıları AI ile konuşmakta oldukları ve ara vermeleri gerektiği konusunda bilgilendiren uyarılar göndermeyi zorunlu kılıyor.

Yapay zekâ sohbet botları için tarihi bir düzenleme geliyor!

Yasa, ayrıca AI şirketlerinin yıllık raporlama ve şeffaflık yükümlülüklerini de içeriyor ve OpenAI, Character.AI ve Replika gibi büyük platformları kapsıyor. Yasa kapsamında, kullanıcılar ihlallere uğradıklarını düşündüklerinde şirketlere karşı dava açabilecek, tazminat (her ihlal için 1.000 dolar) ve avukat ücretleri talep edebilecek.

SB 243, Ocak ayında senatörler Steve Padilla ve Josh Becker tarafından sunuldu. Yasanın ilerlemesi, OpenAI’nin ChatGPT ile uzun sohbetler yaptıktan sonra intihar eden Adam Raine’in ölümü ve Meta’nın çocuklarla romantik ve cinsel sohbetlere izin veren botlarıyla ilgili sızdırılan belgeler sonrası hız kazandı.

Son haftalarda, ABD’de yasa yapıcılar ve düzenleyiciler, AI platformlarının çocukları koruma önlemlerine yoğun ilgi gösteriyor. Federal Ticaret Komisyonu, AI sohbet botlarının çocukların ruh sağlığı üzerindeki etkilerini araştırıyor. Texas Başsavcısı Ken Paxton, Meta ve Character.AI’ye karşı çocukları yanlış yönlendirme iddiasıyla soruşturma başlattı. Ayrıca Senatör Josh Hawley ve Senatör Ed Markey de Meta hakkında ayrı soruşturmalar başlattı.