OpenAI, Avrupa Birliği’nde üretilen metin ve kodlara yakında görünmez dijital filigran eklemeyi planlıyor. Uygulama, AB Yapay Zeka Yasası’nın üretken yapay zeka çıktılarının makinece okunabilir biçimde tanımlanması kuralıyla bağlantılı.
Filigran, varsayılan olarak etkin olmayacak. Ancak AB’deki uygun ChatGPT ve Codex metin çıktıları bu uygulamanın istisnası olacak. Müşteriler seçili modellerde filigranı isteğe bağlı olarak etkinleştirebilecek; OpenAI, küresel genel kullanıma hangi modellerin sunulacağını belirtmedi.
Kelime seçimlerine görünmez sinyal ekleniyor
OpenAI’nin tescilli textGrain sistemi, modelin kelime seçimlerine görünmez istatistiksel bir sinyal ekliyor. Bir algılayıcı da bu sinyalleri inceleyerek metinde filigran bulunup bulunmadığını belirleyebiliyor.
OpenAI, ideal koşullardaki yüksek performansın günlük kullanımda güvenilir tespiti garanti etmediği uyarısını yapıyor. Şirkete göre kısa metinlerde ve matematik gibi içeriklerde tespit başarısı yaklaşık yüzde 80 seviyesinde kalıyor; metnin düzenlenmesi de bu oranı düşürüyor.
Algılayıcıya erişim ilk aşamada sınırlı olacak
Filigran algılama yazılımına ilk aşamada yalnızca onaylı araştırmacılar ve uzman kuruluşlar erişebilecek. OpenAI, algılayıcının kullanıcıyı belirlemediğini, istemleri veya konuşmaları açığa çıkarmadığını belirtiyor.
Şirket, teknolojiyi başkalarının uyarlayabilmesi için açık kaynaklı hale getirmeyi de planlıyor. AB Yapay Zeka Yasası’nın 50. maddesi, üretken yapay zeka sistemi sağlayıcılarının metin çıktılarını makinece okunabilir biçimde tanımlanabilir kılmasını zorunlu tutuyor.
Kural, pazara yeni giren şirketler için halihazırda geçerli. Mevcut kuruluşların uyum sağlaması için ise 2 Aralık’a kadar süre bulunuyor.
