Anthropic, Claude tarafından oluşturulan metinlere eklenecek görünmez filigran sisteminin nasıl çalışacağını detaylandırdı. Avrupa Birliği Yapay Zeka Yasası kapsamında yapay zeka tarafından üretilen içeriklerin tanımlanabilmesi gerekiyor ve Anthropic bu gereklilik karşısında kullanıcıların fark etmeyeceği bir yöntem geliştirdi.
Filigran sistem, klasik görünür işaret yerine metin oluşturma sürecinin içine entegre edilmiş bir yöntem kullanıyor. Claude bir sonraki kelimeyi seçerken birden fazla uygun seçenek arasından karar veriyor. Yeni sistemde Google DeepMind'ın SynthID-Text yaklaşımı uyarlanarak, belirli kelime seçeneklerinin tercih edilme olasılığı küçük ölçüde değiştiriliyor. Böylece metin içerisinde yalnızca özel bir anahtarla çözülebilecek istatistiksel bir desen oluşturuluyor. Örneğin, pi sayısının rakamları anahtar olarak kullanıldığında, Claude metin oluştururken rastgele yerine bu rakamların yönlendirdiği sırayla kelime seçiyor.
Filigranlama Kaliteyi Etkilemiyor
Anthropic, bu yöntemin çıktıların kalitesini veya hızını etkilemeyeceğini, ek token gerektirmeyeceğini ve kullanıcılar için ek bir maliyet oluşturmayacağını belirtti. Okuyucular filigran taşıyan metin ile normal bir yanıt arasında fark göremeyecek. Şirket, filigranın kopyala-yapıştır işlemlerinden sonra da korunacağını ve birkaç düzenlemeye karşı dayanıklılık gösterebileceğini açıkladı. Ayrıca Anthropic, filigranın kişisel bilgi içermediğini ve içeriğin belirli bir kullanıcıya veya sohbete bağlanmasını mümkün kılmadığını vurguladı.
Filigran tespiti için Anthropic gelecekte bir API yayınlayacak. Bu sayede Claude tarafından üretilen bir metin bloğunun gerçekten yapay zeka tarafından oluşturulup oluşturulmadığı kontrol edilebilecek. Ancak sistem kesin bir sonuç vermek yerine Claude'un metinde herhangi bir noktada yer almış olduğunu belirleyebiliyor yalnızca düzenleme yapıldığında dahi filigran uygulanıyor.
Sınırlamalar ve Kod Üretimi
Sistemin en önemli sınırlaması metnin uzunluğudur. Kısa metinlerde filigran güvenilir biçimde tespit edilemiyor çünkü desen istatistiksel veriye dayanıyor. Ayrıca metnin tamamı yeniden yazılırsa filigran kaybolabilir, ancak hafif düzenlemeler deseni koruyabiliyor. Tercüme edilen metinler de filigran taşıyacak. Kod oluşturmada ise filigran daha az etkili olacak çünkü çoğu durumda kod sözdizimi kesin olmalı ve tercih alanı kalmıyor. Yorum ve değişken isimleri gibi seçenekli kısımlarda filigran uygulanabilecek.
Anthropic, filigran uygulamasının Ağustos 2'den sonra yayımlanan tüm Claude modellerini kapsayacağını ve eski modellere de bu özelliğin ekleneceğini belirtti. Şirket, diğer büyük yapay zeka geliştirici şirketlerinin de benzer filigran sistemlerini hayata geçireceğini duyurdu çünkü bunlar AB Yapay Zeka Yasası'nın Davranış Kuralları'nı imzalamışlardır.
