OpenAI ve Google, yapay zeka içeriklerini tespit etmek için güçlerini birleştirdi

OpenAI, yapay zeka ile üretilen içeriklerin tespit edilmesini zorlaştıran boşlukları kapatmak için Google'ın SynthID filigran teknolojisini benimsediğini duyurdu. Şirket, halihazırda kullandığı C2PA içerik kimlik bilgilerine ek olarak SynthID'yi de devreye alarak "çok katmanlı" bir doğrulama yaklaşımı oluşturuyor. SynthID, başlangıç aşamasında ChatGPT, Codex ve OpenAI API üzerinden üretilen görsellere uygulanacak.

İki sistemin farklı güçlü yönleri var. C2PA, içeriklerin nasıl oluşturulduğuna dair ayrıntılı bağlam taşıyan metadata eklese de dosya platformlar arasında aktarılırken bu veriler kolayca silinebiliyor. SynthID ise görünmez bir dijital filigran olarak çalışıyor ve ekran görüntüsü alma, yeniden boyutlandırma ya da dijital manipülasyon gibi işlemlerden sonra bile varlığını koruyabiliyor. OpenAI bu iki yöntemin birbirinin eksikliklerini tamamladığını vurguladı.

"C2PA içeriğin ayrıntılı bağlamı taşımasına yardımcı olur; SynthID ise metadata varlığını sürdüremediğinde sinyali korur. Birlikte, köken doğrulamasını her iki katmanın tek başına sağlayabileceğinden daha dirençli kılar."

Herkese açık doğrulama portalı geliyor

OpenAI ayrıca bir görsel yüklenerek içeriğin yapay zeka ürünü olup olmadığının kontrol edilebildiği halka açık bir doğrulama portalını ön izlemeye açtı. Portal, C2PA ve SynthID sinyallerini birlikte tarayarak görselin ChatGPT, Codex veya OpenAI API ile üretilip üretilmediğini belirlemeye çalışıyor. Şu an için yalnızca OpenAI araçlarıyla oluşturulan görselleri destekleyen portal, ilerleyen aylarda diğer doğrulama sistemlerini de kapsayacak şekilde genişlemeyi hedefliyor. OpenAI, hiçbir tespit yönteminin kusursuz olmadığını belirterek filigran veya metadata bulunamayan durumlarda kesin bir yargıya varmama kararı aldı. Ayrıca şirket, C2PA Uyumluluk Programı'na da katıldığını açıkladı.

Google I/O etkinliğinde duyurulan gelişmeler kapsamında Google da SynthID'nin erişim alanını genişletiyor. Arama özelliklerinden Circle to Search, Google Lens ve AI Mode artık görsel kökenini sorgulayabiliyor. Chrome tarayıcısına entegrasyon ise önümüzdeki aylarda Gemini altyapısıyla birlikte gelecek. Öte yandan Gemini uygulaması bugün itibarıyla C2PA desteği kazandı; Search ve Chrome entegrasyonu ise sıradaki güncellemelerle sunulacak.

SynthID'nin benimsenmesi OpenAI ile sınırlı değil. Nvidia, teknolojik altyapısını bu filigran sistemine entegre ederken Kakao ve ElevenLabs da yapay zeka içeriklerine SynthID eklemeyi taahhüt etti. Ayrıca Meta'nın Instagram üzerindeki kamera kaynaklı medyayı C2PA ile etiketlemeye başlayacağı da duyuruldu. Google, kurumsal kullanım için Gemini Enterprise Agent Platform bünyesinde bir yapay zeka içerik tespit API'si de hazırlıyor; bu API, iş ortaklarının feed yönetiminden sigorta dolandırıcılığı tespitine kadar geniş bir yelpazede yapay zeka içeriklerini otomatik olarak işaretlemesine olanak tanıyacak.