OpenAI, yapay zekâ görsellerini doğrulamak için iki yeni işaret kullanacak

OpenAI, kendi araçlarıyla üretilen yapay zekâ görsellerinin ayırt edilmesini kolaylaştırmak için iki katmanlı yeni bir doğrulama sistemi devreye almaya hazırlanıyor. Şirket, görsel dosyalarına içerik kökenini gösteren C2PA standardına dayalı meta veri ekleyecek ve Google’ın SynthID adlı görünmez filigran teknolojisini kullanacak.

C2PA, bir görselin nasıl üretildiğine dair dosya içinde okunabilir bir kayıt bırakmayı amaçlıyor. Bu sinyal, güvenilir platformlar arasında içerik kökenini göstermede yararlı olsa da dosya meta verileri değiştirilebildiği için tek başına kalıcı bir çözüm sayılmıyor.

SynthID ise görselin içine daha zor fark edilen bir filigran yerleştiriyor. Google tarafından geliştirilen sistemin, ekran görüntüsü alma, yeniden boyutlandırma veya dijital düzenleme gibi işlemlerden sonra da iz bırakması hedefleniyor. OpenAI, meta verinin daha fazla bilgi verdiğini, filigranın ise dönüşümlere karşı daha dayanıklı olduğunu belirterek iki yöntemin birbirini tamamlayacağını söylüyor.

Şirket ayrıca kullanıcıların bir görselde bu sinyallerin bulunup bulunmadığını kontrol edebileceği herkese açık bir doğrulama aracının ön izlemesini sunuyor. Araç ilk aşamada yalnız OpenAI ürünleriyle oluşturulan görselleri kapsayacak; şirket zamanla başka araçlara ait içerikleri de desteklemeyi umuyor.

Kaynaklar

• Ana kaynak: TechCrunch