Google, geliştirilmiş SynthID denetleyicisini dünya genelinde kullanıma açtı. Google, OpenAI veya Apple hesabıyla giriş yapan herkes, bir görseli, videoyu ya da ses dosyasını hızlıca kontrol ederek bu şirketlerin yapay zekâ araçlarının eklediği filigranları taşıyıp taşımadığını görebiliyor. Her hesaba günde yaklaşık on kontrol hakkı tanınıyor; ancak çok sayıda benzer dosya gönderilirse bu sınır düşebiliyor. Google, kısıtlamanın kullanıcıların denetleyicinin çalışma biçimini tersine mühendislikle çözerek filigranları kaldırmaya yönelik araçlar geliştirmesini önlemeye yardımcı olduğunu söylüyor.
Araç neleri tespit edebiliyor, neleri edemiyor?
SynthID, desteklenen şirketlerin yapay zekâyla oluşturulan medyaya eklediği filigranları arıyor. Meta gibi farklı filigran yöntemleri kullanan diğer sağlayıcıların içeriklerini ya da hiç filigran eklemeyen açık ağırlıklı modellerin ürettiklerini tespit edemiyor. Web sitesindeki uyarı da yapay zekâyla oluşturulan pek çok içeriğin fark edilmeyebileceğini belirtiyor. Google, sistemi kullanılsa bile becerikli saldırganların zamanla filigranı kaldırıp içeriğin gerçek görünmesini sağlayabileceğini kaydediyor.
Gündelik kullanıcılar için neden önemli?
Bir görselin, klibin veya ses kaydının yapay zekâyla oluşturulup oluşturulmadığını doğrulamak isteyenler, SynthID ile bunu tek ve kullanımı kolay bir yerden kontrol edebiliyor. Günlük kota, sıradan kullanıcıların özel bir yazılıma ihtiyaç duymadan hızlı bir ön kontrol yapmasına imkân veriyor. Ancak aracın sınırları ve tespit edemediği içerikler nedeniyle, özellikle az bilinen kaynaklardan gelen içeriklerin gerçekliğini doğrularken tek başına SynthID’ye güvenilmemeli.
Neden önemli
Artık herkes ek bir yazılım yüklemeden günde birkaç yapay zekâ ürünü içeriğin kaynağını kontrol edebiliyor. Kotanın sınırlı olması ve aracın yalnızca üç sağlayıcıya odaklanması, SynthID’yi yararlı bir ilk adım hâline getiriyor; ancak kullanıcıların diğer yapay zekâ hizmetlerinden gelen içeriklere karşı temkinli olması gerekiyor.
