Google DeepMind, SynthID Detector’ın dünya genelinde kullanıma sunulduğunu duyurdu. Web hizmeti, kullanıcıların bir görsel, ses veya video dosyası yükleyip dosyada SynthID ortaklarından herhangi birine ait filigran bulunup bulunmadığına dair basit bir evet ya da hayır yanıtı almasını sağlıyor. Hizmetin kullanıma sunulduğu sırada ortaklar Google, OpenAI, NVIDIA ve Kakao; Apple desteğinin ise ileride eklenmesi bekleniyor.
Dedektör nasıl çalışıyor, sınırları neler?
SynthID, yapay zekâyla üretilen içeriğe oluşturulma aşamasında görünmez bir kriptografik filigran yerleştiriyor. Dedektör, bu filigranı gizli bir anahtar kullanarak okuyor. Google, “güvenilir bir sinyal yok” sonucunun içeriğin insanlar tarafından üretildiğini garanti etmediğini belirtiyor: Yoğun düzenleme sonrasında filigran kaybolabilir ya da içerik üreticisi Meta veya Microsoft’un sistemleri gibi farklı bir filigran sistemi kullanmış olabilir. Yanlış negatif sonuçlar mümkün ve araç yalnızca listelenen ortakların içeriklerini kapsıyor.
Neden önemli?
Günlük kullanıcılar için dedektör, görsel, ses veya videoları çevrimiçi paylaşmadan önce kaynaklarını doğrulamanın hızlı bir yolunu sunuyor. Birden fazla markaya özel dedektör kullanma gereğini azaltıyor; ancak diğer yapay zekâ kaynaklarından gelen içerikler için daha kapsamlı bir doğrulama yaklaşımının yerini tutmuyor.
Neden önemli
Kullanıcılar artık tek bir dosyada birçok büyük yapay zekâ üreticisinin filigranını kontrol edebiliyor; bu da yapay zekâyla üretilmiş medyanın yanlışlıkla paylaşılmasını önlemeye yardımcı oluyor. Ancak dedektör diğer sağlayıcıların içeriklerinde çalışmadığından, kullanıcıların kapsamlı doğrulama için ek araçlara ihtiyacı var.
