OpenAI, ChatGPT ve Codex’in ürettiği metinlere textGrain adlı görünmez bir filigran eklemeye başlıyor. Bu özellik Avrupa Birliği’ndeki kullanıcılar için etkin olacak. Şirket, yapay zekâ tarafından üretilen metinlerin makine tarafından okunabilir biçimde işaretlenmesini öngören AB Yapay Zekâ Yasası’nın şartını karşılamak üzere özelliğin önümüzdeki birkaç hafta içinde devreye alınacağını söylüyor. OpenAI API’sini kullanan geliştiriciler filigranı istedikleri zaman açıp kapatabilecek. Bu yaklaşım, Claude’un tüm çıktılarında filigranı dünya genelinde zorunlu tutan Anthropic’inkinden farklı.
Filigran nasıl çalışıyor, sınırları neler?
textGrain, modelin sözcük seçimlerine istatistiksel bir örüntü yerleştiriyor. Anthropic’in Claude için kullandığı Google SynthID’ye benzer şekilde çalışıyor. OpenAI’nin şirket içi testlerine göre algılayıcı, 400 tokenlık (yaklaşık 300 kelimelik) psikoloji metinlerinde örüntüyü yaklaşık %95 oranında buluyor; aynı uzunluktaki matematik metinlerinde ise bu oran yaklaşık %60. Metnin küçük bir bölümünü değiştirmek bile algılamayı zorlaştırıyor: Sözcüklerin %10’unu eş anlamlılarıyla değiştirmek başarı oranını yaklaşık %92’den %66’ya düşürüyor; sözcüklerin dörtte birini değiştirmekse oranı yaklaşık %17’ye indiriyor.
Algılayıcıya erişim
OpenAI şimdilik algılayıcıya yalnızca başvuru süreci üzerinden seçilmiş araştırmacılar ve uzman kuruluşların erişmesine izin verecek. Araç, metinde OpenAI filigranının bulunup bulunmadığını bildirmekle yetinecek; metni kimin yazdığını veya kullanılan istemleri açıklamayacak.
Neden önemli
AB’deki kullanıcıların ChatGPT çıktılarında, düzenleyicilerin okuyabileceği gizli bir işaret bulunacak. Bu, yeni etiketleme kurallarına uyulmasına yardımcı olacak. Geliştiriciler işareti gizlemeyi seçebilecek; bu da üçüncü tarafların yapay zekâ tarafından üretilen metinleri tespit etmesini zorlaştırabilir. Metin düzenlendiğinde algılama oranının düşmesi, içeriğin küçük değişikliklerle filigrandan arındırılabileceği anlamına geliyor.
