OpenAI sta introducendo textGrain, una filigrana invisibile per i contenuti generati da ChatGPT e Codex, che sarà attiva per gli utenti nell’Unione europea. L’azienda afferma che la funzione verrà attivata nelle prossime settimane per rispettare il requisito dell’AI Act dell’UE secondo cui i testi generati devono poter essere etichettati in modo leggibile dalle macchine. Gli sviluppatori che utilizzano le API di OpenAI potranno invece attivare o disattivare la filigrana a piacimento: una scelta diversa da quella di Anthropic, che impone la filigrana su tutti i contenuti generati da Claude in tutto il mondo.
Come funziona la filigrana e quali sono i suoi limiti
textGrain inserisce uno schema statistico nella scelta delle parole del modello, in modo simile a SynthID di Google, utilizzato da Claude di Anthropic. Nei test interni di OpenAI, il rilevatore individua lo schema in circa il 95 % dei brani di psicologia da 400 token (all’incirca 300 parole), ma solo in circa il 60 % dei brani di matematica della stessa lunghezza. Anche modificare una piccola parte del testo riduce la capacità di rilevamento: sostituendo il 10 % delle parole con sinonimi, la percentuale scende da circa il 92 % al 66 %; sostituendone un quarto, cala a circa il 17 %.
Accesso al rilevatore
Per ora, OpenAI concederà l’accesso al rilevatore soltanto a ricercatori selezionati e organizzazioni specializzate, tramite una procedura di richiesta. Lo strumento si limiterà a indicare se è presente una filigrana di OpenAI; non rivelerà chi ha scritto il testo né quali prompt sono stati utilizzati.
Perché conta
Gli utenti dell’UE troveranno un contrassegno nascosto nei contenuti generati da ChatGPT, leggibile dalle autorità di regolamentazione e utile a rispettare i nuovi obblighi di etichettatura. Gli sviluppatori potranno scegliere di rimuoverlo, il che potrebbe rendere più difficile per terzi individuare i testi generati dall’IA. Il basso tasso di rilevamento dopo le modifiche indica che gli utenti potrebbero comunque riuscire a rimuovere la filigrana riformulando anche solo in parte il testo.
