OpenAI rullar ut en osynlig vattenstämpel kallad textGrain för innehåll från ChatGPT och Codex. Den aktiveras för användare i EU. Företaget uppger att funktionen slås på under de kommande veckorna för att uppfylla EU:s AI-förordnings krav på att AI-genererad text ska kunna märkas på ett maskinläsbart sätt. Utvecklare som använder OpenAI:s API kan själva välja om vattenstämpeln ska vara på eller av. Det skiljer sig från Anthropics lösning, där alla svar från Claude förses med en vattenstämpel världen över.
Så fungerar vattenstämpeln – och dess begränsningar
textGrain bäddar in ett statistiskt mönster i modellens ordval, ungefär som Googles SynthID, som används i Anthropics Claude. I OpenAI:s interna tester upptäcker detektorn mönstret i omkring 95 % av psykologitexter på 400 token (ungefär 300 ord), men bara i cirka 60 % av matematiktexter av samma längd. Det räcker med små ändringar för att försämra upptäckten: om 10 % av orden byts ut mot synonymer sjunker träffsäkerheten från ungefär 92 % till 66 %. Om en fjärdedel av orden byts ut faller den till omkring 17 %.
Tillgång till detektorn
I nuläget ger OpenAI bara utvalda forskare och specialistorganisationer tillgång till detektorn, efter ansökan. Verktyget visar bara om en vattenstämpel från OpenAI finns där. Det avslöjar inte vem som skrev texten eller vilka promptar som användes.
Varför det spelar roll
EU-användare får en dold markör i ChatGPT-svar som myndigheter kan läsa, vilket bidrar till att uppfylla de nya märkningsreglerna. Utvecklare kan välja att ta bort markören, vilket kan påverka hur lätt det blir för andra att upptäcka AI-genererad text. Eftersom detektorn har svårt att hitta vattenstämpeln efter redigering kan användare fortfarande få bort den genom att formulera om innehållet ganska lite.
