OpenAI внедряет невидимую водяную метку textGrain для текстов, созданных ChatGPT и Codex. Для пользователей в Европейском союзе она будет включена. По словам компании, функция заработает в ближайшие несколько недель — это поможет выполнить требование закона ЕС об искусственном интеллекте: созданный ИИ текст должен поддаваться маркировке в машиночитаемом виде. Разработчики, использующие API OpenAI, смогут по своему усмотрению включать и отключать водяную метку. Это отличается от подхода Anthropic: компания принудительно добавляет метку ко всем ответам Claude по всему миру.
Как работает водяная метка и каковы её ограничения
textGrain встраивает статистический узор в выбор слов моделью — по схожему принципу работает SynthID от Google, который использует Anthropic для Claude. По внутренним тестам OpenAI, детектор находит узор примерно в 95 % текстов по психологии объёмом 400 токенов (около 300 слов), но лишь примерно в 60 % математических текстов той же длины. Даже небольшие правки снижают вероятность обнаружения: замена 10 % слов синонимами уменьшает долю успешных срабатываний примерно с 92 % до 66 %, а замена четверти слов — примерно до 17 %.
Доступ к детектору
Пока OpenAI предоставит доступ к детектору только отдельным исследователям и профильным организациям, прошедшим отбор по заявкам. Инструмент сообщит лишь о наличии водяной метки OpenAI: он не раскроет, кто написал текст и какие запросы использовались.
Почему это важно
В ответах ChatGPT для пользователей в ЕС появится скрытая метка, которую смогут распознавать регуляторы. Это поможет выполнить новые требования к маркировке. Разработчики смогут отключать метку, и тогда сторонним организациям будет сложнее выявлять тексты, созданные ИИ. Тесты также показывают, что после редактирования метку часто не удаётся обнаружить: достаточно немного перефразировать текст.
