OpenAI está incorporando textGrain, una marca de agua invisible para el contenido generado por ChatGPT y Codex que estará activa para los usuarios de la Unión Europea. La empresa afirma que la función se activará en las próximas semanas para cumplir el requisito de la Ley de IA de la UE de que el texto generado pueda etiquetarse de forma legible por máquinas. Los desarrolladores que usan la API de OpenAI podrán activar o desactivar la marca de agua cuando quieran, una opción distinta de la que ofrece Anthropic, que obliga a incluir una marca de agua en todas las respuestas de Claude en todo el mundo.
Cómo funciona la marca de agua y cuáles son sus límites
textGrain incorpora un patrón estadístico en la elección de palabras del modelo, de forma similar a SynthID de Google, que usa Anthropic en Claude. Según las pruebas internas de OpenAI, el detector encuentra el patrón en aproximadamente el 95 % de pasajes de psicología de 400 tokens (unas 300 palabras), pero solo en alrededor del 60 % de pasajes de matemáticas de la misma extensión. Basta con modificar una pequeña parte del texto para reducir la detección: sustituir el 10 % de las palabras por sinónimos baja la tasa de aciertos de aproximadamente el 92 % al 66 %, y reemplazar una cuarta parte de las palabras la reduce a cerca del 17 %.
Acceso al detector
Por ahora, OpenAI dará acceso al detector únicamente a investigadores seleccionados y organizaciones especializadas, mediante un proceso de solicitud. La herramienta solo indicará si hay una marca de agua de OpenAI; no revelará quién escribió el texto ni qué instrucciones se usaron.
Por qué importa
Los usuarios de la UE verán una marca oculta en el contenido de ChatGPT que los reguladores podrán leer, lo que ayudará a cumplir las nuevas normas de etiquetado. Los desarrolladores podrán optar por ocultarla, lo que puede dificultar que terceros detecten el texto generado por IA. La baja tasa de detección tras editar el texto significa que los usuarios aún podrían eliminar la marca de agua con algunos cambios de redacción.
