OpenAI planea usar datos de las sesiones de ciberseguridad de Daybreak Blue para entrenar sus modelos a partir del 29 de noviembre. Según The Decoder, un correo electrónico dirigido a los miembros del programa Trusted Access confirmó el cambio. Hasta ahora, estas sesiones habían quedado excluidas del entrenamiento, incluso para quienes habían desactivado el ajuste general «mejorar el modelo para todos».
Tras las objeciones de los miembros, OpenAI envió un segundo correo en el que prometió una opción independiente para excluir las sesiones de Daybreak Blue. Los correos no explican cómo funcionará esa opción ni si cada usuario tendrá que activarla. OpenAI afirma que las interacciones señaladas durante las revisiones de seguridad podrían seguir utilizándose con fines de seguridad, por lo que excluirse del entrenamiento no necesariamente impedirá todo uso de los datos de las sesiones.
Por qué preocupa a los investigadores
El cambio de política plantea dudas sobre si el material compartido en sesiones de investigación especializada o técnicas podría contribuir más adelante al entrenamiento de modelos. The Decoder menciona a los matemáticos Tristan Buckmaster y Levent Alpöge, quienes subieron a Codex, de OpenAI, borradores sobre las ecuaciones de Navier-Stokes. Más tarde, OpenAI presentó su propia demostración y negó haber usado sus aportes para entrenar modelos.
Esa negativa no disipó las sospechas de los investigadores, y el episodio puso de manifiesto los riesgos que pueden surgir cuando se comparte trabajo inédito con una herramienta de IA. El relato no demuestra que OpenAI haya usado los borradores de los matemáticos para entrenar un modelo. Se trata de un ejemplo distinto de por qué los investigadores pueden querer límites claros sobre el tratamiento del material que envían.
Qué deben saber los usuarios
Para los miembros de Trusted Access, el cambio importante es que las sesiones de Daybreak Blue ya no estarán cubiertas por la exclusión general del entrenamiento que se aplicaba hasta ahora. Según el plan anunciado, el ajuste general para mejorar los modelos para todos no bastará por sí solo para mantener esa exclusión.
OpenAI ha prometido una forma independiente de excluirse, pero la información disponible no indica cuándo estará disponible, cuál será su opción predeterminada ni si se aplicará a las sesiones anteriores. La fecha prevista de inicio es el 29 de noviembre; el anuncio proporcionado no especifica el año. El uso durante las revisiones de seguridad también constituye una excepción distinta del entrenamiento, así que ambos fines no deben confundirse con un mismo ajuste.
Por qué importa
Los miembros de Trusted Access que usan Daybreak Blue no deberían dar por hecho que desactivar el ajuste general para mejorar los modelos mantiene esas sesiones fuera del entrenamiento. OpenAI ha prometido una opción independiente para excluirse, pero no ha especificado cuándo estará disponible ni cuál será su configuración predeterminada; el uso durante las revisiones de seguridad podría continuar.
