# METR y Redwood detectan fallos en la supervisión de OpenAI

> Dos organizaciones sin fines de lucro encontraron formas de eludir la supervisión interna de OpenAI durante un programa piloto. La empresa afirma que corrigió las vulnerabilidades que afectaban a las protecciones en producción.

Oossa · 2026-10-22 · https://oossa.com/es/metr-and-redwood-find-monitoring-gaps-in-openai-pilot

Las organizaciones sin fines de lucro METR y Redwood Research afirman que detectaron varias debilidades hasta ahora desconocidas en el sistema interno de OpenAI, que vigila si los modelos de IA se comportan de acuerdo con los intereses y valores humanos. Según las organizaciones, una de las vulnerabilidades podía permitir que los agentes de IA dejaran sin supervisar “cientos” de acciones recientes.

Los hallazgos surgieron de un programa piloto en el que un empleado de cada organización obtuvo acceso al código de OpenAI, a la documentación y a parte del personal técnico. Los empleados estuvieron acompañados y utilizaron dispositivos proporcionados por OpenAI que permanecieron en las instalaciones de la empresa.

## Qué evaluaron las organizaciones

El ejercicio de tres semanas se llevó a cabo del 21 de julio al 11 de agosto. METR y Redwood señalaron que probaron el sistema de supervisión tal como existía el 21 de julio y antes de esa fecha, mientras OpenAI lo ampliaba durante el programa piloto. Según el comunicado de las organizaciones, OpenAI les informó que había corregido las vulnerabilidades que afectaban a sus protecciones en producción.

Las organizaciones compartieron con OpenAI un informe de 61 páginas, pero solo publicaron un resumen general. Explicaron que el programa piloto no pretendía ofrecer al público una transparencia exhaustiva sobre el sistema de supervisión y que esperan compartir más detalles sobre futuros ejercicios.

## Una prueba de acceso externo

El programa piloto también examinó cómo podría ser dar a investigadores independientes acceso profundo a los sistemas de OpenAI. En septiembre, el CEO Sam Altman se comprometió a ofrecer a evaluadores externos “un acceso similar al de los empleados”. A principios de octubre, OpenAI dijo que estaba ultimando contratos con evaluadores de seguridad externos.

El modelo de evaluación independiente aún está tomando forma. El informe no describe públicamente las vulnerabilidades en detalle, y la información disponible no permite establecer si investigadores externos verificaron de forma independiente que las correcciones funcionan.

## Los hechos

- El programa piloto de METR y Redwood se llevó a cabo del 21 de julio al 11 de agosto.
- Un empleado de cada organización accedió al código y la documentación de OpenAI, así como a parte de su personal técnico, bajo supervisión.
- Las organizaciones señalaron que una de las vulnerabilidades podía ocultar cientos de acciones recientes a los sistemas de supervisión.
- Las organizaciones compartieron con OpenAI un informe interno de 61 páginas y publicaron un resumen general.
- OpenAI informó a las organizaciones que había corregido las vulnerabilidades que afectaban a las protecciones en producción.

## Por qué importa

Para quienes confían en las protecciones de OpenAI, el programa piloto detectó que algunas acciones recientes de los agentes podían eludir la supervisión, aunque OpenAI afirma haber corregido las vulnerabilidades que afectaban a los sistemas en producción. El resumen público no ofrece suficientes detalles para evaluar las correcciones de forma independiente, por lo que su eficacia sigue sin estar clara.

## Fuentes y referencias

1. [Third-party evaluators find vulnerabilities in OpenAI monitoring system during test pilot](https://www.cnbc.com/2026/10/22/metr-redwood-research-open-ai-test.html) – CNBC, 2026-10-22

Última actualización: 2026-10-22