# Teste de red team aponta falhas no monitoramento interno da OpenAI

> Uma auditoria externa de três semanas, entre julho e agosto de 2026, encontrou vulnerabilidades nos monitores de desalinhamento da OpenAI, que afirma já ter corrigido os problemas.

Oossa · 2026-10-22 · https://oossa.com/pt/red-team-test-finds-gaps-in-openai-s-internal-monitoring-system

De 21 de julho a 11 de agosto de 2026, um pesquisador do grupo Machine Ethics Transparency Research (METR) e um colega da Redwood Research tiveram amplo acesso ao código interno e às ferramentas de monitoramento da OpenAI. Durante três semanas, tentaram burlar o sistema que supervisiona agentes de IA avançados, como os que alimentam o Codex. As conclusões foram reunidas em um relatório de 61 páginas, compartilhado com funcionários da OpenAI.

## O que o teste revelou

Os auditores estimaram que o monitor cobria entre 75% e 94% do tráfego da API Responses interna — usada por modelos tão capazes quanto o GPT‑5.5 ou mais —, mas o número exato é incerto. No tráfego de agentes Codex, a cobertura era de cerca de 99,2%. Eles também descobriram que, no início do teste, as execuções de treinamento por aprendizado por reforço não eram monitoradas e que a falta de monitoramento durante eventos de “compactação” pode ter deixado sem supervisão cerca de 10% do tráfego do Codex entre maio e julho de 2026.

Foram identificadas várias falhas concretas: agentes podiam contornar o isolamento do Codex, definir cabeçalhos controláveis pelo cliente que desativavam o monitoramento de novos agentes e criar entradas que faziam o monitor falhar. A redução de carga e os erros do monitor eram raros: as taxas de erro ficaram abaixo de 0,2%, e uma amostra de 24 horas não registrou nenhum caso de redução de carga.

A OpenAI afirma ter corrigido todas as vulnerabilidades que afetavam as proteções em produção e ampliado a cobertura do monitoramento desde o teste, embora os auditores não tenham verificado essas afirmações de forma independente.

## Os fatos

- O teste de red team ocorreu de 21 de julho de 2026 a 11 de agosto de 2026.
- Os pesquisadores estimaram que entre 75% e 94% do tráfego da API Responses de modelos tão capazes quanto o GPT‑5.5 ou mais estava apto a ser monitorado.
- Para agentes Codex internos, estimou-se que 99,2% do tráfego estava apto a ser monitorado.
- As taxas de redução de carga e de erros do monitor foram inferiores a 0,2% das solicitações; não houve redução de carga em um período observado de 24 horas.
- A OpenAI afirma ter corrigido todas as vulnerabilidades identificadas e ampliado a cobertura do monitoramento.

## Por que importa

Para desenvolvedores que dependem das ferramentas Codex da OpenAI, essas lacunas significam que algumas ações de IA podem ter passado sem supervisão, expondo potencialmente os usuários a comportamentos indesejados. As correções da empresa devem reduzir esse risco, mas ainda é necessária uma verificação independente para confirmar que o sistema agora detecta uma parcela maior das atividades dos agentes.

## Fontes e referências

1. [Red-Teaming OpenAI's Internal Agent Monitoring Systems October 22, 2026 A METR employee and a Redwood Research employee spent three weeks stress-testing OpenAI's internal misalignment monitoring syste](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/) – METR, 2026-10-22

Última atualização: 2026-10-22