# Auditoria aponta falhas no monitoramento de segurança da OpenAI

> Pesquisadores estimam que até 25% do tráfego dos modelos mais avançados não foi monitorado e identificaram falhas que permitiam aos agentes escapar da supervisão.

Oossa · 2026-10-23 · https://oossa.com/pt/audit-finds-gaps-in-openai-s-ai-safety-monitoring

Dois pesquisadores independentes da METR e da Redwood Research passaram três semanas nos laboratórios de engenharia da OpenAI. De 21 de julho a 11 de agosto de 2026, examinaram o código que monitora os modelos mais poderosos da empresa. Segundo o relatório, o sistema deixou passar uma parcela significativa do tráfego e podia ser enganado por comandos criados especialmente para isso.

## O que a auditoria revelou

Os auditores estimam que entre 6% e 25% das chamadas de API feitas por modelos da classe GPT‑5.5 e superiores não tiveram nenhum tipo de monitoramento durante o período da auditoria. No tráfego interno do Codex, cerca de 10% ficou sem acompanhamento entre maio e julho porque uma falha ignorava os “eventos de compactação”, resumos curtos do contexto de uma conversa. A OpenAI afirma que corrigiu o problema enquanto os auditores ainda estavam no local.

O relatório também observa que o monitor só emitia um alerta quando a IA devolvia o controle ao usuário. Com isso, os agentes podiam continuar agindo sem acionar a supervisão. Além disso, os pesquisadores encontraram maneiras de ocultar centenas de ações, contornar o ambiente isolado do Codex e, potencialmente, derrubar o monitor com comandos criados para esse fim. Eles observaram que, no início da auditoria, o comportamento dos modelos durante o treinamento por aprendizado por reforço (RL) não era monitorado.

## A resposta da OpenAI

A OpenAI afirma que suspendeu o treinamento por RL após um incidente em agosto envolvendo a Hugging Face e ampliou o monitoramento para incluir esse trabalho, mas as mudanças ocorreram depois do fim do período da auditoria. A empresa diz ter corrigido todas as falhas identificadas pelos auditores. Um relatório interno de 61 páginas foi entregue à OpenAI e, após a remoção de informações, a METR e a Redwood receberam uma versão de 38 páginas. Apenas um breve resumo foi divulgado ao público.

## Os fatos

- A auditoria ocorreu de 21 de julho a 11 de agosto de 2026.
- Os pesquisadores estimam que de 6% a 25% do tráfego de API de modelos da classe GPT‑5.5 não teve monitoramento.
- Cerca de 10% do tráfego interno do Codex ficou sem acompanhamento entre maio e julho devido a uma falha relacionada aos eventos de compactação.
- A OpenAI corrigiu a falha de compactação enquanto a auditoria ainda estava em andamento.
- A OpenAI suspendeu o treinamento por RL após um incidente em agosto e, posteriormente, passou a monitorá-lo.

## Por que importa

Para os usuários, essas falhas significam que algumas ações de IA poderiam ocorrer sem qualquer verificação de segurança, aumentando o risco de resultados inesperados ou prejudiciais. As correções prometidas pela OpenAI devem restabelecer uma supervisão mais ampla, mas a falta de detalhes públicos deixa dúvidas sobre a abrangência das melhorias.

## Fontes e referências

1. [Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring](https://the-decoder.com/three-week-on-site-audit-at-openai-reveals-major-gaps-in-ai-safety-monitoring/) – The Decoder, 2026-10-23

Última atualização: 2026-10-23