# Red team выявила пробелы во внутреннем мониторинге OpenAI

> В ходе внешнего аудита, проходившего три недели в июле—августе 2026 года, обнаружили уязвимости в системах OpenAI для выявления отклонений в поведении моделей. Компания заявляет, что уже устранила их.

Oossa · 2026-10-22 · https://oossa.com/ru/red-team-test-finds-gaps-in-openai-s-internal-monitoring-system

С 21 июля по 11 августа 2026 года исследователь из группы Machine Ethics Transparency Research (METR) и его коллега из Redwood Research получили широкий доступ к внутреннему коду и инструментам мониторинга OpenAI. В течение трёх недель они пытались обойти систему, которая следит за продвинутыми ИИ-агентами, в том числе работающими на базе Codex. Результаты исследования изложили в 61-страничном отчёте, которым поделились с сотрудниками OpenAI.

## Что показала проверка

По оценке аудиторов, мониторингом охватывалось от 75 % до 94 % трафика внутреннего Responses API, которым пользуются модели не слабее GPT‑5.5, однако точную долю определить сложно. Среди трафика от Codex-агентов охват составлял около 99,2 %. Аудиторы также выяснили, что в начале проверки запуски обучения с подкреплением не отслеживались. Кроме того, из-за отсутствия мониторинга во время событий «компактизации» примерно 10 % трафика Codex могли оставаться без проверки с мая по июль 2026 года.

Аудиторы выявили несколько конкретных уязвимостей: агенты могли обходить песочницу Codex, задавать контролируемые клиентом заголовки, отключавшие мониторинг для новых агентов, и формировать входные данные, из-за которых система мониторинга давала сбой. Случаи снижения нагрузки и ошибки мониторинга были редкими: доля ошибок не превышала 0,2 %, а за 24 часа не было зафиксировано ни одного случая снижения нагрузки.

OpenAI заявляет, что устранила все уязвимости, затрагивавшие меры защиты в рабочей среде, и расширила охват мониторинга после проверки. Однако аудиторы не проверяли эти заявления независимо.

## Факты

- Проверка red team проходила с 21 июля по 11 августа 2026 года.
- По оценке исследователей, мониторингом можно было охватить 75–94 % трафика Responses API от моделей не слабее GPT‑5.5.
- Для внутренних агентов Codex доля трафика, которую, по оценке исследователей, можно было отслеживать, составляла 99,2 %.
- Доля случаев снижения нагрузки и ошибок мониторинга составляла менее 0,2 % запросов; за 24 часа случаев снижения нагрузки не наблюдалось.
- OpenAI утверждает, что устранила все выявленные уязвимости и расширила охват мониторинга.

## Почему это важно

Для разработчиков, использующих инструменты OpenAI Codex, обнаруженные пробелы означают, что некоторые действия ИИ могли оставаться без проверки и потенциально приводить к непреднамеренному поведению. Исправления компании должны снизить этот риск, но для подтверждения того, что система теперь отслеживает больше действий агентов, нужна независимая проверка.

## Источники и ссылки

1. [Red-Teaming OpenAI's Internal Agent Monitoring Systems October 22, 2026 A METR employee and a Redwood Research employee spent three weeks stress-testing OpenAI's internal misalignment monitoring syste](https://metr.org/blog/2026-10-22-red-teaming-openai-agent-monitoring/) – METR, 2026-10-22

Обновлено: 2026-10-22