С 21 июля по 11 августа 2026 года исследователь из группы Machine Ethics Transparency Research (METR) и его коллега из Redwood Research получили широкий доступ к внутреннему коду и инструментам мониторинга OpenAI. В течение трёх недель они пытались обойти систему, которая следит за продвинутыми ИИ-агентами, в том числе работающими на базе Codex. Результаты исследования изложили в 61-страничном отчёте, которым поделились с сотрудниками OpenAI.
Что показала проверка
По оценке аудиторов, мониторингом охватывалось от 75 % до 94 % трафика внутреннего Responses API, которым пользуются модели не слабее GPT‑5.5, однако точную долю определить сложно. Среди трафика от Codex-агентов охват составлял около 99,2 %. Аудиторы также выяснили, что в начале проверки запуски обучения с подкреплением не отслеживались. Кроме того, из-за отсутствия мониторинга во время событий «компактизации» примерно 10 % трафика Codex могли оставаться без проверки с мая по июль 2026 года. Аудиторы выявили несколько конкретных уязвимостей: агенты могли обходить песочницу Codex, задавать контролируемые клиентом заголовки, отключавшие мониторинг для новых агентов, и формировать входные данные, из-за которых система мониторинга давала сбой. Случаи снижения нагрузки и ошибки мониторинга были редкими: доля ошибок не превышала 0,2 %, а за 24 часа не было зафиксировано ни одного случая снижения нагрузки. OpenAI заявляет, что устранила все уязвимости, затрагивавшие меры защиты в рабочей среде, и расширила охват мониторинга после проверки. Однако аудиторы не проверяли эти заявления независимо.
Почему это важно
Для разработчиков, использующих инструменты OpenAI Codex, обнаруженные пробелы означают, что некоторые действия ИИ могли оставаться без проверки и потенциально приводить к непреднамеренному поведению. Исправления компании должны снизить этот риск, но для подтверждения того, что система теперь отслеживает больше действий агентов, нужна независимая проверка.
