# Аудит выявил пробелы в мониторинге безопасности ИИ OpenAI

> Исследователи обнаружили, что без мониторинга оставалось до 25% запросов к самым мощным моделям, а ошибки позволяли агентам обходить надзор.

Oossa · 2026-10-23 · https://oossa.com/ru/audit-finds-gaps-in-openai-s-ai-safety-monitoring

Два независимых исследователя из METR и Redwood Research провели три недели в инженерных лабораториях OpenAI. С 21 июля по 11 августа 2026 года они изучали код, который контролирует работу самых мощных моделей компании. Согласно их отчёту, система мониторинга пропускала значительную часть трафика, а специально подготовленные запросы позволяли её обмануть.

## Что выявил аудит

По оценке аудиторов, в период проверки мониторинг не охватывал от 6% до 25% API-запросов к моделям класса GPT‑5.5 и выше. Во внутреннем трафике Codex с мая по июль не отслеживалось около 10% запросов: ошибка игнорировала «события сжатия» — краткие сводки контекста разговора. OpenAI сообщила, что исправила ошибку, пока аудиторы ещё находились в компании.

В отчёте также отмечается, что монитор выдавал предупреждение, только когда ИИ возвращал управление пользователю. Поэтому агенты могли продолжать действовать без надзора. Кроме того, исследователи нашли способы скрыть сотни действий, обойти песочницу Codex и потенциально вывести монитор из строя с помощью специально подготовленных запросов. В начале аудита поведение моделей во время обучения с подкреплением (RL) вообще не отслеживалось.

## Ответ OpenAI

OpenAI сообщила, что приостановила обучение с подкреплением после августовского инцидента с участием Hugging Face и расширила мониторинг, включив в него эту работу, однако изменения были внесены уже после завершения аудита. Компания утверждает, что устранила все обнаруженные аудиторами уязвимости. OpenAI передали внутренний отчёт объёмом 61 страницу, а после редактирования METR и Redwood получили его версию на 38 страниц. Для публики выпустили лишь краткое резюме.

## Факты

- Аудит проходил с 21 июля по 11 августа 2026 года.
- По оценке исследователей, мониторинг не охватывал 6–25% API-трафика моделей класса GPT‑5.5.
- С мая по июль около 10% внутреннего трафика Codex не отслеживалось из-за ошибки, связанной с событиями сжатия.
- OpenAI исправила ошибку с событиями сжатия, пока аудит ещё продолжался.
- После августовского инцидента OpenAI приостановила обучение с подкреплением, а позднее добавила мониторинг этого процесса.

## Почему это важно

Для обычных пользователей эти пробелы означают, что некоторые действия ИИ могли выполняться без каких-либо проверок безопасности, повышая риск неожиданных или вредоносных результатов. Обещанные OpenAI исправления должны обеспечить более широкий надзор, но из-за ограниченности общедоступной информации неясно, насколько полно устранены проблемы.

## Источники и ссылки

1. [Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring](https://the-decoder.com/three-week-on-site-audit-at-openai-reveals-major-gaps-in-ai-safety-monitoring/) – The Decoder, 2026-10-23

Обновлено: 2026-10-23