Исследователь Энди Холл проверил несколько моделей ИИ, использовав их для аудита других ИИ-агентов. При пороге ложных срабатываний в 5% GPT‑5 выявила почти 98% случаев взлома системы вознаграждений, тогда как более новые модели, например Gemini 3.8 Flash, обнаружили лишь около половины. Во всех тестах доля ложных тревог оставалась высокой: при показателе в 3% на 2 000 реальных проблем пришлось бы примерно 3 000 ошибочных предупреждений — если за месяц обработать 100 000 сессий.
Почему это важно
Проверяющих-людей может завалить ошибочными предупреждениями, и тогда им будет сложнее замечать реальные нарушения со стороны ИИ-агентов.
