# Uber описала систему защиты ИИ-агентов

> Система Uber проверяет агентов до запуска, во время работы и после выпуска, оценивая предлагаемые ими действия с учётом контекста.

Oossa · 2026-11-15 · https://oossa.com/ru/uber-outlines-security-framework-for-ai-agents

Uber Engineering описала систему, которая позволяет определить, соответствует ли предлагаемое ИИ-агентом действие запросу пользователя, назначению агента, его разрешениям и контексту взаимодействия. В Uber отмечают, что стандартные средства управления идентификацией и API могут проверять доступ, но не уместность действия.

Система охватывает три этапа: регистрацию и проверку безопасности до запуска, проверки во время работы с помощью AI Guards и хуков Agent Guard, а также постоянный анализ журналов выполнения и воспроизводимых взаимодействий. По словам Uber, наиболее эффективным средством контроля оказались явные ограничения и задачи, заданные для каждого агента отдельно, однако их настройка требует усилий, объём которых растёт с числом рабочих процессов.

## Факты

- До запуска инструмент Uber под названием Argus анализирует код агентов, промпты, конфигурации, зависимости, конечные точки и пути вызова инструментов.
- После запуска записанные взаимодействия можно воспроизводить, чтобы оценивать обновлённые политики и защитные механизмы.

## Почему это важно

Командам, разрабатывающим ИИ-агентов, подход Uber предлагает способ проверять действия с учётом контекста. Однако настройка правил для каждого агента может потребовать значительных усилий, а в описании не объясняется, как применять их к агентам сторонних поставщиков.

## Источники и ссылки

1. [Uber's Secure AI Framework Governs Autonomous AI Agents Across Their Lifecycle](https://www.infoq.com/news/2026/11/uber-secure-ai-framework/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=AI%2C+ML+%26+Data+Engineering) – InfoQ, 2026-11-15

Обновлено: 2026-11-15
