Swordfish Security представила версию 2.0 своего фреймворка для оценки зрелости безопасности ИИ-систем. В обновление добавили два домена: безопасность агентских систем и RAG-пайплайнов — систем, которые используют внешние данные для подготовки ответов модели.
Новый домен для агентов помогает отдельно оценивать их действия и доступ к инструментам. Раздел о RAG охватывает контроль данных, их связь с моделями, версии и происхождение компонентов. Компания говорит, что фреймворк поможет определить текущий уровень контроля и наметить дальнейшие шаги. Документ будет бесплатным для инженеров по кибербезопасности и разработчиков.
Почему это важно
Для команд кибербезопасности фреймворк предлагает отдельные направления проверки агентов и используемых ими данных; источник не уточняет, где и когда можно получить документ.
