Oossa

UniGuard представила модель безопасности для разных форматов общения

Модель UniGuard на 0,6 млрд параметров точнее классифицирует риски в разных форматах взаимодействия и превосходит более крупные защитные модели в тестах.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Исследователи во главе с Вьет Тхань Фамом представили UniGuard — обучающую систему, которая выявляет сигналы риска одинаково надёжно, используется ли ИИ для обработки отдельного запроса, ведения диалога, выполнения цепочки действий агентом или взаимодействия нескольких агентов. Они составили набор из 1 000 общедоступных примеров, связанных с безопасностью, и подготовили для каждого по пять вариантов представления. Полученную модель UniGuard‑0.6B обучали с помощью классификации, контрастивного обучения и специальной функции потерь для калибровки. В трёх тестах с незнакомыми форматами взаимодействия она превосходит предыдущую версию примерно на 45 баллов F1 и снижает ошибку калибровки на 35 пунктов, при этом не уступая значительно более крупным моделям, таким как Claude‑Sonnet‑4.5 и GPT‑5.2.

Почему это важно

Разработчики ИИ-ассистентов могут использовать компактную защитную модель на 0,6 млрд параметров, надёжную в чатах, сценариях с агентами и взаимодействии нескольких агентов. Это снижает потребность в нескольких отдельных моделях безопасности.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.