Oossa

UniGuard推出不受交互形式限制的LLM安全模型

0.6 B参数的UniGuard模型提升了不同交互形式下的安全分类表现,在基准测试中优于更大的护栏模型。

简讯作者: Oossa 发布日期: 1 分钟阅读

由Viet Thanh Pham领衔的研究团队发布了UniGuard。这是一套训练框架,旨在学习适用于多种使用场景的安全信号,无论AI面对的是单条提示、对话、智能体执行轨迹,还是多智能体场景。团队构建了一个包含1,000个公开安全案例的数据集,并将每个案例转化为五种不同形式。由此训练出的UniGuard‑0.6B模型采用了分类、对比学习和一种特殊的校准损失。在三个未见过的交互形式基准测试中,它比前代模型的F1分数平均高出约45点,校准误差降低35点;与此同时,其表现仍可与Claude‑Sonnet‑4.5和GPT‑5.2等大得多的模型一较高下。

为什么重要

AI助手开发者可以使用这款仅有0.6 B参数的护栏模型,让它在聊天、智能体和多智能体场景中都保持可靠,从而减少对多种安全模型的需求。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。