Oossa

معرفی UniGuard؛ مدل ایمنی سازگار با قالب‌های مختلف تعامل

مدل 0.6 B UniGuard در ارزیابی ایمنی، عملکرد بهتری در قالب‌های گوناگون تعامل دارد و در آزمون‌های معیار از مدل‌های محافظ بزرگ‌تر پیشی می‌گیرد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پژوهشگرانی به سرپرستی ویت تان فام، UniGuard را منتشر کردند؛ چارچوبی آموزشی که نشانه‌های ایمنی را طوری می‌آموزد که فارغ از نحوه استفاده از هوش مصنوعی ــ چه در قالب یک پرامپت، گفت‌وگو، ردپای یک عامل یا سناریوی چندعاملی ــ به یک شکل عمل کنند. آن‌ها مجموعه‌داده‌ای شامل 1,000 نمونه عمومی ایمنی ساختند و هر نمونه را به پنج شکل متفاوت درآوردند. سپس مدل UniGuard‑0.6B را با استفاده از طبقه‌بندی، یادگیری کنتراستی و یک تابع زیان ویژه برای کالیبراسیون آموزش دادند. این مدل در سه آزمون معیار با رابط‌های نادیده، حدود 45 امتیاز F1 از نسخه قبلی خود بهتر عمل می‌کند و خطای کالیبراسیون را 35 امتیاز کاهش می‌دهد؛ در عین حال، با مدل‌های بسیار بزرگ‌تری مانند Claude‑Sonnet‑4.5 و GPT‑5.2 رقابت می‌کند.

چرا مهم است

توسعه‌دهندگان دستیارهای هوش مصنوعی می‌توانند از یک مدل محافظ کوچک 0.6 B استفاده کنند که در گفت‌وگوها، زمینه‌های عاملی و چندعاملی قابل‌اعتماد می‌ماند و نیاز به چندین مدل ایمنی را کاهش می‌دهد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.