Oossa

UniGuard: sicurezza per gli LLM, a prescindere dall’interfaccia

Il modello UniGuard da 0.6 B classifica meglio i rischi nei diversi formati di interazione e supera modelli di sicurezza più grandi nei test di benchmark.

BreveDi Pubblicato da Oossa: 1 min di lettura

Un gruppo di ricercatori guidato da Viet Thanh Pham ha presentato UniGuard, un framework di addestramento che apprende segnali di sicurezza validi allo stesso modo quando l’IA viene usata con un singolo prompt, in una conversazione, nelle tracce di un agente o in scenari multi-agente. Il gruppo ha creato un dataset di 1,000 casi pubblici relativi alla sicurezza, rappresentando ciascun caso in cinque modi diversi. Il modello UniGuard‑0.6B così ottenuto è stato addestrato con classificazione, apprendimento contrastivo e una speciale funzione di perdita per la calibrazione. Nei tre benchmark con interfacce non viste in precedenza supera il suo predecessore di circa 45 punti F1 e riduce l’errore di calibrazione di 35 punti, restando competitivo con modelli molto più grandi come Claude‑Sonnet‑4.5 e GPT‑5.2.

Perché conta

Gli sviluppatori di assistenti IA possono usare un modello di sicurezza compatto da 0.6 B, affidabile in chat, nei contesti con agenti e in quelli multi-agente, senza dover ricorrere a più modelli di sicurezza.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.