# NVIDIA lancia Nemotron‑Labs‑Sigma, un modello linguistico a diffusione più veloce

> NVIDIA rende disponibili 14 checkpoint aperti di modelli da 3B e 8B parametri, capaci di decodificare fino a 4,2× più velocemente dei tradizionali LLM autoregressivi.

Oossa · 2026-11-20 · https://oossa.com/it/nvidia-releases-nemotron-labs-sigma-a-faster-continuous-diffusion-language-model

NVIDIA ha annunciato una nuova famiglia di modelli linguistici, chiamata Nemotron‑Labs‑Sigma. L’azienda ha pubblicato 14 checkpoint — versioni da tre miliardi di parametri (3B) e da otto miliardi di parametri (8B) — sull’hub di modelli Hugging Face. I modelli si basano su un processo di diffusione continua che rimuove il rumore dal testo in uno spazio di embedding appreso a 16 dimensioni. Secondo NVIDIA, questo consente di generare testo fino a 4.20 volte più velocemente rispetto alla decodifica autoregressiva standard.

## Cosa cambia con l’approccio a diffusione?

I tradizionali modelli linguistici di grandi dimensioni (LLM) generano un token dopo l’altro, con un metodo chiamato decodifica autoregressiva. Nemotron‑Labs‑Sigma parte invece da una rappresentazione rumorosa dell’intera frase e rimuove il rumore in modo iterativo, in maniera simile ai modelli di diffusione per immagini. Poiché il processo di diffusione avviene in uno spazio a bassa dimensionalità, NVIDIA può distillarlo in pochissimi passaggi — appena due passaggi in avanti per il modello 3B — mantenendo alta la qualità. L’azienda ha inoltre aggiunto una modalità “speculativa” a un solo passaggio per il checkpoint 8B, che aumenta di un ulteriore 3.5× la velocità di elaborazione nel benchmark GB200.

## Prestazioni nei benchmark

Nel documento che presenta i modelli, gli autori hanno confrontato Sigma con i modelli di diffusione discreta più avanzati e con i modelli autoregressivi standard su una serie di attività. Dopo il pre-addestramento, Sigma ha superato gli altri nei benchmark di matematica e programmazione, tra cui GSM8K, HumanEval e MBPP. Dopo il fine-tuning supervisionato, il vantaggio è aumentato nei problemi più difficili, come MATH‑500 e AIME, con i miglioramenti maggiori nella generazione di codice. Le versioni distillate con pochi passaggi hanno fatto registrare un’accelerazione di circa 8× nelle attività matematiche e di 4× in quelle di programmazione, con una lieve perdita di accuratezza.

## I fatti

- NVIDIA ha pubblicato 14 checkpoint aperti — tre modelli base 3B e tre 8B, oltre alle varianti distillate — il 20 Nov 2026.
- Il processo di diffusione opera in uno spazio di embedding appreso a 16 dimensioni e può decodificare fino a 4.20 volte più velocemente rispetto alla decodifica autoregressiva.
- La distillazione in pochi passaggi offre un’accelerazione di circa 8× nei benchmark matematici e di 4× in quelli di programmazione, con una perdita di accuratezza trascurabile.
- La decodifica speculativa a un solo passaggio sul modello 8B distillato aggiunge un ulteriore aumento di circa 3.5× della velocità di elaborazione rispetto alla controparte autoregressiva nel benchmark GB200.
- I pesi e il codice del modello sono disponibili pubblicamente su Hugging Face; il documento che lo accompagna è su arXiv (arXiv:2610.02665).

## Perché conta

Per gli sviluppatori che hanno bisogno di risposte rapide — ad esempio per assistenti di programmazione o chatbot in tempo reale — la decodifica più veloce di Sigma potrebbe ridurre la latenza e i costi del cloud. I checkpoint aperti consentono inoltre ai ricercatori di sperimentare la generazione basata sulla diffusione senza dover addestrare i modelli da zero. Le dichiarazioni sulle prestazioni non sono ancora state verificate in modo indipendente, quindi i vantaggi nell’uso reale potrebbero variare.

## Fonti e riferimenti

1. [NVIDIA AI Releases Nemotron-Labs-Sigma, a Continuous Diffusion Language Model with 14 checkpoints at 3B/8B](https://www.marktechpost.com/2026/11/20/nvidia-nemotron-labs-sigma-continuous-diffusion-language-model/) – MarkTechPost, 2026-11-20
2. [Large Language Continuous Diffusion Models](https://arxiv.org/abs/2610.02665) – arXiv, 2026-10-05
3. [NVIDIA](https://huggingface.co/collections/nvidia/nemotron-labs-sigma) – NVIDIA

Ultimo aggiornamento: 2026-11-20
