# Nemotron 3.5 Bolt punta sull’AI locale con 24GB di memoria

> Gli autori presentano un modello visione-linguaggio 74B-A9B per attività locali con agenti e dichiarano 84 TPS su RTX Spark, con una precisione superiore a quella di modelli concorrenti di dimensioni simili.

Oossa · 2026-10-27 · https://oossa.com/it/nemotron-3-5-bolt-targets-local-ai-in-24gb-of-memory

Un nuovo articolo su arXiv presenta Nemotron 3.5 Bolt 74B-A9B 24GB, un modello visione-linguaggio pensato per attività di AI in locale, come usare strumenti, navigare sul web e lavorare nel terminale. Secondo gli autori, è progettato per computer con memoria limitata e raggiunge 84 TPS su RTX Spark, un indicatore della velocità di inferenza. L’abstract non specifica le impostazioni di test alla base di questo dato.

Il modello combina le architetture Mamba e Transformer, due approcci alla progettazione dei modelli di AI. Deriva dalla famiglia Nemotron 3.5 Super VL 120B-A12B e utilizza la compressione Star Elastic e la Quantization-Aware Distillation a 2 bit. Gli autori presentano queste tecniche come un modo per bilanciare prestazioni e uso della memoria. Il nome del modello include «24GB», ma l’abstract non specifica i requisiti hardware né chiarisce se questa sia la memoria minima necessaria.

## Per quali attività è progettato?

L’articolo si concentra sulle attività agentiche: compiti in cui un modello usa strumenti o interagisce con software per raggiungere un obiettivo. Gli autori affermano di aver ottimizzato Bolt per il ragionamento, l’uso di strumenti, la navigazione sul web e le interazioni con il terminale. Hanno inoltre addestrato un sistema complementare chiamato LiLiCorr, descritto come un sistema di generazione speculativa, e dichiarano che viene rilasciato insieme al modello per contribuire a raggiungere la velocità di inferenza indicata. L’abstract non spiega come installare i due sistemi né quale licenza si applichi.

Gli autori dichiarano una precisione superiore a quella dei modelli di punta con ingombro di memoria e velocità simili, nei benchmark GDPVal v2, BrowseComp e Terminal-Bench 2.1. Affermano inoltre che la velocità di Bolt è paragonabile a quella di modelli con un numero molto inferiore di parametri attivi ed è sufficiente per attività agentiche di lunga durata. L’abstract non riporta punteggi dei benchmark né confronti modello per modello, quindi dal solo riepilogo non è possibile valutare l’entità dei vantaggi.

## Quali conclusioni possono trarre gli utenti?

L’articolo presenta Bolt come un’opzione per chi vuole usare un modello visione-linguaggio per svolgere attività software su hardware locale, senza affidarsi a un servizio remoto. Il riferimento ai 24GB e il dato di velocità su RTX Spark danno un’indicazione dell’impiego previsto, ma non dimostrano quali prestazioni si possano ottenere su altri computer. Le affermazioni contenute nell’articolo provengono dagli autori del modello; l’abstract non riporta test indipendenti né informazioni su come accedervi.

## I fatti

- Nemotron 3.5 Bolt si chiama 74B-A9B 24GB e deriva dalla famiglia Nemotron 3.5 Super VL 120B-A12B.
- Il modello combina le architetture Mamba e Transformer e utilizza la compressione Star Elastic con la Quantization-Aware Distillation a 2 bit.
- Gli autori dichiarano 84 TPS su RTX Spark.
- Gli autori citano GDPVal v2, BrowseComp e Terminal-Bench 2.1, ma l’abstract non riporta i punteggi.

## Perché conta

Per chi vuole eseguire un agente AI sul proprio computer, Bolt viene presentato come un modello pensato per gestire attività in locale con un ingombro di memoria di 24GB. Gli autori dichiarano risultati promettenti in termini di velocità e nei benchmark, ma l’abstract non indica quali computer, oltre a RTX Spark, possano eseguirlo né fornisce punteggi dettagliati: le prestazioni nell’uso pratico restano quindi incerte.

## Fonti e riferimenti

1. [Nemotron 3.5 Bolt 74B-A9B 24GB: A Hybrid Vision-Language Model for Local AI](https://arxiv.org/abs/2610.33039) – arXiv cs.CV, 2026-10-27

Ultimo aggiornamento: 2026-10-27