# Nemotron 3.5 Bolt vise l’IA locale avec 24 Go de mémoire

> Ses auteurs présentent un modèle vision-langage 74B-A9B destiné aux agents locaux. Il atteindrait 84 TPS sur RTX Spark et dépasserait en précision des modèles de taille comparable.

Oossa · 2026-10-27 · https://oossa.com/fr/nemotron-3-5-bolt-targets-local-ai-in-24gb-of-memory

Un nouvel article publié sur arXiv présente Nemotron 3.5 Bolt 74B-A9B 24GB, un modèle vision-langage conçu pour des tâches d’IA locales comme l’utilisation d’outils, la navigation sur le Web et le travail dans un terminal. Ses auteurs indiquent qu’il est destiné aux ordinateurs à mémoire limitée et qu’il atteint 84 TPS sur RTX Spark, une mesure de sa vitesse d’inférence. Le résumé ne précise pas les conditions de test associées à ce chiffre.

Le modèle combine les architectures Mamba et Transformer, deux approches de conception des modèles d’IA. Il est issu de la famille Nemotron 3.5 Super VL 120B-A12B et utilise la compression Star Elastic ainsi que la distillation avec prise en compte de la quantification sur 2 bits (Quantization-Aware Distillation). Selon les auteurs, ces méthodes visent à trouver un équilibre entre performances et consommation mémoire. Le nom du modèle comporte « 24GB », mais le résumé ne détaille pas la configuration matérielle requise et ne précise pas s’il s’agit de la mémoire minimale nécessaire.

## À quelles tâches est-il destiné ?

L’article porte sur les tâches agentiques, dans lesquelles un modèle utilise des outils ou interagit avec des logiciels pour atteindre un objectif. Les auteurs affirment avoir optimisé Bolt pour le raisonnement, l’utilisation d’outils, la navigation sur le Web et les interactions avec un terminal. Ils ont également entraîné un système compagnon appelé LiLiCorr, présenté comme un « brouillonneur spéculatif » (speculative drafter), et indiquent qu’il est fourni avec le modèle pour aider à atteindre la vitesse d’inférence visée. Le résumé n’explique ni comment installer l’un ou l’autre système ni quelle licence s’applique.

Les auteurs font état d’une précision supérieure à celle de modèles de pointe ayant une empreinte mémoire et une vitesse comparables, sur des benchmarks comme GDPVal v2, BrowseComp et Terminal-Bench 2.1. Ils affirment également que la vitesse de Bolt est comparable à celle de modèles dont le nombre de paramètres actifs est bien inférieur et qu’elle convient aux tâches agentiques de longue durée. Le résumé ne donne aucun score ni comparaison modèle par modèle : il est donc impossible d’évaluer l’ampleur de ces gains à partir de ce seul texte.

## Que peut-on en conclure ?

L’article présente Bolt comme une solution pour ceux qui souhaitent qu’un modèle vision-langage exécute des tâches logicielles sur leur matériel local, plutôt que de dépendre d’un service distant. La cible annoncée de 24GB et la vitesse mesurée sur RTX Spark donnent une idée de l’usage envisagé, mais ne permettent pas d’établir les performances sur d’autres ordinateurs. Les résultats avancés sont ceux des auteurs du modèle ; le résumé ne fournit ni tests indépendants ni informations sur son accès.

## Les faits

- Nemotron 3.5 Bolt porte le nom complet 74B-A9B 24GB et est issu de la famille Nemotron 3.5 Super VL 120B-A12B.
- Le modèle combine les architectures Mamba et Transformer et utilise la compression Star Elastic ainsi que la distillation avec prise en compte de la quantification sur 2 bits (Quantization-Aware Distillation).
- Les auteurs annoncent 84 TPS sur RTX Spark.
- Les auteurs citent GDPVal v2, BrowseComp et Terminal-Bench 2.1, mais le résumé ne donne aucun score.

## Pourquoi c'est important

Pour ceux qui souhaitent exécuter un agent d’IA sur leur propre ordinateur, Bolt est présenté comme un modèle conçu pour faire tenir des tâches locales dans une mémoire de 24GB. Les auteurs annoncent des résultats prometteurs en matière de vitesse et de benchmarks, mais le résumé ne précise pas quel matériel, en dehors de RTX Spark, peut le faire fonctionner ni ne fournit de scores détaillés. Ses performances en pratique restent donc incertaines.

## Sources et références

1. [Nemotron 3.5 Bolt 74B-A9B 24GB: A Hybrid Vision-Language Model for Local AI](https://arxiv.org/abs/2610.33039) – arXiv cs.CV, 2026-10-27

Dernière mise à jour: 2026-10-27