NVIDIA a annoncé Nemotron 3.5 Super et Nemotron 3.5 Lightning le 14 octobre 2026, et indique publier les checkpoints des modèles ainsi que des ressources complémentaires. Super compte 120 milliards de paramètres, dont 12 milliards sont utilisés par token ; Lightning est un modèle textuel de 30 milliards de paramètres au total, dont 3 milliards sont actifs par token. Les deux modèles reposent sur une architecture hybride qui associe des composants Mamba et Transformer à une structure de mélange d’experts (Mixture of Experts), qui n’active qu’une partie du modèle pour chaque token.
Les modèles sont conçus pour traiter de longs documents et exécuter des tâches de type agent, dans lesquelles un logiciel peut utiliser des outils et effectuer plusieurs étapes. Super prend en charge le texte, les images, la vidéo et les outils interactifs. NVIDIA indique que les deux modèles gèrent des fenêtres de contexte allant jusqu’à 1 million de tokens. La publication comprend des checkpoints BF16 et NVFP4 compressés, ainsi que des recettes d’entraînement et d’évaluation, des jeux de données et des outils de décodage spéculatif. L’annonce de NVIDIA ne précise ni prix ni conditions de licence.
Ce que Super peut faire, selon NVIDIA
NVIDIA indique que Super, après un post-entraînement, a obtenu un score de 51,78 % sur SWE-bench Pro, un benchmark d’ingénierie logicielle, devançant Nemotron 3 Ultra tout en utilisant environ 4,6 fois moins de paramètres actifs. L’entreprise affirme également que l’entraînement axé sur les agents a fait passer le score pass@1 de DeepSWE de 6,4 % à 10,4 %. Il s’agit des évaluations communiquées par NVIDIA ; les documents fournis ne contiennent pas de validation indépendante.
L’entreprise décrit un processus d’entraînement approfondi pour Super. Elle a poursuivi l’entraînement sur des données couvrant 22 langues indiennes et 34 combinaisons de langues et d’écritures, ce qui, selon NVIDIA, a amélioré les résultats sur cinq benchmarks évaluant des langues indiennes, jusqu’à 9,82 points de pourcentage. D’autres phases d’entraînement ont ciblé les tâches à long contexte et l’ingénierie logicielle. NVIDIA affirme qu’une dernière étape d’entraînement a fait remonter le score de Super sur RULER-1M de 33,5 à 81,0, après une baisse lors d’une phase précédente.
Les performances varient selon la configuration
NVIDIA a également testé l’exécution de plusieurs agents en parallèle, chacun vérifiant ses propres réponses. Dans les configurations évaluées par l’entreprise, cette approche a fait passer les scores de Terminal-Bench 2.1 de 62,7 % à 71,9 %, de DeepSWE de 24,6 % à 34,5 %, et de BrowseComp de 71,5 % à 79,8 %. Ces chiffres correspondent à cette approche multi-agents et ne garantissent pas les mêmes résultats pour chaque déploiement.
Côté vitesse, NVIDIA annonce jusqu’à 4 856 tokens générés par seconde sur un seul GPU GB200, tout en maintenant au moins 50 tokens par seconde et par utilisateur dans son test d’agents sur 20 tours. Selon l’entreprise, la version NVFP4 a retrouvé une médiane de 99,62 % de la précision de BF16 sur 36 benchmarks. Ces résultats dépendent du matériel NVIDIA et du protocole de test ; ils ne permettent pas de déterminer les performances des modèles sur d’autres systèmes.
Pourquoi c'est important
Pour les chercheurs et les développeurs, les checkpoints et recettes publiés permettent de tester les modèles ou de s’en servir comme base sans repartir de zéro. Les résultats de benchmark annoncés par NVIDIA laissent penser que Super pourrait convenir aux agents d’ingénierie logicielle, mais les résultats indépendants, les conditions de licence et le matériel nécessaire à un déploiement concret restent flous au vu des informations fournies.
