NVIDIA a ajouté à Hugging Face un nouveau grand modèle de langage baptisé Dory1.0‑4B. Doté de 4 milliards de paramètres, il peut gérer des contextes allant jusqu’à 256 K tokens. Le modèle repose sur une architecture en boucle (récurrente latente) qui permet aux utilisateurs de privilégier la puissance de calcul ou la précision, sans réentraînement. Il est proposé dans plusieurs formats, dont BF16 et NVFP4 en 4 bits, et peut être utilisé dans des projets commerciaux ou non commerciaux sous la licence OpenMDW‑1.1.
Pourquoi c'est important
Les développeurs peuvent faire tourner un même modèle de 4B paramètres sur différents matériels tout en prenant en charge des invites très longues, ce qui réduit le besoin de disposer de plusieurs modèles spécialisés.
