NVIDIA ha añadido a Hugging Face un nuevo modelo de lenguaje grande llamado Dory1.0‑4B. Tiene 4 mil millones de parámetros y admite contextos de hasta 256 K tokens. El modelo utiliza una arquitectura iterativa (recurrente latente) que permite intercambiar capacidad de cómputo por precisión sin volver a entrenarlo. Está disponible en varios formatos, incluidos BF16 y NVFP4 de 4 bits, y puede utilizarse en proyectos comerciales o no comerciales bajo la licencia OpenMDW‑1.1.
Por qué importa
Los desarrolladores pueden ejecutar un único modelo de 4B parámetros en distintos tipos de hardware y, a la vez, procesar prompts muy largos, lo que reduce la necesidad de usar varios modelos especializados.
