NVIDIA hat auf Hugging Face ein neues großes Sprachmodell namens Dory1.0‑4B veröffentlicht. Es hat 4 Milliarden Parameter und kann Kontexte mit bis zu 256 K Tokens verarbeiten. Das Modell nutzt eine wiederholte (latent-rekurrente) Architektur, mit der sich Rechenaufwand gegen Genauigkeit abwägen lässt, ohne das Modell neu zu trainieren. Es ist in mehreren Formaten erhältlich, darunter BF16 und 4-Bit-NVFP4, und kann unter der Lizenz OpenMDW‑1.1 für kommerzielle und nicht kommerzielle Projekte genutzt werden.
Warum es wichtig ist
Entwickler können ein einzelnes Modell mit 4 Milliarden Parametern auf unterschiedlicher Hardware ausführen und zugleich sehr lange Prompts verarbeiten. Dadurch sinkt der Bedarf an mehreren spezialisierten Modellen.
