Le 10 juillet 2026, Aleph Alpha a publié un article détaillé montrant comment l’architecture de ses modèles de langage Kolibri influe à la fois sur le coût de l’entraînement et celui du déploiement. Il présente les formules servant à calculer le nombre total de paramètres et le nombre de paramètres actifs, les FLOPs par jeton ainsi que la taille du cache KV, qui stocke le contexte. Un outil interactif permet de modifier les réglages et de comparer Kolibri Origin, Kolibri et d’autres modèles à poids ouverts.
Pourquoi c'est important
Les développeurs peuvent utiliser l’outil pour trouver le bon équilibre entre taille et vitesse du modèle, et choisir une configuration adaptée à leur budget matériel.
