Le projet llama.cpp a publié la préversion b12091 le 4 novembre 2026. La principale nouveauté est la sauvegarde et la restauration de l’état caché pour le MTP, une méthode utilisée dans le décodage spéculatif, lors de la création de points de contrôle. Selon les notes de version, seule la ligne d’état caché à la frontière est sauvegardée ; les lignes de vérification sont reconstruites dans les chemins de restauration pris en charge.
La version propose des builds pour macOS, iOS, Linux, Android et Windows, avec des options pour différents processeurs et accélérateurs. Les notes ne précisent pas l’impact de ce changement sur les performances.
Pourquoi c'est important
Pour les développeurs qui utilisent le MTP dans llama.cpp, ce changement modifie la façon dont l’état caché est conservé lors des restaurations prises en charge ; les notes de version n’indiquent pas s’il améliore la vitesse ou la fiabilité.