Le projet ggml‑org/llama.cpp a publié la version b12328 le 2026-11-12. Cette mise à jour modifie le backend pour qu’il ne précharge que les entrées calculées par des étapes précédentes, évitant ainsi de lire des tenseurs qui seront écrasés par la suite. Elle ajoute également une vérification qui désactive le cache MoE (mélange d’experts) lorsque l’appareil utilisé ne peut pas exécuter l’opération mise en cache, ce qui évite les copies de données inutiles.
Pourquoi c'est important
Les développeurs peuvent s’attendre à une baisse du trafic mémoire et à une inférence plus rapide sur les appareils incapables de gérer les charges de travail MoE.
