L’équipe ggml‑org a publié le tag b12322 de llama.cpp le 12 Nov 2026. Cette modification change la manière dont les résultats du graphe réservent les métadonnées : seules les pages nécessaires sont allouées, au lieu d’initialiser toute la réserve. La bibliothèque utilise ainsi moins de RAM pendant l’inférence.
La mise à jour est disponible sur toutes les plateformes répertoriées, des processeurs macOS et Windows aux versions Linux pour CUDA, Vulkan et OpenVINO.
Pourquoi c'est important
Les développeurs qui exécutent des modèles LLaMA sur des appareils à mémoire limitée bénéficieront d’une consommation de RAM réduite, ce qui leur permettra d’utiliser des modèles plus volumineux ou d’effectuer plusieurs tâches simultanément plus fluidement.
