ggml‑org a publié la version b12362 de llama.cpp. Cette mise à jour introduit la factorisation à gauche pour accélérer la mise en correspondance des grammaires, ajoute un arbre syntaxique abstrait pour l’analyse et limite les règles alternatives. Certains commits récents ont été annulés afin de stabiliser l’analyseur. La compilation prend désormais en charge un large éventail de plateformes, des Mac équipés d’Apple Silicon à Windows avec CUDA 13.
Les notes de version indiquent une prise en charge de Linux, Android et Windows, ainsi que de différents backends GPU, notamment Vulkan et OpenCL.
Pourquoi c'est important
Les développeurs peuvent exécuter des LLM avec une gestion des grammaires plus rapide et plus fiable sur de nombreux appareils.
