ggml‑org ha rilasciato la versione b12362 di llama.cpp. L’aggiornamento introduce la fattorizzazione a sinistra per velocizzare il riconoscimento delle grammatiche, aggiunge un albero sintattico astratto per il parsing e limita le regole alternative. Alcuni commit recenti sono stati annullati per mantenere stabile il parser. La compilazione supporta ora un’ampia gamma di piattaforme, da macOS con Apple Silicon a Windows CUDA 13.
Le note di rilascio indicano il supporto per Linux, Android, Windows e diversi backend GPU, tra cui Vulkan e OpenCL.
Perché conta
Gli sviluppatori possono eseguire LLM con una gestione delle grammatiche più veloce e affidabile su molti dispositivi.
