ggml-org ha rilasciato llama.cpp versione b12088. L’aggiornamento abilita il formato per modelli NVFP4 LFM3 e include binari precompilati per Apple Silicon, macOS con processori Intel, iOS e diverse configurazioni di Ubuntu, comprese le build solo CPU e Vulkan. La build per macOS su Apple Silicon con KleidiAI è elencata, ma al momento è disabilitata. Tutti i file sono scaricabili dalla pagina della release su GitHub.
Perché conta
Gli sviluppatori possono ora eseguire llama.cpp con il nuovo formato per modelli e usare binari già pronti per più piattaforme, riducendo i tempi di configurazione.