ggml-org a publié la version b12088 de llama.cpp. La mise à jour prend en charge le format de modèle NVFP4 LFM3 et fournit des binaires précompilés pour Apple Silicon, les Mac Intel, iOS et plusieurs configurations Ubuntu, notamment des versions pour processeurs seuls et avec Vulkan. La version macOS pour Apple Silicon avec KleidiAI est répertoriée, mais actuellement désactivée. Tous les fichiers sont téléchargeables sur la page de la version sur GitHub.
Pourquoi c'est important
Les développeurs peuvent désormais utiliser llama.cpp avec ce nouveau format de modèle et profiter de binaires prêts à l’emploi pour davantage de plateformes, ce qui réduit le temps de configuration.
