L’équipe ggml-org a publié la version b12361 de llama.cpp. Cette mise à jour sort le code MOE-cache de la gestion interne du graphe et propose de nouveaux binaires précompilés pour macOS (Apple Silicon et Intel), iOS et plusieurs versions d’Ubuntu, avec des compilations pour CPU et Vulkan. Un binaire macOS pour Apple Silicon intégrant KleidiAI est répertorié, mais il est actuellement désactivé. Tous les fichiers sont disponibles sur la page de la version sur GitHub.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter llama.cpp en local sur davantage de plateformes sans le compiler depuis les sources, ce qui accélère leurs expérimentations.
