L’équipe ggml-org a publié la version b12531 de llama.cpp. Cette mise à jour prend en charge le format de modèle voxcpm2 et apporte un léger gain de vitesse. Elle inclut également de nouveaux binaires précompilés pour macOS sur Apple Silicon, macOS sur processeurs Intel, iOS et plusieurs versions d’Ubuntu. Les changements sont répertoriés sous « mtmd: support voxcpm2 », ainsi que quelques correctifs.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter les modèles voxcpm2 plus récents sur davantage de plateformes, avec un léger gain de vitesse.