ggml-org a publié la version b12224 de llama.cpp. La mise à jour cesse d’envoyer des données d’entrée que le backend ne lit jamais, ce qui corrige un léger problème de performances. Elle comprend également des binaires prêts à l’emploi pour macOS sur Apple Silicon, macOS sur processeur Intel, iOS et plusieurs configurations CPU d’Ubuntu, avec notamment la prise en charge de s390x et de Vulkan. Les notes de version renvoient aux fichiers à télécharger et aux attestations.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter llama.cpp localement sur davantage de matériel sans le compiler depuis les sources, ce qui leur fait gagner du temps lors de la configuration.
