L’équipe ggml-org a publié llama.cpp version b11467. Cette mise à jour ajoute l’inclusion d’une locale C (std::setlocale) afin d’améliorer le traitement du texte. Elle propose également des binaires prêts à l’emploi pour les Mac à puce Apple Silicon, les Mac Intel, iOS et plusieurs versions d’Ubuntu (CPU, Vulkan, CUDA). Les utilisateurs peuvent télécharger le paquet qui leur convient depuis la page de publication sur GitHub.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter des modèles LLaMA sur davantage de systèmes sans compiler le logiciel depuis les sources, ce qui leur fait gagner du temps et réduit les erreurs de configuration.