L’équipe ggml-org a publié la version b11747 de llama.cpp. Elle comprend des binaires précompilés pour macOS sur Apple Silicon, macOS sur processeur Intel, iOS et plusieurs versions d’Ubuntu, notamment pour CPU, Vulkan et CUDA 12.8. La version mentionne également un correctif de redimensionnement de Qwen-VL visant à correspondre à celui de Transformers. Les utilisateurs peuvent télécharger le paquet adapté sur la page des versions de GitHub.
Pourquoi c'est important
Les développeurs peuvent exécuter des modèles LLaMA en local sur davantage de matériel sans avoir à compiler le logiciel depuis les sources.
