L’équipe ggml‑org a publié llama.cpp version b11465. Cette version comprend des binaires précompilés pour macOS sur Apple Silicon (arm64), macOS sur processeur Intel (x64), iOS et plusieurs variantes d’Ubuntu (CPU, Vulkan et CUDA 12.8). Elle apporte également une modification aux tests afin de conserver l’ancre lors du test du rollback récurrent. Tous les fichiers sont disponibles au téléchargement sur la page de la version sur GitHub.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter des LLM en local sur davantage de matériel sans avoir à compiler le code eux-mêmes.
