L’équipe ggml‑org a publié la version b11672 de llama.cpp. Elle comprend des binaires précompilés pour macOS sur Apple Silicon, macOS sur processeur Intel, iOS et plusieurs configurations Ubuntu avec processeur, Vulkan ou CUDA. La version signale également une modification de l’outil mtmd lightonocr : celui-ci ne force plus la plus grande dimension de l’image à 1540 pixels et utilise désormais sa taille native par défaut.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter des modèles LLaMA sur davantage de configurations matérielles sans avoir à compiler eux-mêmes le code.
