L’équipe ggml-org a publié la version b11796 de llama.cpp. Cette mise à jour ajoute un nouvel objet d’état pour la fonction mtmd_gen. Elle propose également des binaires précompilés pour macOS (Apple Silicon et Intel), iOS et plusieurs versions d’Ubuntu, notamment pour les processeurs, Vulkan et CUDA 12.8.
Pourquoi c'est important
Les développeurs peuvent désormais utiliser llama.cpp sur davantage de matériel, notamment avec des GPU compatibles CUDA 12.8, sans avoir à le compiler eux-mêmes.