L’équipe ggml-org a publié la version b12363 de llama.cpp le 13 novembre 2026. Cette mise à jour ajoute au backend Vulkan une option permettant de définir combien de temps le GPU reste actif avant de s’arrêter. Le backend prend désormais en charge la gestion du périphérique, ce qui simplifie le code. Des binaires précompilés pour macOS, iOS et plusieurs variantes d’Ubuntu sont inclus.
Pourquoi c'est important
Les développeurs peuvent lancer plusieurs appels de modèle successifs sur le GPU sans devoir le réinitialiser à chaque fois, ce qui améliore la rapidité de réponse des applications d’IA locales.
