L’équipe ggml-org a publié la version b12259 de llama.cpp. Elle ajoute la prise en charge du modèle de vision Kimi K3.1 et corrige le prétraitement pour K2.5 et K3.1. Des binaires précompilés sont disponibles pour macOS (Apple Silicon et Intel), iOS et plusieurs versions d’Ubuntu.
Pourquoi c'est important
Les développeurs peuvent désormais exécuter le modèle de vision de Kimi en local sur des plateformes courantes, sur ordinateur comme sur mobile, sans recourir à des services cloud.