ggml-org a publié llama.cpp b12029, une nouvelle version de son logiciel permettant d’exécuter des modèles de langage. Les notes de version ne recensent qu’un seul changement : la correction de l’ordre du token CLS d’InternVL, un token spécial utilisé pour traiter les entrées multimodales. Des téléchargements sont proposés pour macOS, iOS et plusieurs configurations Linux, notamment des versions pour CPU et Vulkan. Les notes de version ne précisent pas quels utilisateurs ou quelles tâches sont concernés par cette correction.
Pourquoi c'est important
Les personnes qui utilisent InternVL avec llama.cpp pourraient bénéficier de cette correction de l’ordre des tokens, mais les notes de version n’en précisent ni l’effet concret ni la portée.
