L’équipe ggml-org a publié llama.cpp b12419, qui apporte un changement au serveur : celui-ci ignore désormais les chaînes d’arrêt vides. Ces chaînes sont des séquences de texte qui indiquent au modèle quand terminer une réponse.
La page de la version répertorie des builds pour macOS, iOS et Linux, dont des versions CPU et Vulkan pour certains systèmes Linux.
Pourquoi c'est important
Les personnes qui utilisent le serveur llama.cpp peuvent lui fournir des chaînes d’arrêt vides sans que celui-ci les traite comme des séquences d’arrêt ; les notes de version ne précisent pas les autres changements de comportement.