Oossa

llama.cpp b12419 : le serveur ignore les chaînes d’arrêt vides

Cette version indique au serveur llama.cpp d’ignorer les chaînes d’arrêt vides. Des versions téléchargeables sont aussi proposées pour plusieurs systèmes d’exploitation et types de processeurs.

BrèvePar Publié par Oossa: 1 min de lecture

L’équipe ggml-org a publié llama.cpp b12419, qui apporte un changement au serveur : celui-ci ignore désormais les chaînes d’arrêt vides. Ces chaînes sont des séquences de texte qui indiquent au modèle quand terminer une réponse.

La page de la version répertorie des builds pour macOS, iOS et Linux, dont des versions CPU et Vulkan pour certains systèmes Linux.

Pourquoi c'est important

Les personnes qui utilisent le serveur llama.cpp peuvent lui fournir des chaînes d’arrêt vides sans que celui-ci les traite comme des séquences d’arrêt ; les notes de version ne précisent pas les autres changements de comportement.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.