Oossa

llama.cpp avertit des risques liés à p_min pour les brouillons

La nouvelle version avertit les utilisateurs lorsque le paramètre p_min est associé à un échantillonnage probabiliste des brouillons, afin d’éviter la perte involontaire de tokens.

BrèvePar Publié par Oossa: 1 min de lecture

La bibliothèque open source llama.cpp a publié la version b12364 le 2026-11-13. Elle affiche désormais un avertissement si le paramètre --spec-draft-p-min est activé avec l’échantillonnage probabiliste des brouillons et recommande de régler p_min sur zéro. Cette modification désactive le seuil p_min pour les brouillons MTP et DFlash2, qui pouvaient auparavant éliminer des tokens que le modèle cible aurait acceptés. L’avertissement ne s’affiche que pour les méthodes de génération de brouillons qui utilisent effectivement p_min, ce qui évite les messages superflus avec les méthodes n-gram et DSpark.

Pourquoi c'est important

Les développeurs peuvent éviter les pertes silencieuses de tokens lors de l’ajustement fin des modèles de brouillon, pour une génération plus fiable.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.