La bibliothèque open source llama.cpp a publié la version b12364 le 2026-11-13. Elle affiche désormais un avertissement si le paramètre --spec-draft-p-min est activé avec l’échantillonnage probabiliste des brouillons et recommande de régler p_min sur zéro. Cette modification désactive le seuil p_min pour les brouillons MTP et DFlash2, qui pouvaient auparavant éliminer des tokens que le modèle cible aurait acceptés. L’avertissement ne s’affiche que pour les méthodes de génération de brouillons qui utilisent effectivement p_min, ce qui évite les messages superflus avec les méthodes n-gram et DSpark.
Pourquoi c'est important
Les développeurs peuvent éviter les pertes silencieuses de tokens lors de l’ajustement fin des modèles de brouillon, pour une génération plus fiable.