Oossa

llama.cpp alerta sobre o uso de draft-p-min

A nova versão avisa quando a flag p_min é usada com amostragem probabilística de rascunhos, evitando que tokens sejam descartados sem querer.

NotaPor Publicado pelo Oossa: 1 min de leitura

A biblioteca de código aberto llama.cpp lançou a versão b12364 em 2026-11-13. Agora, ela registra um aviso se a flag --spec-draft-p-min estiver definida durante o uso de amostragem probabilística de rascunhos, sugerindo que p_min seja definido como zero. A mudança desativa o limite de p_min para rascunhos MTP e DFlash2, que antes podiam descartar tokens aceitos pelo modelo-alvo. O aviso só aparece para os mecanismos de geração de rascunhos que realmente usam p_min, evitando mensagens desnecessárias para os mecanismos n-gram e DSpark.

Por que importa

Desenvolvedores podem evitar a perda silenciosa de tokens ao ajustar modelos de rascunho, o que torna a geração mais confiável.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.