A biblioteca de código aberto llama.cpp lançou a versão b12385 em 14 de novembro de 2026. A atualização corrige um erro no modelo Qwen2VL: os fatores de escala das camadas da rede feed-forward não eram aplicados. Por isso, o modelo gerava resultados sem sentido, com perplexidade em torno de 1 e6 no CUDA e NaN na CPU. A correção envia as escalas corretas à rotina de compilação, restabelecendo o funcionamento normal.
Por que importa
Desenvolvedores que usam o llama.cpp agora podem executar o Qwen2VL de forma confiável e evitar resultados incorretos em seus aplicativos.