Oossa

llama.cpp b11782 corrige erro na contagem de tokens

O executor de LLMs de código aberto atualiza o servidor para contar corretamente os tokens de conclusão ao gerar várias saídas e disponibiliza novos binários para macOS, iOS e Linux.

NotaPor Publicado pelo Oossa: 1 min de leitura

A ggml-org lançou o llama.cpp versão b11782 em 21 de outubro de 2026. A atualização corrige um problema no servidor que contabilizava menos tokens em usage.completion_tokens quando n > 1, fazendo com que as estatísticas de uso ficassem abaixo do valor real em gerações em lote. A versão também traz novos binários pré-compilados para Apple Silicon, Macs com Intel, iOS e várias versões do Ubuntu (CPU, Vulkan e CUDA).

Por que importa

Os desenvolvedores terão dados precisos sobre o uso de tokens, o que ajuda a monitorar custos e desempenho ao gerar várias conclusões.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.