Oossa

llama.cpp b11782 corregge il conteggio dei token

L’aggiornamento dell’esecuzione open source di LLM corregge il conteggio dei token di completamento generando più output e aggiunge nuovi binari per macOS, iOS e Linux.

BreveDi Pubblicato da Oossa: 1 min di lettura

ggml‑org ha rilasciato llama.cpp versione b11782 il 21 Oct 2026. L’aggiornamento risolve un problema del server che conteggiava meno del dovuto usage.completion_tokens quando n > 1, sottostimando così l’uso dei token nelle generazioni in batch. La release include anche nuovi binari precompilati per Apple Silicon, Mac Intel, iOS e diverse versioni di Ubuntu (CPU, Vulkan, CUDA).

Perché conta

Gli sviluppatori potranno consultare dati accurati sull’uso dei token e monitorare costi e prestazioni quando generano più completamenti.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.