Oossa

llama.cpp b11782 corrige un error en el recuento de tokens

El ejecutor de modelos de lenguaje grandes de código abierto actualiza el servidor para contar correctamente los tokens de las respuestas al generar varias salidas y añade nuevos binarios para macOS, iOS y Linux.

BrevePor Publicado por Oossa: 1 min de lectura

ggml‑org lanzó llama.cpp versión b11782 el 21 Oct 2026. La actualización corrige un problema del servidor que contabilizaba menos tokens de los reales en usage.completion_tokens cuando n > 1, por lo que las estadísticas de uso eran inferiores a las reales al generar lotes. El lanzamiento también incluye nuevos binarios precompilados para Apple Silicon, Mac con procesadores Intel, iOS y varias versiones de Ubuntu (CPU, Vulkan y CUDA).

Por qué importa

Los desarrolladores obtendrán datos precisos sobre el uso de tokens, lo que les ayudará a controlar los costos y el rendimiento al generar varias respuestas.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.