El proyecto ggml‑org/llama.cpp publicó la versión b11372 el Oct 3 2026. La actualización reescribe el indexador de Qwen4exp para que cada cabeza calcule su puntuación por separado y escriba los resultados directamente. Así, reduce a la mitad la memoria necesaria para los búferes de puntuación del indexador, que eran los que más memoria consumían en los gráficos de contextos largos. El cambio no afecta la velocidad de cálculo y también añade compatibilidad con el nuevo indexador lightning en los backends CUDA, Metal y Vulkan.
Por qué importa
Los desarrolladores que ejecutan modelos de lenguaje grandes con contextos largos podrán procesar indicaciones más extensas con el mismo hardware.
