La biblioteca llama.cpp, mantenida por ggml‑org, publicó la versión b11597 el 13 de octubre de 2026. La actualización modifica el grafo de cómputo para que, al extraer embeddings agrupados de un contexto, el modelo ya no construya la gran capa de logits de la cabeza LM. Esto reduce el uso de memoria y acelera la inferencia en tareas que solo requieren embeddings. El cambio también ajusta los nodos relacionados del grafo para mantener coherentes las dimensiones.
Por qué importa
Los desarrolladores que extraen embeddings pueden ejecutar modelos de llama.cpp más rápido y en equipos con menos recursos.
