A biblioteca llama.cpp, mantida pela ggml-org, lançou a versão b11597 em 13 de outubro de 2026. A atualização altera o grafo de computação para que, ao extrair embeddings agrupados de um contexto, o modelo deixe de criar a grande camada de logits da LM head. Isso reduz o uso de memória e acelera a inferência em tarefas que envolvem apenas embeddings. A mudança também ajusta nós relacionados do grafo para manter a consistência das dimensões.
Por que importa
Desenvolvedores que extraem embeddings podem executar modelos do llama.cpp mais rapidamente e em equipamentos com menos recursos.
