A biblioteca de código aberto llama.cpp lançou a versão b11706 em 2026-10-17. A atualização corrige uma regressão no processamento de prompts com SYCL, que surgiu após a reordenação de pesos nos formatos Q4_0/Q8_0. Também inclui novos binários pré-compilados para Apple Silicon e Intel no macOS, iOS e várias configurações de Linux, incluindo CPU, Vulkan e CUDA 12.8. Os arquivos estão disponíveis para download na página da versão no GitHub.
Por que importa
Agora, desenvolvedores podem executar o llama.cpp em GPUs compatíveis com SYCL sem erros no processamento de prompts, ampliando as opções de hardware para usar LLMs localmente.
