A ggml-org lançou a versão b11804 do llama.cpp em 2026‑10‑22. A atualização adiciona uma rotina OpenCL que calcula argmax de valores de ponto flutuante de 32 bits para inteiros de 32 bits, melhorando a velocidade de inferência na GPU. Também inclui novos binários pré-compilados para Apple Silicon, macOS com processadores Intel, iOS e várias versões do Ubuntu (CPU, Vulkan e CUDA). As alterações foram desenvolvidas por OpenCode e Li He, da Qualcomm.
Por que importa
Agora, desenvolvedores podem executar modelos do llama.cpp mais rapidamente em GPUs compatíveis com OpenCL, ampliando as opções de hardware para projetos de IA amadores.