A equipe ggml-org lançou a versão b12361 do llama.cpp. A atualização tira o código de cache de MOE do gerenciamento interno do grafo e oferece novos binários pré-compilados para macOS (Apple Silicon e Intel), iOS e várias versões do Ubuntu, incluindo compilações para CPU e Vulkan. Há também um binário para macOS com Apple Silicon e KleidiAI, mas ele está desativado no momento. Todos os arquivos podem ser baixados na página da versão no GitHub.
Por que importa
Agora, desenvolvedores podem executar o llama.cpp localmente em mais plataformas sem precisar compilá-lo do código-fonte, o que agiliza os testes.