A equipe ggml-org publicou a versão b11465 do llama.cpp. Ela inclui binários pré-compilados para macOS com Apple Silicon (arm64), macOS com Intel (x64), iOS e diversas variantes do Ubuntu (CPU, Vulkan e CUDA 12.8). A atualização também altera um teste para manter a âncora durante os testes de rollback recorrente. Todos os arquivos estão disponíveis para download na página da versão no GitHub.
Por que importa
Agora, desenvolvedores podem executar LLMs localmente em mais tipos de hardware sem precisar compilar o código por conta própria.
