A biblioteca de código aberto llama.cpp lançou a versão b11500. Ela inclui binários prontos para uso em Macs com Apple Silicon, Macs com processadores Intel, iOS e diversas versões do Ubuntu (CPU, Vulkan e CUDA). A atualização também corrige um problema de baixo nível no gerenciamento de memória (hex‑mmadd). Os arquivos podem ser baixados na página da versão no GitHub.
Por que importa
Agora, desenvolvedores podem executar o llama.cpp localmente em mais dispositivos sem precisar compilá-lo por conta própria.