A equipe ggml-org lançou o llama.cpp versão b11672. A versão inclui binários pré-compilados para macOS com Apple Silicon, macOS com Intel, iOS e várias configurações do Ubuntu para CPU, Vulkan e CUDA. A atualização também informa uma mudança na ferramenta mtmd lightonocr: ela não força mais a borda mais longa a ter 1540 pixels e, por padrão, usa as dimensões originais da imagem.
Por que importa
Agora, desenvolvedores podem executar modelos LLaMA em mais configurações de hardware sem precisar compilar o código por conta própria.
