A equipe ggml-org publicou a versão b11777 do llama.cpp. A atualização reorganiza a saída dos modelos Qwen, passando de um tensor tridimensional para um bidimensional e eliminando uma etapa final de reorganização desnecessária. A versão também oferece binários prontos para uso no macOS (Apple Silicon e Intel), no iOS e em várias versões do Ubuntu, incluindo opções com Vulkan e CUDA.
Por que importa
Os desenvolvedores podem baixar os novos binários e executar LLMs localmente em mais dispositivos, sem precisar compilar o código-fonte.
