A equipe ggml-org lançou a versão b11784 do llama.cpp. Ela inclui uma correção para uma falha no backend Sycl iq3. O lançamento oferece binários pré-compilados para Apple Silicon, Macs com Intel, iOS e várias configurações do Ubuntu, incluindo Vulkan e CUDA 12.8. Os binários estão disponíveis para download na página do lançamento no GitHub.
Por que importa
Os desenvolvedores podem executar o llama.cpp em mais tipos de hardware sem falhas, ampliando o acesso à inferência local de LLMs.