A equipe ggml-org lançou a versão b11796 do llama.cpp. A atualização adiciona um novo objeto de estado à função mtmd_gen. Também oferece binários pré-compilados para macOS (Apple Silicon e Intel), iOS e várias versões do Ubuntu, incluindo compilações para CPU, Vulkan e CUDA 12.8.
Por que importa
Os desenvolvedores podem executar o llama.cpp em mais tipos de hardware, especialmente em GPUs com CUDA 12.8, sem precisar compilá-lo por conta própria.