A equipe ggml-org lançou a versão b11827 do llama.cpp. A atualização adiciona kernels OpenCL para conv2d depthwise, com suporte a GPUs Qualcomm Adreno. Agora há binários pré-compilados para macOS com Apple Silicon, macOS com Intel, iOS e várias plataformas Ubuntu (CPU e Vulkan). As mudanças foram contribuídas pela OpenCode e por Li He, engenheiro da Qualcomm.
Por que importa
Agora, desenvolvedores podem executar modelos do llama.cpp mais rapidamente em dispositivos com GPUs OpenCL, ampliando as opções de hardware de baixo consumo.
