A equipe ggml-org lançou a versão b12124 do llama.cpp com uma mudança no suporte a OpenCL: agora, o programa consegue lidar com operações sigmoid em dados não contíguos. O OpenCL é uma estrutura para executar tarefas computacionais em diferentes processadores.
A página da versão também lista downloads pré-compilados para macOS, iOS e Ubuntu, incluindo versões para CPU e Vulkan. A página não menciona mudanças mais amplas de desempenho nem informa quais usuários notarão alguma diferença.
Por que importa
Desenvolvedores que usam o llama.cpp com OpenCL podem acessar a operação que passou a ser compatível, mas as notas da versão não demonstram se isso melhora a velocidade ou afeta usuários comuns.
