A equipe ggml-org lançou o llama.cpp b11598, com uma alteração que permite carregar metadados beta do YaRN para modelos Laguna. A página da versão lista downloads para macOS, iOS e Linux, incluindo compilações para CPU e Vulkan no Linux.
As notas da versão não explicam que diferença essa alteração nos metadados traz para os usuários. Também não apresentam resultados de benchmarks nem outros detalhes sobre o suporte a modelos Laguna.
Por que importa
Quem usa modelos Laguna com o llama.cpp agora tem uma versão que carrega os metadados beta do YaRN, embora as notas não indiquem que mudança prática esperar.
