A equipe ggml-org lançou o llama.cpp b12419 com uma mudança no servidor: agora, ele ignora strings de parada vazias. Essas strings são sequências de texto que indicam ao modelo quando encerrar uma resposta.
A página da versão lista compilações para macOS, iOS e Linux, incluindo versões para CPU e Vulkan em alguns sistemas Linux.
Por que importa
Quem executa o servidor do llama.cpp pode fornecer strings de parada vazias sem que o servidor as trate como sequências de parada; as notas da versão não explicam outras mudanças de comportamento.