A ggml-org lançou o llama.cpp b12029, uma nova versão do software para executar modelos de linguagem. As notas da versão listam uma única mudança: a correção da ordem do token CLS do InternVL, um token especial usado no processamento de entradas multimodais. Há downloads para macOS, iOS e várias configurações do Linux, incluindo versões para CPU e Vulkan. As notas da versão não explicam quais usuários ou tarefas são afetados pela correção.
Por que importa
Quem executa o InternVL pelo llama.cpp pode se beneficiar da correção na ordem dos tokens, mas as notas da versão não especificam seu efeito prático nem seu alcance.