O projeto llama.cpp lançou uma nova versão que permite carregar e executar em um processador comum a linha de compreensão densa SenseNova U1, incluindo o modelo U1.5‑8B‑MoT. A atualização também adiciona ferramentas de conversão para o codificador de visão do modelo, que permitem receber imagens em qualquer resolução. As variantes de geração continuam bloqueadas, portanto a atualização só oferece suporte a tarefas de compreensão. As mudanças foram desenvolvidas em coautoria com Sigbjørn Skjæret, da Hugging Face.
Por que importa
Agora, usuários de processadores podem executar o modelo de visão SenseNova U1 de alta resolução sem precisar de uma GPU.
