Le projet llama.cpp a publié une nouvelle version capable de charger et d’exécuter sur un CPU standard la branche de compréhension dense SenseNova U1, y compris le modèle U1.5‑8B‑MoT. Elle ajoute également des outils de conversion pour l’encodeur de vision du modèle, qui accepte ainsi des images de n’importe quelle résolution. Les branches de génération restent bloquées : cette mise à jour ne prend donc en charge que les tâches de compréhension. Ces changements ont été coécrits par Sigbjørn Skjæret, de Hugging Face.
Pourquoi c'est important
Les utilisateurs de CPU peuvent désormais exécuter le modèle de vision SenseNova U1 haute résolution sans avoir besoin d’un GPU.
