Das llama.cpp-Projekt hat eine neue Version veröffentlicht, die den SenseNova-U1-Zweig für dichte Sprachverarbeitung und Bildverständnis laden und ausführen kann – darunter das Modell U1.5‑8B‑MoT – und zwar auf einer herkömmlichen CPU. Außerdem enthält sie Konvertierungstools für den Vision-Encoder des Modells, sodass Bilder mit beliebiger Auflösung verarbeitet werden können. Generierungszweige werden weiterhin nicht unterstützt; das Update ermöglicht daher nur Aufgaben zum Verständnis. An den Änderungen wirkte auch Sigbjørn Skjæret von Hugging Face als Mitautor mit.
Warum es wichtig ist
Nutzer können das SenseNova-U1-Bildverarbeitungsmodell für hochauflösende Bilder nun ohne GPU auf einer CPU ausführen.
