Projektet llama.cpp har släppt en ny version som kan läsa in och köra grenen SenseNova U1 för tät förståelse, däribland modellen U1.5‑8B‑MoT, på en vanlig CPU. Uppdateringen innehåller också verktyg för att konvertera modellens bildkodare, så att den kan hantera bilder med valfri upplösning. Genereringsgrenarna stöds fortfarande inte, så uppdateringen fungerar bara för förståelseuppgifter. Ändringarna har tagits fram tillsammans med Sigbjørn Skjæret från Hugging Face.
Varför det spelar roll
CPU-användare kan nu köra SenseNova U1:s bildmodell för högupplösta bilder utan att behöva ett grafikkort.
