llama.cppプロジェクトは、SenseNova U1の高密度理解ブランチを読み込んで一般的なCPU上で実行できる新バージョンを公開した。U1.5‑8B‑MoTモデルも対象となる。モデルのビジョンエンコーダー向け変換ツールも追加され、あらゆる解像度の画像を入力できる。生成ブランチは引き続き利用できないため、今回の更新で対応するのは理解タスクのみだ。今回の変更は、Hugging FaceのSigbjørn Skjæret氏も共同で開発した。
なぜ重要か
GPUがなくても、CPU上で高解像度のSenseNova U1ビジョンモデルを実行できるようになった。