Oossa

llama.cpp、SenseNova U1モデルに対応

オープンソースライブラリのllama.cppで、SenseNova U1の高密度理解モデルとビジョンモデルをCPU上で実行できるようになった。

短信著者: Oossa公開日: 1 分で読める

llama.cppプロジェクトは、SenseNova U1の高密度理解ブランチを読み込んで一般的なCPU上で実行できる新バージョンを公開した。U1.5‑8B‑MoTモデルも対象となる。モデルのビジョンエンコーダー向け変換ツールも追加され、あらゆる解像度の画像を入力できる。生成ブランチは引き続き利用できないため、今回の更新で対応するのは理解タスクのみだ。今回の変更は、Hugging FaceのSigbjørn Skjæret氏も共同で開発した。

なぜ重要か

GPUがなくても、CPU上で高解像度のSenseNova U1ビジョンモデルを実行できるようになった。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。