Oossa

llama.cpp b11537公開、埋め込み処理を修正し各種バイナリを提供

ggml-org/llama.cppに、埋め込み処理向けのグラフ並べ替えやGemma4の修正が加わり、macOS、iOS、Linux向けのビルド済みバイナリが公開された。

短信著者: Oossa公開日: 最終更新: 1 分で読める

ggml-orgはllama.cppのバージョンb11537を公開した。今回の更新では、埋め込み処理向けにget_rowsのグラフ順序を変更し、Gemma4の埋め込み処理を修正した。LoRA対応に関するTODOの注記を追加し、生の埋め込み処理経路も修正している。macOS Apple Silicon、macOS Intel、iOSに加え、Vulkan対応版を含む各種Ubuntuビルドのコンパイル済みバイナリも利用できる。

なぜ重要か

埋め込み処理が修正され、より多くのプラットフォーム向けバイナリが用意されたことで、開発者はセットアップの手間を減らし、ローカルでllama.cppを実行できる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。