Oossa

Ollama v0.40.5のリリース候補、CUDAカーネルを追加

Ollama v0.40.5-rc0では、Metal用カスタムカーネルのCUDA移植と、Responses APIのツール呼び出し履歴に関する変更が盛り込まれた。正式リリース前の候補版だ。

短信著者: Oossa公開日: 1 分で読める

ローカルAIソフトウェアのOllamaが、v0.40.5のリリース候補版となるv0.40.5-rc0を公開した。このアップデートでは、Appleのグラフィックス技術Metal向けに使われていたカスタムカーネルが、NVIDIAのGPUコンピューティング基盤CUDAに移植された。

また、OpenAI互換のResponses APIが、会話履歴内のカスタムツール呼び出しを受け付けるようになった。リリースノートには性能に関する数値はなく、正式版v0.40.5の公開時期も記されていない。

なぜ重要か

NVIDIA GPUを使うOllamaユーザーは、今回のCUDA移植により、これらのカスタムカーネルを自分の環境で利用できる可能性がある。ただし、リリースノートは性能を公表しておらず、正式版で何が変わるかも確認できない。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。