ローカルAIソフトウェアのOllamaが、v0.40.5のリリース候補版となるv0.40.5-rc0を公開した。このアップデートでは、Appleのグラフィックス技術Metal向けに使われていたカスタムカーネルが、NVIDIAのGPUコンピューティング基盤CUDAに移植された。
また、OpenAI互換のResponses APIが、会話履歴内のカスタムツール呼び出しを受け付けるようになった。リリースノートには性能に関する数値はなく、正式版v0.40.5の公開時期も記されていない。
なぜ重要か
NVIDIA GPUを使うOllamaユーザーは、今回のCUDA移植により、これらのカスタムカーネルを自分の環境で利用できる可能性がある。ただし、リリースノートは性能を公表しておらず、正式版で何が変わるかも確認できない。