Oossa

llama.cpp、b12318でCUDAデバッグ用バッファプールを追加

オープンソースのLLaMA推論ライブラリがCUDAデバッグ用バッファプールを追加し、macOS、iOS、Linux向けのバイナリを更新。

短信著者： Oossa公開日: 1 分で読める

1 件の出典 ↓

ggml-orgは2026-11-12、llama.cppのバージョンb12318を公開した。今回の更新では、開発者がcompute-sanitizerを使ってメモリ使用量を追跡しやすくなる、CUDAデバッグ用バッファプールを追加。また、Apple Silicon、Intel搭載Mac、iOSに加え、Ubuntu向けのCPUおよびVulkanの複数の構成に対応した新しいビルド済みバイナリも含まれる。

なぜ重要か

NVIDIA GPUでLLaMAモデルを動かす開発者は、メモリ関連の問題をより簡単にデバッグできるようになり、推論時のクラッシュを減らせる。

出典と参考資料

1 件の出典
  1. llama.cpp出典の公開日: 原典を読む
発行者: OLY Europe LTD誤りを報告

Markdown

この記事は役に立ちましたか？
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。