llama.cpp、テンソルの複製を抑えるメモリマップ機能を追加

オープンソースのLLM実行環境でモデルデータを直接マッピングできるようになり、macOS、iOS、Linux版でRAM使用量を削減できる。

短信OossaOossa公開日: 2026年10月1日 19:36 UTC1 分で読める

ggml‑orgチームはllama.cppのバージョンb11324をリリースした。今回のアップデートではメモリマップモードが追加され、モデルの読み込み時に各テンソルの全サイズ分のコピーをもう1つ作らずに済む。この変更は、macOS（Apple SiliconおよびIntel）、iOS、複数のUbuntuビルド向けの新しいバイナリパッケージで利用できる。リリースでは、ClaudeとNVIDIAのエンジニア、Pranesh Gonegandlaによる貢献にも触れている。