llama.cppプロジェクトは2026-10-10、バージョンb11552を公開した。この変更により、すでに使用中のスロットのプロンプトキャッシュがリクエストによって更新されなくなった。従来は使用中のスロットが上書きされ、誤ったコンテキストで生成が続くことがあった。今後は使用中のスロットは変更されず、新しいリクエストは空きが出るまで待機する。
なぜ重要か
複数のリクエストで同じGPUメモリを共有する場合でも、llama.cppを使う開発者は生成エラーを減らせる。
llama.cpp更新、使用中のスロット上書きを防止
2026年10月10日のリリースで、新しいリクエストがプロンプトキャッシュを書き換え、進行中の生成を壊す不具合を修正。
短信著者： OossaOossa公開日: 1 分で読める
次に読む
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。