llama.cppプロジェクトは2026年10月8日、バージョンb11509をリリースしました。CCCLバージョン4.xを古いバージョンと誤判定するCUDAのガード処理を修正し、argsort操作のパフォーマンスが気づかないうちに低下する問題に対処しています。修正では、コンポーネントごとの比較を単一のパック整数による比較に変更し、高速なstrided-iterator経路を復元しました。RTX 4070とCUDA 13.4でテストされ、すべてのバックエンドテストに合格しています。
なぜ重要か
最新のCUDA環境でllama.cppを使う開発者は、コードを変更せずにソート性能の向上を得られます。