オープンソースのllama.cppライブラリーが2026年10月8日、バージョンb11511をリリースした。MMQの実装にあったCUDAの範囲外読み取りバグを修正している。また、macOS(Apple SiliconおよびIntel)、iOS、x64、arm64、s390x向けUbuntu用のすぐに実行できるバイナリに加え、Vulkan版とCUDA 12.8版のビルドも追加された。
なぜ重要か
NVIDIA GPUを使う開発者をはじめ、より多くのハードウェアで、クラッシュを起こさずにllama.cppを実行できるようになる。