ggml‑org 团队于 2026‑10‑21 发布 llama.cpp b11792。此次更新调整了 set_rows 调用,让数据可以留在 GPU 上,从而提升 GPU 用户的运行速度。现已提供 macOS Apple Silicon、macOS Intel、iOS,以及多个 Ubuntu 版本(CPU、Vulkan、CUDA 12.8)的预编译二进制文件。发布链接已公布在 GitHub 标签页上。
发布说明将这项改动列为:“根据 set_rows 的用法放置 d2t,使其可以留在 GPU 上(#30912)”。
为什么重要
开发者可以在兼容的 GPU 上更快地运行 Llama 模型,同时无需额外传输数据。