llama.cpp b12322 版本调整内存使用方式

这款开源 LLaMA 推理库于 12 Nov 2026 更新，通过避免加载未使用的计算图元数据，为开发者节省 RAM。

简讯作者： OossaOossa 发布日期: 2026年11月12日 19:26 UTC1 分钟阅读

ggml-org 团队于 12 Nov 2026 为 llama.cpp 推出了 b12322 标签。此次更新调整了计算图结果预留元数据的方式，只分配所需的页面，而不再初始化整个预留空间。这减少了该库在推理过程中占用的 RAM。

此次更新适用于所有列出的平台，包括 macOS 和 Windows CPU，以及 Linux CUDA、Vulkan 和 OpenVINO 版本。

为什么重要

在内存有限的设备上运行 LLaMA 模型的开发者将能减少 RAM 占用，从而运行更大的模型，或更流畅地同时处理多项任务。

1 个来源

这篇文章有帮助吗？

Oossa · 新闻简报

一周 AI，讲明白

每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。