ggml-org团队发布了llama.cpp b12171，其中一项Vulkan改动是检测系统是否支持ReBAR（可调整大小的BAR），并在不支持时避免分配BAR内存。发布页面列出了适用于macOS、iOS和Linux的可下载构建版本，部分平台还提供CPU和Vulkan版本。
发布说明没有指出哪些硬件或工作负载会因此产生实际变化。
为什么重要
对于在不支持ReBAR的系统上通过Vulkan运行llama.cpp的用户，这项改动旨在避免分配BAR内存；发布说明没有量化其对性能或内存使用的影响。
llama.cpp b12171调整Vulkan内存分配
llama.cpp本次更新可检测系统是否支持ReBAR，并在不支持时避免分配BAR内存。发布页面提供了适用于多种操作系统和硬件的构建版本。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。