ggml-org 发布了 llama.cpp b11895，修复 Metal 上大型矩阵输出偏移量溢出的问题。此次更改还扩展了 MUL_MAT_ID 操作使用的批次偏移量和 token 索引范围。
发布页面提供适用于 Apple Silicon 和 Intel Mac、iOS 的下载版本，以及多个适用于 Ubuntu 的 CPU 和 Vulkan 构建版本。
为什么重要
在 Metal 上运行 llama.cpp 的开发者或可避免大型矩阵输出时发生偏移量溢出，不过发布说明没有说明该问题出现的频率，也没有指出哪些工作负载会触发它。
