Oossa

llama.cpp 更新恢复 Intel CPU 上 FP16 转 FP32 的速度

2026 年 10 月 15 日发布的 b11635 版本在 x86 上保留 FP16→FP32 查找表,修复量化内核速度变慢的问题。

简讯作者: Oossa 发布日期: 1 分钟阅读

开源库 llama.cpp 于 2026-10-15 发布 b11635 版本。此次更新调整了 CPU 代码:在支持 F16C 指令集的 x86 处理器上保留 FP16 转 FP32 查找表。此前的改动让两种标量转换都改用 F16C,导致 Q8_0/Q4_0 矩阵乘法内核速度降低 45‑65%。新修复注释掉了有问题的宏定义,并恢复使用原有的 FP16→FP32 转换查找表。

为什么重要

在 Intel CPU 上运行 llama.cpp 的开发者更新后,模型推理速度将明显加快。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。