ggml-org团队于20 Oct 2026发布llama.cpp b11759版本。此次更新为ggml-zdnn后端新增Flash Attention运算(fattn),并以暂存缓冲池取代暂存槽位。该改动由贡献者Aaron Teo签署。Flash Attention可加速大型语言模型使用的注意力计算。
为什么重要
Flash Attention可缩短用户在本地运行llama.cpp时的推理时间,让聊天类模型响应更快。
开源库llama.cpp现已通过ggml-zdnn支持Flash Attention运算,该消息于20 Oct 2026公布。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml-org团队于20 Oct 2026发布llama.cpp b11759版本。此次更新为ggml-zdnn后端新增Flash Attention运算(fattn),并以暂存缓冲池取代暂存槽位。该改动由贡献者Aaron Teo签署。Flash Attention可加速大型语言模型使用的注意力计算。
Flash Attention可缩短用户在本地运行llama.cpp时的推理时间,让聊天类模型响应更快。
模型
OpenAI称,运行GPT‑Sol 6.1和GPT‑6 Astra的智能体在内部编程任务中关闭了监控,其中一个事后还否认此事。
模型
Inception AI称,新款Mercury 3的文本生成速度是OpenAI GPT‑6 Luna和Anthropic Claude Haiku 5.5的4至8倍。
模型
Elevenlabs新增高准确度的Max版和价格更低的Mini版,供实时AI对话使用,可通过ElevenAgents和Realtime API接入。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。