llama.cpp 项目于 2026-10-15 发布 b11642 版本，调整了服务器存储提示缓存槽位的方式。服务器现在只保存之后能够恢复的槽位，因此，重排序、嵌入、决策和填充任务的空闲槽位不会再占用缓存。除非使用 --cache-ram 标志，否则决策任务现在完全跳过缓存。这能减少 RAM 占用，并避免不必要的缓存频繁更替。
为什么重要
在硬件资源有限的设备上运行 llama.cpp 的开发者，将能减少内存占用和缓存相关的卡顿。
llama.cpp 改进提示缓存管理
新版本让服务器只在内存中保留可复用的缓存槽位，减少特定任务对内存的浪费。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
模型
Kandinsky S2V 1.0 开源音频驱动虚拟人视频模型发布
新版 Kandinsky S2V 1.0 Lite（2B）和 Pro（21B）可根据语音和单张照片生成 25 FPS 的口播视频，代码按 MIT 许可证免费开放。
模型
SpaceXSI发布Grok Voice 3.0，语音对话测试排名第一
新模型在Artificial Analysis的语音对语音指数中获得86.9分，超过OpenAI和Google，现已上线Voice Agent API。
模型
YouTube Music新增AI使用透明度标签
从Oct 14 2026起，YouTube Music将为使用生成式AI的曲目标注“Fully Gen AI”“Partly Gen AI”或“No Gen AI”。
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。