ggml-org团队发布了llama.cpp b12024，将LFM-SC的矩阵乘法任务改为使用二维张量，而不是三维张量。发布页面提供了macOS、iOS和多种Linux配置的下载版本，包括CPU和Vulkan版本。
更新说明没有提及这项LFM-SC改动是否能提升速度，或是否会影响其他模型。
为什么重要
使用llama.cpp运行LFM-SC的用户可以尝试这个更新版本，但更新说明并未证实它能带来性能提升。
llama.cpp b12024调整LFM-SC的张量处理方式
此次更新调整了llama.cpp处理LFM-SC张量运算的方式，并提供多个操作系统和处理器类型的下载版本。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。