llama.cpp 项目发布了 b12425 版本,其中一项改动允许直接从模型张量中读取 Qwen3-VL 输出头的大小。这项改动支持 Qwen3-ForcedAligner;它的输出包含 5,000 个时间戳类别,少于模型的词汇表大小。
为什么重要
使用 llama.cpp 运行 Qwen3-ForcedAligner 的用户,可以使用时间戳输出小于词汇表的模型;发行说明没有说明设置要求。
此版本会从张量中读取 Qwen3-VL 输出头的大小,让 llama.cpp 能处理 Qwen3-ForcedAligner 较小的时间戳输出。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
llama.cpp 项目发布了 b12425 版本,其中一项改动允许直接从模型张量中读取 Qwen3-VL 输出头的大小。这项改动支持 Qwen3-ForcedAligner;它的输出包含 5,000 个时间戳类别,少于模型的词汇表大小。
使用 llama.cpp 运行 Qwen3-ForcedAligner 的用户,可以使用时间戳输出小于词汇表的模型;发行说明没有说明设置要求。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。