OossaAI 发展迅速。我们用简单的话讲清楚。

llama.cpp新增重排器分类器池化支持

llama.cpp库现已支持classifier_pooling,让ModernBERT重排器能在更多平台上使用。

简讯Oossa1 分钟阅读

开源项目llama.cpp发布了新版本,新增对classifier_pooling的支持。这是ModernBERT重排器使用的一项设置。此次更新让该库能够读取和写入池化类型;如果未指定,默认使用mean。内部字段也更名为pooling_type_cls。新版本支持多种操作系统和硬件,从Apple Silicon Mac到Linux GPU和Android设备均可使用。

为什么重要

这让llama.cpp在更多设备上更适用于搜索和排序任务。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。

来源与参考

#来源发布方日期要点
1ggml-org/llama.cpp b11273 ↗llama.cpp2026年9月30日<details open> model : support classifier_pooling for rerankers (#29627) * model : support classifier_pooling for ModernBERT rerankers Assis

1 个来源

最后更新: ·Markdown·llms.txt