一支由十位作者组成的团队于 2026年10月21日在 arXiv 发布技术报告,介绍 pplx-embed-v2-late。此次推出两款新模型,参数量分别为 0.6 billion 和 9 billion,可处理多种语言的文本、图像和扫描文档。作者称,在多项检索任务中,这两款模型的表现超过了所有同等规模的其他系统,而且较小的模型速度足够快,可用于实时查询。
两款模型如何协同工作
两款模型都通过对更大的 18 billion 参数教师模型进行“表征蒸馏”训练。也就是说,大模型教会这两款新模型生成相似的嵌入向量——用于搜索的数值向量,同时让它们保持更小的规模。由于嵌入向量处于同一空间,用户可以用 9B 模型建立索引(生成更准确的向量),之后再用轻量级的 0.6B 模型进行搜索,快速获得结果。
获取方式
作者在报告中的“this https URL”一行提供了下载链接。论文没有说明价格或许可条款,因此这些模型似乎可供学术或研究用途免费使用。
为什么重要
对于开发搜索引擎或推荐工具的人员来说,这两款模型可以让他们用 9 B 模型保持较高的索引质量,同时用 0.6 B 模型快速响应用户查询。这或许能降低多语言、图像丰富型应用的算力成本,但目前尚无独立基准测试结果。