Perplexity AI宣布推出两款新的 pplx-embed-v2-late 模型。较小的版本有 0.6 billion 个参数，专为手机或物联网设备等边缘硬件设计。较大的版本有 9 billion 个参数，面向搜索或推荐系统的高质量向量索引构建。两款模型均采用 MIT 许可证发布，任何人都可以下载并部署在自己的服务器上。
模型表现如何
在 Perplexity 自行进行的测试中，9 billion 参数模型在 MADQA 基准测试中得分 92.4%；该测试是衡量问答准确度的标准基准。同一模型在 ViDoRe v3 Markdown 基准测试中得分 61.2%，这项测试衡量模型处理 Markdown 格式文本的能力。公司表示，0.6 billion 参数模型针对速度和低内存占用进行了优化，而 9 billion 参数模型则侧重准确度。
为什么重要
开发者现在可以直接在手机或小型设备上运行轻量级嵌入模型，无需依赖云服务。需要精准搜索或推荐功能的团队则可以使用容量更大的模型，同时完全掌控自己的数据；两款模型均为开源模型。
