Cohere今日宣布,Rerank 5系列模型现已正式开放。该系列分为Rerank 5 Pro和Rerank 5 Fast两个版本,可帮助企业从文档中找出最相关的段落,减少发送给下游LLM的token数量。Pro在金融、医疗和多语言任务的基准测试中得分最高;Fast则针对高流量工作负载,吞吐量约为Pro的三倍。两款模型均可通过Cohere API、Model Vault、Microsoft Foundry和Amazon SageMaker使用,也可私有化部署。
为什么重要
企业只需将最相关的文本段落发送给LLM,就能降低AI推理成本并提升回答质量。