Cohereは本日、「Rerank 5」モデルの一般提供を開始したと発表した。「Rerank 5 Pro」と「Rerank 5 Fast」の2種類があり、企業は文書から関連性の高い文章を抽出できる。これにより、後段のLLMに送るトークン数を削減できる。Proは金融、医療、多言語の各タスクでベンチマークの最高スコアを記録。Fastは、大量処理が求められる用途で約3倍のスループットを実現する。どちらもCohereのAPI、Model Vault、Microsoft Foundry、Amazon SageMakerから利用できるほか、プライベート環境への導入にも対応する。
なぜ重要か
LLMに関連性の高い文章だけを送ることで、企業はAIの推論コストを抑え、回答の質を高められる。