Cohereは、新たな評価指標「Rubric-Calibrated Preferences nDCG@10(RCP-nDCG@10)」を発表した。この指標は、事前にラベル付けされた正解データだけに頼るのではなく、調整済みのAI判定モデルを使い、取得した文書を関連性の評価基準に照らして一つずつ採点する。人間を対象にしたブラインド調査では、評価者が好むシステムを77%の割合で選び、従来のnDCGの52%を上回った。Cohereは次世代のEmbedおよびRerankモデルの最適化にRCP-nDCG@10を活用するほか、MTEBベンチマークにも追加する予定だ。
同社は、検索プラットフォーム「Compass Cloud」のプライベートベータに参加するパートナーも募集している。
なぜ重要か
検索品質をより明確に把握できるため、開発者は本当に関連性の高い結果を返すシステムを構築しやすくなる。