Cohere a annoncé aujourd’hui la disponibilité générale de ses modèles Rerank 5. Les deux versions — Rerank 5 Pro et Rerank 5 Fast — permettent aux entreprises de retrouver les passages les plus pertinents dans des documents et de réduire le nombre de tokens envoyés aux LLM en aval. Pro obtient les meilleurs résultats aux tests de référence dans les domaines de la finance, de la santé et des tâches multilingues, tandis que Fast offre un débit environ trois fois supérieur pour les charges de travail à fort volume. Les deux modèles sont accessibles via l’API de Cohere, Model Vault, Microsoft Foundry et Amazon SageMaker, ou peuvent être déployés en privé.
Pourquoi c'est important
Les entreprises peuvent réduire leurs coûts d’inférence IA et améliorer la qualité des réponses en n’envoyant à leurs LLM que les passages les plus pertinents.