Cohere hat heute die allgemeine Verfügbarkeit seiner Rerank-5-Modelle bekannt gegeben. Die beiden Varianten – Rerank 5 Pro und Rerank 5 Fast – helfen Unternehmen dabei, die relevantesten Passagen in Dokumenten zu finden und so die Zahl der Tokens zu verringern, die an nachgelagerte LLMs gesendet werden. Pro erzielt bei Finanz-, Gesundheits- und mehrsprachigen Aufgaben die höchsten Benchmark-Ergebnisse. Fast bietet bei hohen Arbeitslasten einen etwa dreimal höheren Durchsatz. Beide Modelle sind über die API von Cohere, Model Vault, Microsoft Foundry und Amazon SageMaker verfügbar oder lassen sich privat bereitstellen.
Warum es wichtig ist
Unternehmen können die Kosten für KI-Inferenz senken und die Antwortqualität verbessern, indem sie ihren LLMs nur die relevantesten Textpassagen übermitteln.
