Cohere maakte vandaag bekend dat de Rerank 5-modellen algemeen beschikbaar zijn. De twee varianten – Rerank 5 Pro en Rerank 5 Fast – helpen bedrijven de meest relevante passages uit documenten te vinden, zodat er minder tokens naar downstream-LLM’s hoeven te worden gestuurd. Pro behaalt de hoogste scores op benchmarks voor financiën, gezondheidszorg en meertalige taken, terwijl Fast voor workloads met een hoog volume ongeveer drie keer zoveel doorvoer biedt. Beide modellen zijn beschikbaar via de API van Cohere, Model Vault, Microsoft Foundry en Amazon SageMaker, of kunnen privé worden geïmplementeerd.
Waarom het ertoe doet
Bedrijven kunnen de kosten van AI-inferentie verlagen en de kwaliteit van antwoorden verbeteren door alleen de meest relevante tekstpassages naar hun LLM’s te sturen.
