Cohere ha annunciato oggi la disponibilità generale dei modelli Rerank 5. Le due versioni, Rerank 5 Pro e Rerank 5 Fast, consentono alle aziende di recuperare dai documenti i passaggi più pertinenti, riducendo il numero di token inviati agli LLM a valle. Pro ottiene i punteggi più alti nei benchmark di finanza, sanità e attività multilingue, mentre Fast offre una capacità di elaborazione circa tre volte superiore per i carichi di lavoro ad alto volume. Entrambi i modelli sono accessibili tramite l’API di Cohere, Model Vault, Microsoft Foundry e Amazon SageMaker, oppure possono essere distribuiti in ambienti privati.
Perché conta
Le aziende possono ridurre i costi di inferenza dell’IA e migliorare la qualità delle risposte inviando ai propri LLM solo i passaggi di testo più pertinenti.
