Cohere meddelade i dag att Rerank 5-modellerna nu är allmänt tillgängliga. De två modellerna – Rerank 5 Pro och Rerank 5 Fast – hjälper företag att hitta de mest relevanta textavsnitten i dokument och minskar därmed antalet token som skickas vidare till efterföljande LLM:er. Pro uppnår de högsta benchmarkresultaten inom finans, hälso- och sjukvård samt flerspråkiga uppgifter, medan Fast ger ungefär tre gånger högre genomströmning för arbetsbelastningar med stora volymer. Båda modellerna kan användas via Cohere API, Model Vault, Microsoft Foundry och Amazon SageMaker, eller driftsättas privat.
Varför det spelar roll
Företag kan sänka kostnaderna för AI-inferens och förbättra svarskvaliteten genom att bara skicka de mest relevanta textavsnitten till sina LLM:er.
