A Cohere anunciou hoje a disponibilidade geral dos modelos Rerank 5. As duas versões — Rerank 5 Pro e Rerank 5 Fast — ajudam empresas a encontrar os trechos mais relevantes em documentos, reduzindo o número de tokens enviados a LLMs usados nas etapas seguintes. O Pro obtém as maiores pontuações em benchmarks nas áreas de finanças, saúde e tarefas multilíngues, enquanto o Fast oferece uma capacidade de processamento cerca de três vezes maior para cargas de trabalho de alto volume. Os dois modelos podem ser acessados pela API da Cohere, pelo Model Vault, pelo Microsoft Foundry e pelo Amazon SageMaker, ou implantados em ambientes privados.
Por que importa
As empresas podem reduzir os custos de inferência de IA e melhorar a qualidade das respostas enviando aos LLMs apenas os trechos de texto mais relevantes.
