Cohere anunció hoy que sus modelos Rerank 5 ya están disponibles de forma general. Las dos opciones —Rerank 5 Pro y Rerank 5 Fast— permiten a las empresas recuperar los pasajes más relevantes de los documentos y reducir la cantidad de tokens que envían a los LLM posteriores. Pro obtiene las puntuaciones más altas en pruebas de referencia de finanzas, atención médica y tareas multilingües, mientras que Fast ofrece un rendimiento aproximadamente tres veces mayor para cargas de trabajo de gran volumen. Se puede acceder a ambos modelos mediante la API de Cohere, Model Vault, Microsoft Foundry y Amazon SageMaker, o implementarlos de forma privada.
Por qué importa
Las empresas pueden reducir los costos de inferencia de IA y mejorar la calidad de las respuestas al enviar a sus LLM solo los pasajes de texto más relevantes.
