Сегодня Cohere объявила о выходе моделей Rerank 5. В линейку входят Rerank 5 Pro и Rerank 5 Fast. Они помогают компаниям находить в документах наиболее релевантные фрагменты и сокращать число токенов, передаваемых последующим большим языковым моделям (LLM). Pro показывает лучшие результаты в тестах на финансовых, медицинских и многоязычных задачах, а Fast обеспечивает примерно втрое более высокую пропускную способность при больших нагрузках. Обе модели доступны через API Cohere, Model Vault, Microsoft Foundry и Amazon SageMaker, а также для частного развёртывания.
Почему это важно
Компании могут сократить расходы на ИИ-инференс и повысить качество ответов, передавая LLM только самые релевантные фрагменты текста.
