В системах RAG часто сложно понять, насколько действительно релевантен найденный документ. Cohere выпустила Rerank 5 Pro и Rerank 5 Fast, которые обещают решить эту проблему с помощью калиброванных оценок релевантности и функции Context Focus, что позволяет автоматизировать решения, требующие точного отсева информации.
Главное новшество — калиброванные оценки релевантности. Это значит, что модели выдают предсказуемые и последовательные баллы (например, 0.8 всегда означает примерно 80% релевантности) для разных запросов и доменов. Инженеры могут устанавливать единые пороги для автоматического отсева нерелевантных результатов, запуска уточняющих запросов или определения уровня уверенности в ответе системы. Большинство обычных реранкеров выдают лишь порядковые оценки, где 0.7 может означать "очень релевантно" для одного запроса и "едва релевантно" для другого, что затрудняет принятие автоматических решений.
Функция Context Focus дополняет это, возвращая наиболее релевантные фрагменты текста внутри документа (с указанием диапазона символов) прямо в том же вызове API. Это ускоряет обработку и позволяет большим языковым моделям (LLM) получать сразу нужные части документа, а не весь текст целиком.
Модели Rerank 5 Pro и Rerank 5 Fast оптимизированы под разные задачи. Rerank 5 Pro создана для максимального качества в сложных областях, требующих рассуждений, таких как финансы, здравоохранение и научные исследования. Rerank 5 Fast обеспечивает высокое качество для рабочих нагрузок, чувствительных к задержкам и стоимости, и при этом превосходит по производительности модель предыдущего поколения Rerank 4 Pro. Обе модели поддерживают контекст до 32k токенов, более 100 языков и работу с полуструктурированными данными, например, JSON и YAML-строками. Обновление с предыдущих версий не требует переиндексации корпуса.
Калиброванные оценки и Context Focus в Rerank 5 могут упростить создание надёжных RAG-систем, позволяя автоматизировать решения на основе релевантности. Однако Cohere не предоставила прямых бенчмарков, демонстрирующих улучшение качества по сравнению с конкурентами в реальных корпоративных сценариях.