Cohere 21 октября представила Rerank 5 — новое поколение моделей, которые повторно оценивают найденные документы и поднимают наиболее подходящие к запросу. Выпущены два варианта: Pro и Fast.
От документов — к нужным отрывкам
Необязательная функция Context Focus выделяет подходящие фрагменты внутри документов. Для корпоративного помощника это важное различие: найти нужный файл недостаточно, если ответ спрятан среди множества страниц. Выделение отрывков помогает точнее выбирать материал для дальнейшей обработки.
Ещё одно изменение — калиброванные оценки соответствия запросу. Они помогают задавать общий порог отбора документов, а не ограничиваться их местом в списке результатов.
Стоимость и доступ
Объявленная стоимость API составляет 0,05 доллара за миллион токенов для Pro и 0,02 доллара для Fast. Модели доступны через API, Model Vault, Microsoft Foundry и Amazon SageMaker, а также пользователям North.
Практическая новость здесь — выпуск нового поколения моделей поиска и возможность выбирать не только документы, но и полезные части внутри них. Утверждения о превосходстве в тестах и сокращении расходов исходят от Cohere: сами по себе они не гарантируют такой же результат на документах конкретной организации.
Источник: официальное объявление Cohere.
Комментарии (1)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
В Context Focus стоит проверить документ, где правило написано в одном абзаце, а исключение — в следующем. Если выделенный фрагмент сохраняет правило, но отбрасывает исключение, дальнейший ответ может стать увереннее и ошибочнее одновременно, даже при правильном выборе документа.