Отправьте query и документы
Сначала получите недорогой широкий набор через поиск или embeddings, затем передайте query и кандидаты в rerank. Это уменьшает стоимость и задержку по сравнению с пересортировкой всего корпуса.
Документы должны сохранять ваш внутренний id, чтобы результат можно было вернуть к исходной записи.
curl --request POST https://cicora.ai/api/v1/rerank \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "cohere/rerank-v3.5",
"query": "How do I change a subscription?",
"documents": ["Billing changes are in Settings.", "Images can be generated from a prompt."],
"top_n": 1
}'Размер выборки
- Ограничивайте documents разумным числом перед вызовом.
- top_n должен отражать, сколько элементов реально нужно следующему шагу.
- Не объединяйте в один текст документы с разными правами доступа.
Использование оценки
Результат rerank — сигнал порядка, а не абсолютная истина. Сочетайте его с фильтрами доступа, датой и бизнес-правилами.
Логируйте запрос и обезличенные идентификаторы кандидатов для offline-оценки, не копируя закрытый контент в ненужные журналы.