쿼리 및 문서 전송
먼저 검색이나 임베딩을 통해 비용이 낮은 광범위한 후보 집합을 얻은 뒤 쿼리와 후보를 전달해 재순위화하세요. 전체 말뭉치를 다시 순위화하는 것보다 비용과 지연 시간이 줄어듭니다.
결과를 원본 레코드에 다시 매핑할 수 있도록 문서에 내부 ID를 유지하세요.
재순위화 요청
bash
curl --request POST https://cicora.ai/api/v1/rerank \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "cohere/rerank-v3.5",
"query": "How do I change a subscription?",
"documents": ["Billing changes are in Settings.", "Images can be generated from a prompt."],
"top_n": 1
}'후보 크기
- 호출 전에 문서 수를 합리적인 수준으로 제한하세요.
- top_n은 다음 단계에서 실제로 필요한 항목 수를 반영해야 합니다.
- 접근 권한이 서로 다른 문서를 하나의 텍스트로 합치지 마세요.
점수 활용
재순위화 결과는 절대적 진리가 아니라 순위를 위한 신호입니다. 접근 필터, 최신성 및 비즈니스 규칙과 함께 사용하세요.
제한된 콘텐츠를 불필요한 로그에 복사하지 말고 오프라인 평가를 위해 쿼리와 비식별 후보 ID를 기록하세요.