Odošlite dopyt a dokumenty
Najprv získajte lacnú širokú množinu pomocou vyhľadávania alebo vektorových reprezentácií a potom odošlite dopyt a kandidátov na reranking. V porovnaní s rerankingom celého korpusu to znižuje náklady a latenciu.
Dokumenty musia uchovávať vaše interné ID, aby sa výsledok dal priradiť späť k zdrojovému záznamu.
Požiadavka na reranking
bash
curl --request POST https://cicora.ai/api/v1/rerank \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "cohere/rerank-v3.5",
"query": "How do I change a subscription?",
"documents": ["Billing changes are in Settings.", "Images can be generated from a prompt."],
"top_n": 1
}'Veľkosť množiny kandidátov
- Pred volaním obmedzte dokumenty na rozumný počet.
- top_n má zodpovedať počtu položiek, ktoré ďalší krok skutočne potrebuje.
- Dokumenty s rôznymi prístupovými právami nespájajte do jedného textu.
Použite skóre
Výsledok rerankingu je signálom poradia, nie absolútnou pravdou. Skombinujte ho s filtrami prístupu, aktuálnosťou a obchodnými pravidlami.
Dopyt a odidentifikované ID kandidátov zapisujte do denníka na offline hodnotenie bez kopírovania obmedzeného obsahu do nepotrebných denníkov.