Odeslání dotazu a dokumentů
Nejprve získejte levnou širokou sadu pomocí vyhledávání nebo embeddingů, poté odešlete dotaz a kandidáty k přeřazení. Oproti přeřazování celého korpusu to snižuje náklady a latenci.
Dokumenty musí uchovávat vaše interní ID, aby bylo možné výsledek přiřadit zpět ke zdrojovému záznamu.
curl --request POST https://cicora.ai/api/v1/rerank \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "cohere/rerank-v3.5",
"query": "How do I change a subscription?",
"documents": ["Billing changes are in Settings.", "Images can be generated from a prompt."],
"top_n": 1
}'Velikost sady kandidátů
- Před voláním omezte dokumenty na rozumný počet.
- top_n by mělo odpovídat počtu položek, které další krok skutečně potřebuje.
- Nespojujte dokumenty s různými přístupovými právy do jednoho textu.
Použití skóre
Výsledek přeřazení je signál pořadí, nikoli absolutní pravda. Kombinujte jej s přístupovými filtry, aktuálností a obchodními pravidly.
Pro offline vyhodnocení zaznamenávejte dotaz a deidentifikovaná ID kandidátů, aniž byste kopírovali obsah s omezeným přístupem do zbytečných protokolů.