Send spørring og dokumenter
Hent først et rimelig, bredt sett gjennom søk eller innebygginger, og send deretter spørringen og kandidatene til omrangering. Det reduserer kostnader og ventetid sammenlignet med å omrangere hele korpuset.
Dokumenter må beholde den interne ID-en din, slik at et resultat kan knyttes til kildeoppføringen.
Forespørsel om omrangering
bash
curl --request POST https://cicora.ai/api/v1/rerank \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "cohere/rerank-v3.5",
"query": "How do I change a subscription?",
"documents": ["Billing changes are in Settings.", "Images can be generated from a prompt."],
"top_n": 1
}'Kandidatstørrelse
- Begrens dokumentene til et fornuftig antall før kallet.
- top_n bør gjenspeile hvor mange elementer neste trinn faktisk trenger.
- Ikke slå sammen dokumenter med ulike tilgangsrettigheter til én tekst.
Bruk poengsummen
Et omrangeringsresultat er et sorteringssignal, ikke en absolutt sannhet. Kombiner det med tilgangsfiltre, aktualitet og forretningsregler.
Logg spørringen og avidentifiserte kandidat-ID-er for offline-evaluering uten å kopiere begrenset innhold til unødvendige logger.