Abfrage und Dokumente senden
Ermitteln Sie zunächst durch Suche oder Einbettungen eine kostengünstige breite Auswahl und senden Sie anschliessend Abfrage und Kandidaten zur Neurangordnung. Gegenüber der Neurangordnung eines gesamten Korpus reduziert dies Kosten und Latenz.
Dokumente müssen Ihre interne ID behalten, damit ein Ergebnis dem Quelldatensatz zugeordnet werden kann.
Anfrage zur Neurangordnung
bash
curl --request POST https://cicora.ai/api/v1/rerank \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "cohere/rerank-v3.5",
"query": "How do I change a subscription?",
"documents": ["Billing changes are in Settings.", "Images can be generated from a prompt."],
"top_n": 1
}'Umfang der Kandidatenmenge
- Begrenzen Sie die Anzahl der Dokumente vor dem Aufruf auf ein sinnvolles Mass.
- top_n sollte widerspiegeln, wie viele Elemente der nächste Schritt tatsächlich benötigt.
- Fassen Sie Dokumente mit unterschiedlichen Zugriffsrechten nicht in einem Text zusammen.
Bewertung verwenden
Ein Ergebnis der Neurangordnung ist ein Sortiersignal, keine absolute Wahrheit. Kombinieren Sie es mit Zugriffsfiltern, Aktualität und Geschäftsregeln.
Protokollieren Sie die Abfrage und deidentifizierte Kandidaten-IDs für die Offline-Bewertung, ohne geschützte Inhalte in unnötige Protokolle zu kopieren.