Gửi truy vấn và tài liệu
Trước tiên lấy một tập hợp rộng với chi phí thấp qua tìm kiếm hoặc nhúng vector, rồi gửi truy vấn và ứng viên để xếp hạng lại. Cách này giảm chi phí và độ trễ so với xếp hạng lại toàn bộ kho dữ liệu.
Tài liệu cần giữ ID nội bộ của bạn để kết quả có thể ánh xạ về bản ghi nguồn.
Yêu cầu xếp hạng lại
bash
curl --request POST https://cicora.ai/api/v1/rerank \
--header "Authorization: Bearer $CICORA_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model": "cohere/rerank-v3.5",
"query": "How do I change a subscription?",
"documents": ["Billing changes are in Settings.", "Images can be generated from a prompt."],
"top_n": 1
}'Kích thước tập ứng viên
- Giới hạn tài liệu ở số lượng hợp lý trước khi gọi.
- top_n nên phản ánh số mục mà bước tiếp theo thực sự cần.
- Không gộp các tài liệu có quyền truy cập khác nhau vào một văn bản.
Sử dụng điểm số
Kết quả xếp hạng lại là tín hiệu thứ tự, không phải sự thật tuyệt đối. Hãy kết hợp kết quả này với bộ lọc truy cập, độ mới và quy tắc kinh doanh.
Ghi lại truy vấn và ID ứng viên đã loại bỏ thông tin nhận dạng để đánh giá ngoại tuyến mà không sao chép nội dung hạn chế vào nhật ký không cần thiết.