ตั้งค่าที่ต้องการ
ฟิลด์ provider กำหนดกฎการเลือกการดำเนินการสำหรับคำขอหนึ่งรายการ ให้ถือเป็นนโยบาย ไม่ใช่คำรับรองเส้นทางภายในที่แน่นอน
สำหรับงานที่มีคุณสมบัติบังคับ ให้ระบุอย่างชัดเจนว่าต้องรองรับพารามิเตอร์ที่เกี่ยวข้อง แทนการลดคุณภาพโดยไม่แจ้งให้ทราบ
การกำหนดเส้นทางที่ต้องการในคำขอ
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}ข้อจำกัดที่มีประโยชน์
- order กำหนดลำดับความสำคัญของตัวเลือกที่อนุญาต
- allow_fallbacks กำหนดว่าคำขอสามารถย้ายไปยังทางเลือกอื่นได้หรือไม่
- require_parameters ช่วยปฏิเสธเส้นทางที่ไม่สามารถทำตามสัญญาที่ประกาศไว้ได้
การสังเกตการณ์
เก็บโมเดลที่เลือก เวลา สถานะ และการใช้จ่ายไว้ในการติดตามของคุณเอง อย่าแสดงรายละเอียดการกำหนดเส้นทางภายในแก่ผู้ใช้ว่าเป็นข้อเท็จจริง หากข้อมูลนั้นไม่มีอยู่ในผลตอบกลับ
เมื่อลองตัวเลือกครบแล้ว ให้ตอบกลับอย่างคาดเดาได้: ส่งคืนสาเหตุเดิมและเสนอให้ลองใหม่ด้วยการกำหนดค่าที่เข้ากันได้