Afzalliklarni belgilang
provider maydoni bitta so‘rov uchun bajarilishni tanlash qoidalarini belgilaydi. Uni ma’lum ichki yo‘nalish va’dasi emas, siyosat sifatida ko‘ring.
Majburiy xususiyatli vazifalarda sifatni jim pasaytirish o‘rniga kerakli parametrlarni aniq talab qiling.
Routing preferences in a request
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Foydali cheklovlar
- order ruxsat etilgan variantlar ustuvorligini belgilaydi.
- allow_fallbacks so‘rov alternativa tomon o‘tishi mumkinligini belgilaydi.
- require_parameters e’lon qilingan kontraktni bajara olmaydigan yo‘nalishni qabul qilmaslikka yordam beradi.
Kuzatuvchanlik
Tanlangan modelni, vaqtni, statusni va xarajatni o‘z trace ingizda saqlang. Javobda bo‘lmagan ichki marshrut tafsilotlarini foydalanuvchiga fakt sifatida chiqarmang.
Variantlar tugaganda bashoratli javob bering: asl sababni qaytaring va mos konfiguratsiya bilan qayta urinishni taklif qiling.