Nastavite prednostne možnosti
Polje provider določa pravila izbire izvajanja za eno zahtevo. Obravnavajte ga kot pravilnik, ne kot obljubo določene interne poti.
Pri nalogah z obveznimi lastnostmi izrecno zahtevajte ustrezne parametre, namesto da bi neopazno znižali kakovost.
Nastavitve usmerjanja v zahtevi
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Uporabne omejitve
- order določa prednost dovoljenih možnosti.
- allow_fallbacks določa, ali se lahko zahteva premakne na drugo možnost.
- require_parameters pomaga zavrniti pot, ki ne more izpolniti navedene pogodbe.
Opazljivost
Izbrani model, čas, stanje in porabo hranite v lastni sledi. Uporabniku ne predstavljajte notranjih podrobnosti usmerjanja kot dejstvo, kadar jih v odgovoru ni.
Ko so možnosti izčrpane, se odzovite predvidljivo: vrnite prvotni vzrok in ponudite ponovni poskus z združljivo konfiguracijo.