Nastavte predvoľby
Pole provider nastavuje pravidlá výberu vykonania pre jednu požiadavku. Považujte ho za pravidlá, nie za prísľub konkrétnej internej trasy.
Pri úlohách s povinnými vlastnosťami príslušné parametre výslovne vyžadujte namiesto tichého zníženia kvality.
Predvoľby smerovania v požiadavke
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Užitočné obmedzenia
- order nastavuje prioritu povolených možností.
- allow_fallbacks určuje, či sa požiadavka môže presunúť na alternatívnu trasu.
- require_parameters pomáha odmietnuť trasu, ktorá nedokáže splniť deklarovanú zmluvu.
Pozorovateľnosť
Vybraný model, časovanie, stav a výdavky uchovávajte vo vlastnom zázname. Interné podrobnosti smerovania neprezentujte používateľovi ako skutočnosť, keď v odpovedi chýbajú.
Keď sa možnosti vyčerpajú, odpovedzte predvídateľne: vráťte pôvodnú príčinu a ponúknite opakovanie s kompatibilnou konfiguráciou.