Nustatykite nuostatas
Laukas provider nustato vienos užklausos vykdymo pasirinkimo taisykles. Laikykite jį politika, o ne pažadu dėl konkretaus vidinio maršruto.
Užduotims su privalomomis savybėmis aiškiai reikalaukite atitinkamų parametrų, užuot nepastebimai mažinę kokybę.
Maršruto parinkimo nuostatos užklausoje
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Naudingi apribojimai
- order nustato leidžiamų parinkčių prioritetą.
- allow_fallbacks nustato, ar užklausa gali būti perkelta į alternatyvą.
- require_parameters padeda atmesti maršrutą, kuris negali įvykdyti deklaruotos sutarties.
Stebimumas
Pasirinktą modelį, laiką, būseną ir išlaidas saugokite savo sekimo įraše. Jei atsakyme nėra vidinio maršruto parinkimo informacijos, nepateikite jos naudotojui kaip fakto.
Išnaudojus parinktis, atsakykite nuspėjamai: grąžinkite pirminę priežastį ir pasiūlykite pakartoti su suderinama konfigūracija.