Ruting

Angi preferanser

Feltet provider angir regler for valg av kjøring for én forespørsel. Behandle det som policy, ikke som et løfte om en bestemt intern rute.

For oppgaver med obligatoriske egenskaper må du uttrykkelig kreve de aktuelle parameterne i stedet for å senke kvaliteten i det skjulte.

{
  "model": "openai/gpt-5.6-sol",
  "messages": [{"role": "user", "content": "Classify this support ticket."}],
  "provider": {
    "order": ["provider-a", "provider-b"],
    "allow_fallbacks": true,
    "require_parameters": true
  }
}

Nyttige begrensninger

• order angir prioriteten til tillatte alternativer.
• allow_fallbacks angir om en forespørsel kan flyttes til et alternativ.
• require_parameters bidrar til å avvise en rute som ikke kan oppfylle den oppgitte kontrakten.

Observerbarhet

Behold valgt modell, tidsbruk, status og forbruk i ditt eget spor. Ikke presenter interne rutingsdetaljer som fakta for en bruker når de mangler i svaret.

Når alternativene er brukt opp, svar på en forutsigbar måte: returner den opprinnelige årsaken, og tilby et nytt forsøk med en kompatibel konfigurasjon.