Dirigering

Ange preferenser

Fältet provider anger regler för val av körning för en begäran. Betrakta det som policy, inte som ett löfte om en viss intern rutt.

För uppgifter med obligatoriska egenskaper ska du uttryckligen kräva relevanta parametrar i stället för att omärkligt sänka kvaliteten.

{
  "model": "openai/gpt-5.6-sol",
  "messages": [{"role": "user", "content": "Classify this support ticket."}],
  "provider": {
    "order": ["provider-a", "provider-b"],
    "allow_fallbacks": true,
    "require_parameters": true
  }
}

Användbara begränsningar

• order anger prioriteten för tillåtna alternativ.
• allow_fallbacks anger om en begäran får flyttas till ett alternativ.
• require_parameters hjälper till att avvisa en rutt som inte kan uppfylla det angivna kontraktet.

Observerbarhet

Spara den valda modellen, tiden, statusen och utgiften i din egen spårning. Presentera inte intern dirigeringsinformation för en användare som fakta när den saknas i svaret.

När alternativen är uttömda ska du svara förutsägbart: returnera den ursprungliga orsaken och erbjud ett nytt försök med en kompatibel konfiguration.