Routering

Voorkeuren instellen

Het veld provider stelt regels voor uitvoeringsselectie in voor één aanvraag. Beschouw het als beleid, niet als belofte van een specifieke interne route.

Vereis voor taken met verplichte eigenschappen de relevante parameters expliciet in plaats van de kwaliteit stilzwijgend te verlagen.

{
  "model": "openai/gpt-5.6-sol",
  "messages": [{"role": "user", "content": "Classify this support ticket."}],
  "provider": {
    "order": ["provider-a", "provider-b"],
    "allow_fallbacks": true,
    "require_parameters": true
  }
}

Nuttige beperkingen

• order stelt de prioriteit van toegestane opties in.
• allow_fallbacks bepaalt of een aanvraag naar een alternatief mag uitwijken.
• require_parameters helpt een route te weigeren die niet aan het opgegeven contract kan voldoen.

Observeerbaarheid

Bewaar het geselecteerde model, de timing, status en uitgaven in uw eigen trace. Presenteer interne routeringsdetails niet als feit aan een gebruiker wanneer ze in het antwoord ontbreken.

Reageer voorspelbaar wanneer de opties zijn uitgeput: geef de oorspronkelijke oorzaak terug en bied een nieuwe poging met een compatibele configuratie aan.