Routing

Präferenzen festlegen

Das Feld provider legt Regeln für die Ausführungsauswahl einer Anfrage fest. Behandeln Sie es als Richtlinie, nicht als Zusage einer bestimmten internen Route.

Fordern Sie bei Aufgaben mit zwingend erforderlichen Eigenschaften die relevanten Parameter ausdrücklich an, statt die Qualität stillschweigend zu senken.

{
  "model": "openai/gpt-5.6-sol",
  "messages": [{"role": "user", "content": "Classify this support ticket."}],
  "provider": {
    "order": ["provider-a", "provider-b"],
    "allow_fallbacks": true,
    "require_parameters": true
  }
}

Nützliche Beschränkungen

• order legt die Priorität der zulässigen Optionen fest.
• allow_fallbacks legt fest, ob eine Anfrage auf eine Alternative ausweichen darf.
• require_parameters hilft dabei, eine Route abzulehnen, die den angegebenen Vertrag nicht erfüllen kann.

Beobachtbarkeit

Speichern Sie ausgewähltes Modell, Zeitangaben, Status und Ausgaben in Ihrer eigenen Ablaufverfolgung. Stellen Sie interne Routing-Details gegenüber Benutzern nicht als Tatsache dar, wenn sie in der Antwort fehlen.

Wenn alle Optionen ausgeschöpft sind, antworten Sie vorhersehbar: Geben Sie die ursprüngliche Ursache zurück und bieten Sie einen neuen Versuch mit kompatibler Konfiguration an.