設定を指定
providerフィールドは、一つのリクエストに対する実行先選択ルールを設定します。特定の内部ルートを保証するものではなく、ポリシーとして扱ってください。
必須プロパティがあるタスクでは、品質を黙って下げるのではなく、該当するパラメーターを明示的に必須とします。
リクエスト内のルーティング設定
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}有用な制約
- orderは許可された選択肢の優先順位を設定します。
- allow_fallbacksは、リクエストが代替先へ移行できるかどうかを定義します。
- require_parametersは、宣言された仕様を満たせないルートを拒否するために役立ちます。
可観測性
選択したモデル、タイミング、ステータス、支出を独自のトレースに保持します。応答に記載されていない内部ルーティングの詳細を事実としてユーザーに提示しないでください。
選択肢を使い切った場合は、予測可能な形で応答します。元の原因を返し、互換性のある設定での再試行を提案してください。