Définir les préférences
Le champ provider définit les règles de sélection de l’exécution pour une requête. Considérez-le comme une politique, et non comme la promesse d’une route interne précise.
Pour les tâches comportant des propriétés obligatoires, exigez explicitement les paramètres concernés au lieu de réduire silencieusement la qualité.
Préférences de routage dans une requête
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Contraintes utiles
- order définit la priorité des options autorisées.
- allow_fallbacks détermine si une requête peut basculer vers une solution de remplacement.
- require_parameters permet de rejeter une route qui ne peut pas respecter le contrat déclaré.
Observabilité
Conservez le modèle sélectionné, la durée, le statut et les dépenses dans votre propre trace. Ne présentez pas à l’utilisateur comme des faits des détails de routage internes absents de la réponse.
Lorsque toutes les options sont épuisées, répondez de manière prévisible : renvoyez la cause initiale et proposez une nouvelle tentative avec une configuration compatible.