Imposta le preferenze
Il campo provider imposta le regole di selezione dell'esecuzione per una richiesta. Consideralo una politica, non la promessa di uno specifico percorso interno.
Per le attività con proprietà obbligatorie, richiedi esplicitamente i parametri pertinenti invece di ridurre silenziosamente la qualità.
Preferenze di instradamento in una richiesta
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Vincoli utili
- order imposta la priorità delle opzioni consentite.
- allow_fallbacks definisce se una richiesta può passare a un'alternativa.
- require_parameters aiuta a rifiutare un percorso che non può soddisfare il contratto dichiarato.
Osservabilità
Conserva nella tua traccia il modello selezionato, i tempi, lo stato e la spesa. Non presentare all'utente come fatti i dettagli dell'instradamento interno quando non sono presenti nella risposta.
Quando le opzioni sono esaurite, rispondi in modo prevedibile: restituisci la causa originale e proponi un nuovo tentativo con una configurazione compatibile.