Definir preferências
O campo provider define regras de seleção de execução para um pedido. Considere-o uma política, não uma promessa de uma rota interna específica.
Para tarefas com propriedades obrigatórias, exija explicitamente os parâmetros relevantes em vez de reduzir silenciosamente a qualidade.
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Restrições úteis
- order define a prioridade das opções permitidas.
- allow_fallbacks define se um pedido pode passar para uma alternativa.
- require_parameters ajuda a rejeitar uma rota que não consiga cumprir o contrato declarado.
Observabilidade
Conserve no seu próprio rastreio o modelo selecionado, a duração, o estado e a despesa. Não apresente ao utilizador detalhes de encaminhamento interno como factos quando estes não forem devolvidos pela API.
Quando as opções se esgotarem, responda de forma previsível: devolva a causa original e proponha uma nova tentativa com uma configuração compatível.