Задайте предпочтения
Поле provider задаёт правила выбора исполнения для одного запроса. Его нужно рассматривать как политику, а не как обещание конкретного внутреннего маршрута.
Для задач с обязательными свойствами явно требуйте нужные параметры вместо тихого понижения качества.
Routing preferences in a request
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Полезные ограничения
- order задаёт приоритет допустимых вариантов.
- allow_fallbacks определяет, может ли запрос перейти к альтернативе.
- require_parameters помогает не принять маршрут, который не умеет выполнить заявленный контракт.
Наблюдаемость
Сохраняйте выбранную модель, время, статус и расход в собственном trace. Не выводите внутренние детали маршрутизации пользователю как факт, если их нет в ответе.
Реагируйте на исчерпание вариантов предсказуемо: верните исходную причину и предложите повторить с совместимой конфигурацией.