Ustaw preferencje
Pole provider określa reguły wyboru realizacji dla jednego żądania. Traktuj je jako zasady, a nie obietnicę konkretnej trasy wewnętrznej.
W zadaniach z obowiązkowymi właściwościami jawnie wymagaj odpowiednich parametrów, zamiast po cichu obniżać jakość.
Preferencje routingu w żądaniu
json
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Przydatne ograniczenia
- order określa priorytet dozwolonych opcji.
- allow_fallbacks określa, czy żądanie może zostać przeniesione do alternatywy.
- require_parameters pomaga odrzucić trasę, która nie może spełnić zadeklarowanego kontraktu.
Obserwowalność
Zapisuj wybrany model, czas, status i wydatki we własnym śladzie. Nie przedstawiaj użytkownikowi wewnętrznych szczegółów routingu jako faktów, jeśli nie ma ich w odpowiedzi.
Po wyczerpaniu opcji odpowiadaj w przewidywalny sposób: zwróć pierwotną przyczynę i zaproponuj ponowienie ze zgodną konfiguracją.