Nastavení předvoleb
Pole provider stanovuje pravidla výběru provedení pro jeden požadavek. Považujte je za zásadu, nikoli za příslib konkrétní interní trasy.
U úloh s povinnými vlastnostmi výslovně vyžadujte příslušné parametry, místo abyste bez upozornění snižovali kvalitu.
{
"model": "openai/gpt-5.6-sol",
"messages": [{"role": "user", "content": "Classify this support ticket."}],
"provider": {
"order": ["provider-a", "provider-b"],
"allow_fallbacks": true,
"require_parameters": true
}
}Užitečná omezení
- order určuje prioritu povolených možností.
- allow_fallbacks určuje, zda může požadavek přejít na alternativu.
- require_parameters pomáhá odmítnout trasu, která nemůže splnit deklarovaný kontrakt.
Pozorovatelnost
Zvolený model, časování, stav a výdaje uchovávejte ve vlastním záznamu. Neuvádějte uživateli interní podrobnosti směrování jako skutečnost, pokud v odpovědi chybějí.
Po vyčerpání možností reagujte předvídatelně: vraťte původní příčinu a nabídněte opakování s kompatibilní konfigurací.