Opazujte signale
Preberite dokumentirane glave omejitev in identifikator zahteve pri vsakem odgovoru. Uporabniku ne prikazujte izračunane številke, razen če jo potrjujejo podatki odgovora ali nastavitve računa.
Zahteve, žetone in predstavnostne postopke merite ločeno: njihovi stroški in prepustnost se lahko razlikujejo.
Preberite glave odgovora
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Načrtujte obremenitev
- Omejite sočasnost na uporabnika in na čakalno vrsto.
- Opravila obdelave predstavnosti v ozadju uvrstite v upravljano čakalno vrsto.
- Pustite časovno rezervo za ponovne poskuse in jih ne uporabljajte kot mehanizem za prepustnost.
Ravnanje ob 429
Prikažite jasno stanje, ohranite neustvarjen osnutek in načrtujte ponovni poskus po dovoljenem premoru.
Modela ali parametrov ne spreminjajte samodejno, kadar bi to spremenilo pomen naloge brez izrecne odločitve v izdelku.