Observera signalerna
Läs dokumenterade gränshuvuden och begärande-id för varje svar. Visa inte ett beräknat tal för användaren om inte svarsdata eller kontoinställningar bekräftar det.
Mät begäranden, token och medieåtgärder separat: deras kostnad och genomströmning kan skilja sig.
Läs svarshuvuden
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Planera belastningen
- Begränsa samtidigheten per användare och per kö.
- Placera mediearbete i bakgrunden i en hanterad kö.
- Lämna tidsmarginal för nya försök och använd inte nya försök som en mekanism för att öka genomströmningen.
Beteende vid 429
Visa en tydlig status, bevara ett utkast som inte skapades och schemalägg ett nytt försök efter en tillåten paus.
Ändra inte automatiskt modell eller parametrar när det skulle ändra uppgiftens innebörd utan ett uttryckligt produktval.