Observer signalerne
Læs de dokumenterede grænseheaders og anmodnings-ID'et i hvert svar. Vis ikke et beregnet tal til en bruger, medmindre svardata eller kontoindstillinger bekræfter det.
Mål anmodninger, tokens og medieoperationer separat: omkostningerne og gennemstrømningen kan være forskellige.
Læs svarheaders
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Planlæg belastningen
- Afgræns samtidighed per bruger og per kø.
- Tilføj mediearbejde i baggrunden i en administreret kø.
- Afsæt tidsmargin til nye forsøg, og brug ikke nye forsøg som en mekanisme til at øge gennemløbet.
Adfærd ved 429
Vis en tydelig status, bevar en kladde, der ikke blev oprettet, og planlæg et nyt forsøg efter en tilladt pause.
Skift ikke automatisk model eller parametre, når det ville ændre opgavens betydning uden et udtrykkeligt produktvalg.