Stebėkite signalus
Kiekviename atsakyme skaitykite dokumentuotas apribojimų antraštes ir užklausos identifikatorių. Nerodykite naudotojui apskaičiuoto skaičiaus, nebent jį patvirtina atsakymo duomenys arba paskyros nustatymai.
Užklausas, žetonus ir medijos operacijas matuokite atskirai: jų kaina ir pralaidumas gali skirtis.
Skaitykite atsakymo antraštes
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Planuokite apkrovą
- Ribokite lygiagretų vykdymą kiekvienam naudotojui ir kiekvienai eilei.
- Fonines medijos užduotis įtraukite į valdomą eilę.
- Palikite laiko atsargą pakartotiniams bandymams ir nenaudokite jų kaip pralaidumo mechanizmo.
Elgsena gavus 429
Rodykite aiškią būseną, išsaugokite nesukurtą juodraštį ir suplanuokite pakartotinį bandymą po leidžiamos pauzės.
Automatiškai nekeiskite modelio ar parametrų, jei tai pakeistų užduoties prasmę be aiškaus produkto sprendimo.