Observer les signaux
Lisez les en-têtes de limites documentés et l’ID de requête dans chaque réponse. N’affichez pas un nombre calculé à l’utilisateur, sauf si les données de réponse ou les réglages du compte le confirment.
Mesurez séparément les requêtes, les jetons et les opérations multimédias : leur coût et leur débit de traitement peuvent différer.
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Planifier la charge
- Limitez le nombre d’exécutions simultanées par utilisateur et par file d’attente.
- Placez les travaux multimédias en arrière-plan dans une file d’attente gérée.
- Conservez une marge de temps pour les nouvelles tentatives et n’utilisez pas celles-ci comme moyen d’augmenter le débit.
Comportement en cas de 429
Affichez un statut clair, conservez le brouillon de l’élément qui n’a pas été créé et planifiez une nouvelle tentative après une pause autorisée.
Ne changez pas automatiquement de modèle ou de paramètres lorsque cela modifierait le sens de la tâche sans choix explicite du produit.