Signale beobachten
Lesen Sie bei jeder Antwort dokumentierte Grenzwert-Header und die Anfrage-ID. Zeigen Sie Benutzern keine berechnete Zahl an, sofern Antwortdaten oder Kontoeinstellungen sie nicht bestätigen.
Messen Sie Anfragen, Token und Medienvorgänge getrennt: Kosten und Durchsatz können sich unterscheiden.
Antwort-Header lesen
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Last planen
- Begrenzen Sie die Parallelität pro Benutzer und pro Warteschlange.
- Stellen Sie Medienarbeiten im Hintergrund in eine verwaltete Warteschlange.
- Lassen Sie Zeitreserven für Wiederholungen und verwenden Sie Wiederholungen nicht als Durchsatzmechanismus.
Verhalten bei 429
Zeigen Sie einen klaren Status an, bewahren Sie einen nicht erstellten Entwurf auf und planen Sie nach einer zulässigen Pause einen neuen Versuch.
Ändern Sie Modell oder Parameter nicht automatisch, wenn dies ohne ausdrückliche Produktentscheidung die Bedeutung der Aufgabe verändern würde.