Παρατηρήστε τα σήματα
Διαβάστε τις τεκμηριωμένες κεφαλίδες ορίων και το αναγνωριστικό αιτήματος σε κάθε απάντηση. Μην εμφανίζετε υπολογισμένο αριθμό στον χρήστη, εκτός αν τον επιβεβαιώνουν τα δεδομένα απάντησης ή οι ρυθμίσεις λογαριασμού.
Μετρήστε χωριστά αιτήματα, tokens και λειτουργίες πολυμέσων: το κόστος και η διεκπεραίωσή τους μπορεί να διαφέρουν.
Διαβάστε τις κεφαλίδες απάντησης
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Σχεδιάστε το φορτίο
- Οριοθετήστε την ταυτόχρονη εκτέλεση ανά χρήστη και ανά ουρά.
- Τοποθετήστε την εργασία πολυμέσων παρασκηνίου σε διαχειριζόμενη ουρά.
- Αφήστε χρονικό περιθώριο για επαναλήψεις και μη χρησιμοποιείτε τις επαναλήψεις ως μηχανισμό διεκπεραίωσης.
Συμπεριφορά σε 429
Εμφανίστε σαφή κατάσταση, διατηρήστε ένα μη δημιουργημένο πρόχειρο και προγραμματίστε επανάληψη μετά από επιτρεπόμενη παύση.
Μην αλλάζετε αυτόματα μοντέλο ή παραμέτρους όταν αυτό θα άλλαζε το νόημα της εργασίας χωρίς ρητή επιλογή προϊόντος.