Perhatikan isyarat
Baca pengepala had yang didokumenkan dan ID permintaan pada setiap respons. Jangan paparkan nombor yang dikira kepada pengguna melainkan data respons atau tetapan akaun mengesahkannya.
Ukur permintaan, token dan operasi media secara berasingan: kos dan daya pemprosesannya boleh berbeza.
Baca pengepala respons
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Rancang beban
- Hadkan konkurensi bagi setiap pengguna dan setiap baris gilir.
- Masukkan kerja media latar belakang ke dalam baris gilir terurus.
- Sediakan ruang masa untuk percubaan semula dan jangan gunakan percubaan semula sebagai mekanisme daya pemprosesan.
Tingkah laku apabila menerima 429
Tunjukkan status yang jelas, kekalkan draf yang belum dicipta dan jadualkan percubaan semula selepas jeda yang dibenarkan.
Jangan ubah model atau parameter secara automatik apabila tindakan itu akan mengubah makna tugasan tanpa pilihan produk yang jelas.