Amati sinyal
Baca header batas yang didokumentasikan dan ID permintaan pada setiap respons. Jangan tampilkan angka hasil perhitungan kepada pengguna kecuali data respons atau pengaturan akun mengonfirmasinya.
Ukur permintaan, token, dan operasi media secara terpisah: biaya dan throughput-nya dapat berbeda.
Baca header respons
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Rencanakan beban
- Batasi konkurensi per pengguna dan per antrean.
- Masukkan pekerjaan media latar belakang ke antrean yang dikelola.
- Sisakan waktu untuk percobaan ulang dan jangan gunakan percobaan ulang sebagai mekanisme throughput.
Perilaku saat 429
Tampilkan status yang jelas, pertahankan draf item yang belum berhasil dibuat, dan jadwalkan percobaan ulang setelah jeda yang diizinkan.
Jangan otomatis mengubah model atau parameter jika tindakan itu akan mengubah makna tugas tanpa pilihan produk yang eksplisit.