สังเกตสัญญาณ
อ่านส่วนหัวขีดจำกัดที่จัดทำเอกสารไว้และรหัสคำขอในทุกการตอบกลับ อย่าแสดงตัวเลขที่คำนวณขึ้นแก่ผู้ใช้ เว้นแต่ข้อมูลการตอบกลับหรือการตั้งค่าบัญชียืนยัน
วัดคำขอ โทเค็น และการดำเนินการสื่อแยกกัน เพราะต้นทุนและปริมาณงานรองรับอาจแตกต่างกัน
อ่านส่วนหัวของการตอบกลับ
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.วางแผนโหลด
- จำกัดการทำงานพร้อมกันต่อผู้ใช้และต่อคิว
- นำงานสื่อเบื้องหลังเข้าไว้ในคิวที่มีการจัดการ
- เผื่อเวลาไว้สำหรับการลองใหม่ และอย่าใช้การลองใหม่เป็นกลไกเพิ่มปริมาณงาน
พฤติกรรมเมื่อพบ 429
แสดงสถานะที่ชัดเจน เก็บร่างที่ยังไม่ได้สร้างไว้ และกำหนดเวลาลองใหม่หลังช่วงพักที่อนุญาต
อย่าเปลี่ยนโมเดลหรือพารามิเตอร์โดยอัตโนมัติเมื่อจะเปลี่ยนความหมายของงาน หากไม่มีตัวเลือกผลิตภัณฑ์ที่ชัดเจน