Quan sát các tín hiệu
Đọc các tiêu đề giới hạn được mô tả trong tài liệu và ID yêu cầu trong mọi phản hồi. Không hiển thị số đã tính cho người dùng trừ khi dữ liệu phản hồi hoặc cài đặt tài khoản xác nhận.
Đo riêng yêu cầu, token và thao tác đa phương tiện: chi phí và thông lượng của chúng có thể khác nhau.
Đọc tiêu đề phản hồi
bash
curl --include --request GET https://cicora.ai/api/v1/models \
--header "Authorization: Bearer $CICORA_API_KEY"
# Store the request identifier and any documented limit headers with your trace.Lập kế hoạch tải
- Giới hạn số tác vụ đồng thời theo người dùng và theo hàng đợi.
- Đưa công việc đa phương tiện nền vào hàng đợi được quản lý.
- Chừa dư thời gian để thử lại và không dùng thử lại làm cơ chế tăng thông lượng.
Hành vi khi gặp 429
Hiển thị trạng thái rõ ràng, giữ bản nháp chưa tạo và lên lịch thử lại sau khoảng dừng được phép.
Không tự động đổi mô hình hoặc tham số khi việc đó sẽ thay đổi ý nghĩa tác vụ mà chưa có lựa chọn rõ ràng trong sản phẩm.