cicora.ai
Đặc tả APICông việc bất đồng bộ

Thực thi hàng loạt

Xử lý các thao tác độc lập theo nhóm được kiểm soát khi quy trình cho phép phân phối bất đồng bộ.

Tài liệu tham khảo tích hợp: chọn tham số và năng lực khả dụng từ cài đặt API tài khoản và danh mục mô hình cho môi trường của bạn.

Giới hạn mức song song

Dùng hàng đợi phía ứng dụng khách có giới hạn và gửi từng tác vụ qua một yêu cầu tương thích thông thường. Cách này kiểm soát tải mà không giả định có điểm cuối xử lý hàng loạt trên máy chủ.

Chế độ xử lý hàng loạt của dịch vụ là một hợp đồng API riêng: chỉ dùng tuyến và nội dung yêu cầu của chế độ này sau khi chúng được công bố trong cài đặt tài khoản hoặc đặc tả.

Mức song song có giới hạn do ứng dụng khách kiểm soát
typescript
async function runWithLimit(items, limit, work) {
  const results = [];
  for (let offset = 0; offset < items.length; offset += limit) {
    const group = items.slice(offset, offset + limit);
    results.push(...await Promise.all(group.map(work)));
  }
  return results;
}

Kiểm soát hàng đợi

  • Tạo ID tác vụ nội bộ có tính xác định và duy nhất trong một lần chạy.
  • Chia tập hợp quá lớn thành các nhóm có thể quản lý.
  • Phân biệt lỗi của một mục với lỗi của toàn bộ hàng đợi.

Thu thập kết quả

Liên kết kết quả với ID nội bộ và lưu trạng thái của mọi tác vụ.

Không tự động thử lại mọi tác vụ: chỉ thử lại lỗi tạm thời sau khi kiểm tra tính lũy đẳng.