cicora.ai
Spesifikasi APIPekerjaan asinkron

Eksekusi batch

Proses operasi yang independen dalam kelompok terkendali jika alur kerja mengizinkan pengiriman asinkron.

Referensi integrasi: pilih parameter dan kemampuan yang tersedia dari pengaturan API akun Anda dan katalog model untuk lingkungan Anda.

Batasi paralelisme

Gunakan antrean sisi klien yang terbatas dan kirim setiap tugas melalui permintaan kompatibel biasa. Cara ini mengendalikan beban tanpa menganggap adanya endpoint batch di server.

Mode batch layanan merupakan kontrak API terpisah: gunakan rute dan isi permintaannya hanya setelah mode tersebut dipublikasikan dalam pengaturan akun atau spesifikasi.

Paralelisme terbatas yang dikendalikan klien
typescript
async function runWithLimit(items, limit, work) {
  const results = [];
  for (let offset = 0; offset < items.length; offset += limit) {
    const group = items.slice(offset, offset + limit);
    results.push(...await Promise.all(group.map(work)));
  }
  return results;
}

Kendalikan antrean

  • Buat ID tugas internal deterministik dan unik dalam satu proses.
  • Bagi kumpulan yang terlalu besar menjadi kelompok yang dapat dikelola.
  • Pisahkan kegagalan satu item dari kegagalan seluruh antrean.

Kumpulkan hasil

Kaitkan hasil dengan ID internal dan simpan status setiap tugas.

Jangan otomatis mencoba ulang semua tugas: coba ulang hanya kegagalan sementara setelah memeriksa idempotensi.