cicora.ai
Špecifikácia APIPozorovateľnosť

Využitie a náklady

Prepojte metadáta odpovede a vlastné denníky požiadaviek so skutočnými úkonmi používateľa.

Referenčná dokumentácia integrácie: parametre a dostupné funkcie vyberte z nastavení API účtu a katalógu modelov pre svoje prostredie.

Zaznamenajte metadáta odpovede

Pri jednom volaní sú rozhodujúce metadáta vrátené danou odpoveďou: id, usage alebo cost iba vtedy, keď je prítomné zodpovedajúce pole.

Nepredpokladajte samostatný koncový bod na agregáciu: externý zberač potrebuje vlastnú zverejnenú zmluvu.

Záznam požiadavky pre každú odpoveď
typescript
const requestRecord = {
  model: selectedModel,
  status: response.status,
  responseId: responseBody.id,
  usage: responseBody.usage ?? null,
  receivedAt: new Date().toISOString(),
};

// Persist only usage fields actually returned by this response.

Dátový model

  • Ak sa vracajú jednotky vstupu, výstupu, vyrovnávacej pamäte a médií, oddeľte ich.
  • Pri každom čísle uvádzajte menu a mernú jednotku.
  • Nedokončené úlohy na pozadí nesčítavajte ako konečné výdavky.

Prevádzkový pohľad

Vytvorte informačný panel zameraný na produkt: používatelia, pracovné postupy, modely, chyby a latencia. Zmeny správania odhalí skôr než jeden celkový súčet.

Prístup k údajom o využití obmedzte rovnakými pravidlami, aké používate pre finančné alebo organizačné informácie.