cicora.ai
Spécification de l’APIObservabilité

Utilisation et coût

Reliez les métadonnées de réponse et vos propres journaux de requêtes aux actions réelles des utilisateurs.

Référence d’intégration : choisissez les paramètres et les capacités disponibles dans les réglages de l’API de votre compte et dans le catalogue de modèles de votre environnement.

Enregistrer les métadonnées de réponse

Pour un appel donné, les métadonnées renvoyées par cette réponse font foi : id, usage ou cost uniquement lorsque le champ correspondant est présent.

Ne supposez pas l’existence d’un point de terminaison d’agrégation distinct : un collecteur externe a besoin de son propre contrat publié.

Enregistrement de la requête pour chaque réponse
typescript
const requestRecord = {
  model: selectedModel,
  status: response.status,
  responseId: responseBody.id,
  usage: responseBody.usage ?? null,
  receivedAt: new Date().toISOString(),
};

// Persist only usage fields actually returned by this response.

Modèle de données

  • Séparez les unités d’entrée, de sortie, de cache et de média lorsqu’elles sont renvoyées.
  • Conservez la devise et l’unité de mesure à côté de chaque nombre.
  • Ne comptabilisez pas les tâches d’arrière-plan inachevées comme des dépenses finales.

Vue opérationnelle

Créez un tableau de bord autour du produit : utilisateurs, flux de travail, modèles, erreurs et latence. Il révèle les changements de comportement plus tôt qu’un total global unique.

Limitez l’accès aux données d’utilisation selon les mêmes règles que celles appliquées aux informations financières ou organisationnelles.