Enregistrer les métadonnées de réponse
Pour un appel donné, les métadonnées renvoyées par cette réponse font foi : id, usage ou cost uniquement lorsque le champ correspondant est présent.
Ne supposez pas l’existence d’un point de terminaison d’agrégation distinct : un collecteur externe a besoin de son propre contrat publié.
const requestRecord = {
model: selectedModel,
status: response.status,
responseId: responseBody.id,
usage: responseBody.usage ?? null,
receivedAt: new Date().toISOString(),
};
// Persist only usage fields actually returned by this response.Modèle de données
- Séparez les unités d’entrée, de sortie, de cache et de média lorsqu’elles sont renvoyées.
- Conservez la devise et l’unité de mesure à côté de chaque nombre.
- Ne comptabilisez pas les tâches d’arrière-plan inachevées comme des dépenses finales.
Vue opérationnelle
Créez un tableau de bord autour du produit : utilisateurs, flux de travail, modèles, erreurs et latence. Il révèle les changements de comportement plus tôt qu’un total global unique.
Limitez l’accès aux données d’utilisation selon les mêmes règles que celles appliquées aux informations financières ou organisationnelles.