Utilizzo e costi

Registra i metadati della risposta

Per una singola chiamata, i metadati restituiti dalla risposta hanno la precedenza: ID, utilizzo o costo solo quando è presente il campo corrispondente.

Non presupporre un endpoint di aggregazione separato: un raccoglitore esterno necessita di un proprio contratto pubblicato.

const requestRecord = {
  model: selectedModel,
  status: response.status,
  responseId: responseBody.id,
  usage: responseBody.usage ?? null,
  receivedAt: new Date().toISOString(),
};

// Persist only usage fields actually returned by this response.

Modello dei dati

• Separa le unità di input, output, cache e contenuti multimediali quando vengono restituite.
• Mantieni valuta e unità di misura accanto a ogni numero.
• Non conteggiare i processi in background non terminati come spesa finale.

Vista operativa

Crea un pannello di controllo intorno al prodotto: utenti, flussi di lavoro, modelli, errori e latenza. Rileva le variazioni di comportamento prima di un unico totale complessivo.

Limita l'accesso ai dati di utilizzo con le stesse regole usate per le informazioni finanziarie o organizzative.