Utilização e custo

Registar metadados da resposta

Para uma chamada, os metadados devolvidos por essa resposta são prioritários: id, usage ou cost apenas quando o campo correspondente estiver presente.

Não pressuponha um endpoint de agregação separado: um coletor externo necessita do seu próprio contrato publicado.

const requestRecord = {
  model: selectedModel,
  status: response.status,
  responseId: responseBody.id,
  usage: responseBody.usage ?? null,
  receivedAt: new Date().toISOString(),
};

// Persist only usage fields actually returned by this response.

Modelo de dados

• Separe as unidades de entrada, saída, cache e multimédia quando forem devolvidas.
• Mantenha a moeda e a unidade de medida junto de cada número.
• Não contabilize tarefas em segundo plano por concluir como despesa final.

Vista operacional

Crie um painel em torno do produto: utilizadores, fluxos de trabalho, modelos, erros e latência. Revela alterações de comportamento mais cedo do que um total geral.

Restrinja o acesso aos dados de utilização segundo as mesmas regras aplicadas a informações financeiras ou organizacionais.