사용량 및 비용

응답 메타데이터 기록

한 번의 호출에서는 해당 응답이 반환한 메타데이터가 우선입니다. 일치하는 필드가 있을 때만 id, usage 또는 cost를 사용하세요.

별도의 집계 엔드포인트가 있다고 가정하지 마세요. 외부 수집기에는 자체적으로 공개된 계약이 필요합니다.

const requestRecord = {
  model: selectedModel,
  status: response.status,
  responseId: responseBody.id,
  usage: responseBody.usage ?? null,
  receivedAt: new Date().toISOString(),
};

// Persist only usage fields actually returned by this response.

데이터 모델

• 반환된 경우 입력, 출력, 캐시 및 미디어 단위를 분리하세요.
• 모든 숫자와 함께 통화와 측정 단위를 기록하세요.
• 완료되지 않은 백그라운드 작업을 최종 비용에 합산하지 마세요.

운영 관점

제품을 중심으로 사용자, 워크플로, 모델, 오류 및 지연 시간을 보여 주는 대시보드를 만드세요. 하나의 전체 합계보다 동작 변화를 더 일찍 드러냅니다.

재무 또는 조직 정보에 적용하는 것과 같은 규칙으로 사용량 데이터 접근을 제한하세요.