記錄回覆中繼資料
對單次呼叫而言,以該回覆傳回的中繼資料為準;只有存在相符欄位時,才使用 id、usage 或 cost。
不要假設另有彙總端點;外部收集器需要自己的已公布合約。
每次回覆的請求記錄
typescript
const requestRecord = {
model: selectedModel,
status: response.status,
responseId: responseBody.id,
usage: responseBody.usage ?? null,
receivedAt: new Date().toISOString(),
};
// Persist only usage fields actually returned by this response.資料模型
- 回傳時,請分開記錄輸入、輸出、快取與媒體單位。
- 每個數字旁都應保留幣別與計量單位。
- 不要將尚未完成的背景工作合計為最終支出。
營運檢視
圍繞產品建立儀表板,涵蓋使用者、工作流程、模型、錯誤與延遲。相較於單一總數,它能更早揭露行為變化。
使用與財務或組織資訊相同的規則限制用量資料的存取權。