Registrer metadata fra svaret
For ét kald er de metadata, som det pågældende svar returnerer, primære: id, usage eller cost kun når det tilsvarende felt findes.
Forudsæt ikke et særskilt aggregeringsslutpunkt: en ekstern indsamler skal have sin egen offentliggjorte kontrakt.
Anmodningslog pr. svar
typescript
const requestRecord = {
model: selectedModel,
status: response.status,
responseId: responseBody.id,
usage: responseBody.usage ?? null,
receivedAt: new Date().toISOString(),
};
// Persist only usage fields actually returned by this response.Datamodel
- Adskil enheder for input, output, cachelagret indhold og medier, når de returneres.
- Bevar valuta og måleenhed ved siden af hvert tal.
- Medregn ikke ufærdige baggrundsjob som endeligt forbrug.
Driftsvisning
Byg et dashboard omkring produktet: brugere, arbejdsgange, modeller, fejl og ventetid. Det afdækker adfærdsændringer tidligere end én samlet totalsum.
Begræns adgang til brugsdata med de samme regler, som bruges for finansielle oplysninger eller organisationsoplysninger.