AI Agent Generative AI-bruksdatamodell

Om AiAgentGenerativeAiUsage

Hver post representerer én generativ AI-interaksjonshendelse som behandles via AI-målingstjenesten. En hendelse kan være et kall til den store språkmodellen, en agenthandling eller en enkelt interaksjon. Objektet fanger opp fakturerings- og målingsbeslutninger fra AI-tjenester (for eksempel LLM Gateway), inkludert om interaksjonen kunne faktureres, bruksmengde, tokenantall og identifikatorer for sporing og revisjon.

Generative AI-brukfelt for AI-agent

Tabellen nedenfor viser felt for DMO-et AI Agent Generative AI Usage (AiAgentGenerativeAiUsage, med utviklernavnet AiAgentGenerativeAiUsageDmo).

Spørre datamodellen

Du kan kjøre ad hoc-spørringer som trekker ut relevant informasjon fra DMO-et. Data 360 tilbyr flere måter å spørre data på. Se Spørringsdata i Data 360 for å finne ut mer.

Her er noen eksempler på spørringer du kan bruke.

Billbar bruk per agent

Bruk denne spørringen til å identifisere de dyreste agentene. Den oppsummerer totalt antall bruks- og hendelsesantall gruppert etter agentutviklernavn og -type.

SELECT
    AgentDeveloperName__c,
    AgentTypeCode__c,
    SUM(UsageQuantity__c) AS TotalUsage,
    COUNT(*) AS EventCount
FROM AiAgentGenerativeAiUsage_std__dlm
WHERE IsBillableIndicator__c = true
    AND Timestamp__c >= CURRENT_DATE - 30
GROUP BY AgentDeveloperName__c, AgentTypeCode__c
ORDER BY TotalUsage DESC

Tokenforbruk etter modell

Bruk denne spørringen til å identifisere hvilke modeller som bruker flest tokener. Den aggregerer inndata, fullføring, totalt antall tokener og antall hendelser etter modell-ID, leverandør og klasse.

SELECT
    GenAiGatewayModelName__c,
    ModelProviderName__c,
    ModelClassType__c,
    SUM(PromptInputTokenCount__c) AS TotalInputTokens,
    SUM(PromptCompletionTokenCount__c) AS TotalCompletionTokens,
    SUM(PromptTotalTokenCount__c) AS TotalTokens,
    COUNT(*) AS EventCount
FROM AiAgentGenerativeAiUsage_std__dlm
WHERE Timestamp__c >= CURRENT_DATE - 30
GROUP BY GenAiGatewayModelName__c, ModelProviderName__c, ModelClassType__c
ORDER BY TotalTokens DESC
    

Bruk per kanal

Bruk denne spørringen til å sammenligne bruk på tvers av Voice- og Meldinger-kanaler. Den slår sammen de generative AI-bruk- og økttabellene for å aggregere total bruk og tokener etter kanaltype.

SELECT
    s.ssot__AiAgentChannelType__c         AS ChannelType,
    s.ssot__RelatedMessagingSessionId__c  AS MessagingSessionId,
    s.ssot__RelatedVoiceCallId__c         AS VoiceCallId,
    u.AgentDeveloperName__c,
    SUM(u.UsageQuantity__c)              AS TotalUsage,
    SUM(u.PromptTotalTokenCount__c)      AS TotalTokens
FROM AiAgentGenerativeAiUsage_std__dlm u
    JOIN ssot__AiAgentSession__dlm s
        ON u.AiAgentSessionId__c = s.ssot__Id__c
WHERE u.Timestamp__c >= CURRENT_DATE - 30
GROUP BY s.ssot__AiAgentChannelType__c,
    s.ssot__RelatedMessagingSessionId__c,
    s.ssot__RelatedVoiceCallId__c,
    u.AgentDeveloperName__c
ORDER BY TotalUsage DESC
LIMIT 20

Bygge Data 360-rapporter

For å analysere Knowledge/RAG-kvalitetsdata og -målinger bygger du rapporter i Data 360 som henter relevant informasjon fra AiAgentGenerativeAiUsage DMO. Du kan bruke beregnet innsikt til å opprette målinger som kan utløse varsler. Hvis du vil vite mer, kan du se Data 360-rapporter og -kontrollpaneler.