위치:
Agent Analytics의 데이터 모델 및 계산된 필드
에이전트 분석의 데이터 모델은 에이전트 동작에 대한 자세한 세션 추적 로그가 포함된 에이전트 세션 추적을 기반으로 합니다. 데이터 모델에는 사용자 의견 데이터 또는 가드 레일 메트릭을 사용하여 조인을 지원하기 위해 추론 엔진이 수행하는 모든 LLM 호출에 대한 참조도 포함됩니다. GenAiFeedback, GenAIContentCategory 및 TenantEnrichedUsageEvent와 같은 확장된 서비스 데이터 모델 DMO는 피드백, Trust 계층 및 유연한 신용 분석을 지원합니다.
에이전트 Analytics 데이터 모델 요소
Agent Analytics를 활성화하면 Data 360에서 데이터 모델을 프로비저닝하여 에이전트 메트릭을 추적합니다. 요소에는 데이터 스트림 및 대상 데이터 레이크 개체(DLO), 다음이 포함된 시맨틱 데이터 모델(SDM)이 포함됩니다.
- DMO 및 논리 보기와 같은 엔티티
- 다양한 SDM 엔티티 간의 조인 및 연결을 정의하는 관계입니다.
- 차원 및 측정값
이 그림은 주요 요소를 보여줍니다.
Analytics 계산된 필드
Analytics 시맨틱 레이어는 다양한 세션 추적 엔티티 간의 연결 및 Analytics 데이터 엔티티와의 연결을 나타내는 인프라입니다. 모델을 보려면 Data 360에서 시맨틱 모델 탭으로 이동하여 Agentforce Analytics Foundations를 엽니다. Analytics 시맨틱 레이어는 세션 및 에이전트 성과 데이터를 쿼리하기 위한 종합적인 계산된 필드를 제공합니다. 예를 들어 `Session_Count` 및 `Average_Session_Duration_clc` 측정값을 `Quality_Score_clc` 차원으로 결합하여 세션 기간 및 품질 등급 간의 관계를 이해하거나 `Unique_Sessions_clc` 및 `Abandonment_Rate_clc` 측정값을 `Session_Date 차원`으로 결합하여 주별 또는 월별 성능 추적을 확인합니다.
측정값 및 치수
측정값은 에이전트 성과에 대한 정량적 인사이트를 제공하는 계산된 숫자 값을 나타냅니다. 인사이트에는 참여율, 편향률, 에스컬레이션률, 중단률, 시기 메트릭(세션 기간 및 응답 대기 시간 등) 및 상호 작용, 세션, 사용자의 집계 수가 포함됩니다.
치수는 이 분석 데이터를 그룹화, 필터링 및 분할하는 데 사용되는 범주형 필드입니다. 치수는 중단 상태, 참여 상태, 엔티티 유형(사용자와 에이전트) 및 세션 상태와 같은 상태 지표 및 분류를 제공합니다. 치수를 사용하면 분석가가 다양한 범주에 걸쳐 정량 측정값을 구분하여 자세한 성과 분석 및 표적화된 보고를 수행할 수 있습니다.
또한 Analytics는 에이전트 최적화에서 의도별 인사이트를 확장합니다. 해당 인사이트에는 에이전트 응답의 관련성을 측정하는 기간 및 품질 점수와 같은 의도 수준 메트릭이 포함됩니다. LLM에서 생성된 태그는 사용자 참여 패턴을 자세히 분석하기 위해 이러한 의도를 클러스터링하고 범주화하는 데 도움이 됩니다.
| 레이블 | 필드 이름 | 상세 설명 |
|---|---|---|
| 중단률 | Abandonment_Rate_clc | 중단률(중단된 세션 ÷ 모든 세션) |
| 중단된 세션 | Abandoned_Sessions_clc | 오류, 브라우저 충돌 또는 시간 제한으로 인해 사용자가 종료한 세션 수입니다. |
| 총 에이전트 메시지 수 | Total_Agent_Messages_clc | 에이전트가 보낸 총 메시지 수입니다. |
| 총 에이전트 트리거된 작업 수 | Total_Agent_Triggered_Actions_clc | 모든 세션 전반의 에이전트 트리거 작업 총 수입니다. |
| 에이전트-사용자 메시지 비율 | Agent_User_Message_Ratio_clc | 모든 세션 전반에서 에이전트 메시지와 사용자 메시지의 비율입니다. |
| 평균 에이전트 상호 작용 대기 시간 | Average_Agent_Interaction_Latency_clc | 에이전트의 평균 응답 시간(밀리초)입니다. |
| 평균 답변 충성도 점수 | Average_Answer_Faithfulness_Score_clc | 에이전트의 응답이 기초화된 소스 데이터(예: Knowledge 자료 기사)에 얼마나 긴밀하게 부합하는지 측정하는 평균 점수(0~1)입니다. 이 메트릭을 사용하려면 설정에서 감사 및 피드백 및 Knowledge/RAG 품질 데이터 및 메트릭을 전환합니다. |
| 평균 답변 관련도 점수 | Average_Answer_Relevance_Score_clc | 사용자의 요청에 대한 에이전트의 응답 관련성을 측정하는 평균 점수(0~1)입니다. 이 메트릭을 사용하려면 설정에서 감사 및 피드백 및 Knowledge/RAG 품질 데이터 및 메트릭을 전환합니다. |
| 평균 컨텍스트 관련도 점수 | Average_Context_Relevance_Score_clc | 에이전트가 사용자의 질문에 답변하기 위해 올바른 데이터 소스를 검색했는지 여부를 측정하는 평균 점수(0~1)입니다. 이 메트릭을 사용하려면 설정에서 감사 및 피드백 및 Knowledge/RAG 품질 데이터 및 메트릭을 전환합니다. |
| 세션당 평균 상호 작용 | Average_Interactions_Per_Session_clc | 세션당 평균 상호 작용 수입니다. |
| 평균 순간 기간 | Average_Moment_Duration_clc | 의도의 평균 기간(초)입니다. |
| 평균 품질 점수 | Average_Quality_Score_clc | 세션 전반의 에이전트 응답의 평균 관련성 점수(1~5)입니다. |
| 평균 세션 기간 | Average_Session_Duration_clc | 평균 세션 기간(초)입니다. |
| 평균 사용자 상호 작용 | Average_User_Interactions_clc | 모든 세션 전반의 평균 사용자 상호 작용 수입니다. |
| 편향된 세션 | Deflected_Sessions_clc | 사용자가 종료한 세션(에스컬레이션 또는 중단으로 인해 종료되지 않음). |
| 편향률 | Deflection_Rate_clc | 편향률(편향된 세션 ÷ 모든 세션) |
| 참여 세션 | Engaged_Sessions_clc | 에이전트 트리거 작업을 기반으로 사용자에게 회신을 수신한 세션입니다. |
| 참여율 | Engagement_Rate_clc | 참여율(참여 세션 ÷ 모든 세션) |
| 상호 작용 오류율 | Error_Rate_clc | 모든 세션 전반의 상호 작용 오류 비율 오류는 하나 이상의 작업 또는 LLM 단계를 포함하는 상호 작용에 대해서만 기록됩니다. |
| 에스컬레이션된 세션 | Escalated_Sessions_clc | 사람 또는 다른 에이전트에게 에스컬레이션된 세션 수입니다. |
| 에스컬레이션 속도 | Escalation_Rate_clc | 에스컬레이션 비율(에스컬레이션된 세션 ÷ 모든 세션). |
| 총 사용자 중단 | Total_User_Interruptions_clc | 사용자가 방해한 음성 상호 작용 수입니다. |
| 중단률 | Interruption_Rate_clc | 총 세션 상호 작용을 기준으로 사용자가 중단한 음성 상호 작용 비율입니다. |
| 품질 점수 이유 | Quality_Score_Reasoning_clc | 할당된 품질 점수에 대한 설명입니다. |
| 고정도 | Stickiness_Ratio_clc | 일일 활성 사용자와 월별 활성 사용자의 비율입니다. 매일 활성 상태인 월간 사용자의 비율입니다. |
| 성공률 | Success_Rate_clc | 작업 단계를 포함하고 오류 없이 완료된 에이전트 상호 작용 비율입니다. |
| 고유 상호 작용 | Unique_Interactions_clc | 기록된 고유한 사용자 및 에이전트 상호 작용 수입니다. |
| 고유한 순간 | Unique_Moments_clc | 정의된 시간 범위 내에 기록된 고유 의도 수입니다. |
| 고유 세션 | Unique_Sessions_clc | 시간 범위 내에 기록된 고유 세션 수입니다. |
| 고유 태그 | Unique_Tags_clc | 정의된 시간 범위 내에 생성된 고유한 태그 수입니다. |
| 고유 사용자 | Unique_Users_clc | 에이전트와 상호 작용하는 고유 사용자 수입니다. 서비스 에이전트의 경우 이 측정값에는 Messaging 최종 사용자가 포함됩니다. 다른 에이전트 유형의 경우 이 측정값은 세션 참가자 역할별로 사용자를 계산합니다. |
| 총 사용자 메시지 수 | Total_User_Messages_clc | 사용자가 보낸 총 메시지 수입니다. |
| 높은 준수 응답률 | High_Adherence_Response_Rate_clc | 높은 준수율로 분류된 상호 작용 단계의 비율입니다. |
| 평균 에이전트 독성 점수 | Average_Agent_Toxicity_Score_clc | Agent 출력에 대한 평균 독성 검사기 점수(0–1)는 Trust Layer 범주 점수에서 집계됩니다. 이 메트릭을 사용하려면 설정에서 감사 및 피드백 및 관련 Trust 계층 데이터를 전환합니다. |
| 평균 사용자 프롬프트 주입 | Average_User_Prompt_Injection_clc | Trust Layer 평가에서 추출된 사용자 프롬프트(프롬프트 방어)에서 즉시 주입할 가능성의 평균입니다. 이 메트릭을 사용하려면 설정에서 감사 및 피드백 및 관련 Trust 계층 데이터를 전환합니다. |
| 부정 사용자 의견 | Negative_User_Feedback_clc | 세션 추적에 결합된 AI 사용자 의견 데이터 생성에서 에이전트 응답에 대한 부정적인 사용자 의견 이벤트 수(예: 엄지 반대). |
| 긍정적인 사용자 의견 | Positive_User_Feedback_clc | 세션 추적에 조인된 AI 사용자 의견 데이터 생성에서 에이전트 응답에 대한 긍정적인 사용자 의견 이벤트 수(예: 엄지 위로). |
| 과업 해결률 | Task_Resolution_Rate_clc | 과업 해결 감지기(Trust Layer)에서 완전히 해결됨으로 평가된 세션 또는 상호 작용 비율입니다. 과업 해결 평가는 베타 감지기로 사용할 수 있습니다. 가용성은 Trust Layer 문서를 참조하십시오. |
| Flex 크레딧 합계 | Total_Flex_Credits_clc | 에이전트 또는 생성형 AI 사용과 관련된 유연한 크레딧 합계이며, 일반적으로 보강된 사용 이벤트에서 가져옵니다. |
| 에이전트 응답률 | Agent_Response_Rate_clc | 에이전트 응답을 받은 사용자 전환 비율입니다. |
| 에이전트 대화 비율 | Agent_Talk_Ratio_clc | 에이전트가 음성 세션에서 소비한 대화 시간 비율이며, 에이전트 대화 기간을 에이전트 및 사용자 대화 기간의 합계로 나눈 값으로 계산됩니다. 관련 음성 통화가 없는 경우 비어 있습니다. |
| 평균 연결된 하위 에이전트 실행 기간 | Average_Connected_Subagent_Execution_Duration_clc | 연결된 하위 에이전트 작업 실행의 평균 기간(밀리초)입니다. |
| 연결된 하위 에이전트에 대한 평균 오케스트레이터 기간 | Average_Connected_Subagent_Orchestration_Duration_clc | 에이전트에서 연결된 하위 에이전트까지 작업 오케스트레이션의 평균 기간(밀리초)입니다. |
| 의도 점수 집계 | Intent_Scorer_Aggregation_clc | |
| 상호 작용 점수 집계 | Interaction_Scorer_Aggregation_clc | |
| 세션 점수 집계 | Session_Scorer_Aggregation_clc | |
| 총 에이전트 대화 기간 | Total_Agent_Talk_Duration_clc | 에이전트 출력 메시지 타임스탬프를 기반으로 음성 세션의 총 에이전트 말 시간(초)입니다. 관련 음성 통화가 있는 세션만 포함됩니다. 시작 또는 종료 타임스탬프가 누락된 메시지는 제외됩니다. |
| 총 연결된 하위 에이전트 실행 기간 | Total_Connected_Subagent_Execution_Duration_clc | 연결된 하위 에이전트 작업 실행의 총 기간(밀리초)입니다. |
| 연결된 하위 에이전트에 대한 총 오케스트레이터 기간 | Total_Connected_Subagent_Orchestration_Duration_clc | 에이전트에서 연결된 하위 에이전트까지의 총 작업 오케스트레이션 기간(밀리초)입니다. |
| 총 오류 | Total_Errors_clc | 상호 작용 전반의 총 오류 수입니다. 오류는 하나 이상의 작업 또는 LLM 단계를 포함하는 상호 작용에 대해서만 기록됩니다. |
| 총 사용자 대화 기간 | Total_User_Talk_Duration_clc | 사용자 입력 메시지 타임스탬프를 기반으로 음성 세션의 총 사용자 말 시간(초)입니다. 관련 음성 통화가 있는 세션만 포함됩니다. 시작 또는 종료 타임스탬프가 누락된 메시지는 제외됩니다. |
| 총 사용자 전환 | Total_User_Turns_clc | 모든 사용자 전환 횟수 |
| 사용자의 응답 전환 | User_Turns_With_Response_clc | 60초 이내에 에이전트 응답을 받은 사용자 전환 횟수 |
| 레이블 | 필드 이름 | 상세 설명 |
|---|---|---|
| 중단 상태 | Abandonment_Status_clc | 사용자가 세션을 종료했는지 여부를 나타냅니다. |
| 에이전트 준수 상태 | Agent_Adherence_Status_clc | GenAIContentCategory의 Trust Layer InstructionAdherence 평가에서 응답에 대한 지침 준수 수준(예: high, low, uncertain) |
| 에이전트 상호 작용 대기 시간 | Agent_Interaction_Latency_clc | 에이전트가 사용자 요청에 응답할 시간(밀리초). |
| 편향 상태 | Deflection_Status_clc | 세션이 사용자의 요청으로 종료되었는지 여부를 나타냅니다. |
| 참여 상태 | Engagement_Status_clc | 사용자가 에이전트 작업을 기반으로 회신을 수신했는지 여부를 나타냅니다. |
| 에스컬레이션 상태 | Escalation_Status_clc | 에스컬레이션이 다른 에이전트에 세션을 이동했는지 여부를 지정합니다. |
| 세션 종료됨 | Is_Session_Ended_clc | 세션이 종료되었는지 여부를 나타냅니다. |
| 오류와 상호 작용 | Is_Interaction_With_Errors_clc | 오류가 발생한 상호 작용을 식별합니다. 오류는 하나 이상의 작업 또는 LLM 단계를 포함하는 상호 작용에 대해서만 기록됩니다. |
| 사용자 | Is_User_clc | 엔티티가 에이전트인지 사용자인지 여부를 나타냅니다. |
| 순간 기간 | Moment_Duration_clc | 의도 기간(초)입니다. |
| 품질 점수 | Quality_Score_clc | 사용자 요청에 대한 에이전트 응답의 관련성 점수(1~5)입니다. |
| 세션 모호 | Is_Session_Ambiguous_clc | 세션이 편향, 에스컬레이션, 중단 또는 정돈 종료로 명확하게 분류되지 않았는지 여부를 나타냅니다. |
| 세션기간 | Session_Duration_clc | 세션 기간(초)입니다. |
| 에이전트 레이블 | Agent_Label_clc | |
| 에이전트 응답 타임스탬프 | Agent_Response_Timestamp_clc | 각 상호 작용에 대한 첫 번째 에이전트 응답의 타임스탬프입니다. |
| 60년 이내의 에이전트 응답 | Agent_Response_Within_60s_clc | 에이전트가 60초 이내에 응답했는지 여부를 나타냅니다. |
| 연결된 하위 에이전트 API 이름 | Connected_Subagent_Api_Name_clc | 오케스트레이터의 핸드오프를 수락한 연결된 하위 에이전트의 API 이름입니다. |
| 연결된 하위 에이전트 실행 기간 | Connected_Subagent_Execution_Duration_ms_clc | 연결된 하위 에이전트 작업 실행 기간(밀리초 단위)입니다. |
| 연결된 하위 에이전트 상호 작용 ID | Connected_Subagent_Interaction_Id_clc | 오케스트레이터 에이전트에서 연결된 하위 에이전트로의 핸드오프 작업의 상호 작용 ID입니다. |
| 연결된 하위 에이전트 이름 | Connected_Subagent_Name_clc | 오케스트레이터의 핸드오프를 수락한 연결된 하위 에이전트의 이름입니다. |
| 오케스트레이션 오버헤드 | Connected_Subagent_Orchestration_Duration_ms_clc | 오케스트레이터에서 연결된 하위 에이전트에 과업을 위임하고 전달하는 데 소요된 시간(밀리초 단위)입니다. 이 값은 하위 에이전트의 실행 시간을 제외하고 오케스트레이션 플로의 종단간 기간을 나타내지 않습니다. |
| 연결된 하위 에이전트 세션 ID | Connected_Subagent_Session_Id_clc | 오케스트레이터 에이전트로부터 핸드오프를 받은 연결된 하위 에이전트의 세션 ID입니다. |
| 사용자 정의 점수 매기기 치수 값 | Custom_Scorer_Dimension_Values_clc | |
| 사용자 정의 점수 매기기 차원 | Custom_Scorer_Dimensions_clc | |
| 사용자 정의 점수 매기기 측정값 | Custom_Scorer_Measures_clc | |
| 사용자 정의 점수 매기기 시맨틱 유형 | Custom_Scorer_Semantic_Type_clc | |
| 의도 점수 표준 | Is_Intent_Scorer_Standard_clc | 의도 점수화기가 표준인지 사용자 정의인지 여부를 나타냅니다. |
| 상호 작용 점수 표준 | Is_Interaction_Scorer_Standard_clc | 상호 작용 점수가 표준인지 사용자 정의인지 여부를 나타냅니다. |
| 최신 의도 점수 | Is_Latest_Intent_Scorer_clc | |
| 최신 상호 작용 점수 | Is_Latest_Interaction_Scorer_clc | |
| 최신 세션 점수 | Is_Latest_Session_Scorer_clc | |
| 세션 점수 표준 | Is_Session_Scorer_Standard_clc | 세션 점수화기가 표준인지 사용자 정의인지 여부를 나타냅니다. |
| 하위 세션임 | Is_Sub_Session_clc | 세션이 작업하는 에이전트에 속하는지 또는 다른 에이전트에게 보고하는지 여부를 나타냅니다. |
| 사용자 전환 | Is_User_Turn_clc | 대신 상호 작용에서 사용자 메시지를 식별합니다. |
| 응답 시간 초 | Response_Time_Seconds_clc | 사용자 메시지와 에이전트 응답 사이의 시간(초). |
| 세션 결과 | Session_Outcome_Base_clc | 세션 결과가 에스컬레이션, 편향, 중단, 모호 또는 설정되지 않았는지 여부를 나타냅니다. |
| 하위 에이전트 레이블 | Subagent_Label_clc | |
| 과업 해결 상태 | Task_Resolution_Status_clc | 에이전트가 세션 수준에서 사용자의 요청을 완전히 해결했는지, 부분적으로 해결했는지 또는 해결하지 않은지 여부를 나타냅니다. |
| 첫 번째 에이전트 토큰에 대한 시간 | Time_To_First_Agent_Token_clc | 상호 작용당 사용자 메시지 마지막에서 첫 번째 에이전트 응답 토큰 생성까지의 시간(밀리초)입니다. |
| 마지막 에이전트 토큰까지의 시간 | Time_To_Last_Agent_Token_clc | 상호 작용당 사용자의 메시지 끝에서 마지막 에이전트 응답 토큰 생성까지의 시간(밀리초)입니다. |
| 작업 레이블 | Tool_Label_clc | |
| 사용자 의견 상태 | User_Feedback_Status_clc | 가장 최근 사용자 피드백을 기반으로 AI 상호 작용을 긍정적, 부정적 또는 적용 불가능으로 범주화합니다. |
| 사용자 타임스탬프 전환 | User_Turn_Timestamp_clc | 사용자가 메시지를 보낸 시간 스탬프입니다. |
계산된 필드 수식
다음 수식은 기본 데이터 모델에서 키 계산 필드가 계산되는 방식을 정의합니다.
| 레이블 | 필드 이름 | 수식 |
|---|---|---|
| 중단률 | Abandonment_Rate_clc | |
| 중단된 세션 | Abandoned_Sessions_clc | |
| 총 에이전트 메시지 수 | Total_Agent_Messages_clc | |
| 총 에이전트 트리거된 작업 수 | Total_Agent_Triggered_Actions_clc | |
| 에이전트-사용자 메시지 비율 | Agent_User_Message_Ratio_clc | |
| 평균 에이전트 상호 작용 대기 시간 | Average_Agent_Interaction_Latency_clc | |
| 평균 답변 충성도 점수 | Average_Answer_Faithfulness_Score_clc | |
| 평균 답변 관련도 점수 | Average_Answer_Relevance_Score_clc | |
| 평균 컨텍스트 관련도 점수 | Average_Context_Relevance_Score_clc | |
| 세션당 평균 상호 작용 | Average_Interactions_Per_Session_clc | |
| 평균 순간 기간 | Average_Moment_Duration_clc | |
| 평균 품질 점수 | Average_Quality_Score_clc | |
| 평균 세션 기간 | Average_Session_Duration_clc | |
| 평균 사용자 상호 작용 | Average_User_Interactions_clc | |
| 편향된 세션 | Deflected_Sessions_clc | |
| 편향률 | Deflection_Rate_clc | |
| 참여 세션 | Engaged_Sessions_clc | |
| 참여율 | Engagement_Rate_clc | |
| 상호 작용 오류율 | Error_Rate_clc | |
| 에스컬레이션된 세션 | Escalated_Sessions_clc | |
| 에스컬레이션 속도 | Escalation_Rate_clc | |
| 총 사용자 중단 | Total_User_Interruptions_clc | |
| 중단률 | Interruption_Rate_clc | |
| 성공률 | Success_Rate_clc | |
| 고정도 | Stickiness_Ratio_clc | |
| 고유 상호 작용 | Unique_Interactions_clc | |
| 고유한 순간 | Unique_Moments_clc | |
| 고유 세션 | Unique_Sessions_clc | |
| 고유 태그 | Unique_Tags_clc | |
| 고유 사용자 | Unique_Users_clc | |
| 총 사용자 메시지 수 | Total_User_Messages_clc | |
| 레이블 | 필드 이름 | 수식 |
|---|---|---|
| 중단 상태 | Abandonment_Status_clc | |
| 에이전트 상호 작용 대기 시간 | Agent_Interaction_Latency_clc | |
| 편향 상태 | Deflection_Status_clc | |
| 참여 상태 | Engagement_Status_clc | |
| 에스컬레이션 상태 | Escalation_Status_clc | |
| 오류와 상호 작용 | Is_Interaction_With_Errors_clc | |
| 세션 종료됨 | Is_Session_Ended_clc | |
| 사용자 | Is_User_clc | |
| 순간 기간 | Moment_Duration_clc | |
| 품질 점수 | Quality_Score_clc | |
| 세션기간 | Session_Duration_clc | |
