위치:
Einstein 감사, 분석 및 모니터링 설정
규정 준수, 감사, 모델 최적화를 위해 생성형 AI 프롬프트, LLM 응답, 사용자 피드백 로깅을 Data Cloud에 중앙 집중화합니다.
제어 이름
Einstein Trust 계층 - 감사 및 피드백 데이터
제어 개요
규정 준수, 감사, 모델 최적화를 위해 생성형 AI 프롬프트, LLM 응답, 사용자 피드백 로깅을 Data Cloud에 중앙 집중화합니다.
상세 설명
Trust Layer 신호 및 사용자 피드백을 영구적으로 저장할 수 있으므로 임시 메모리에서 영구 데이터 모델 개체(DMO)로 데이터를 이동하고 관리자가 에이전트의 성능과 정확성을 모니터링할 수 있습니다.
권장 구성
Einstein 감사, 분석 및 모니터링 설정으로 이동합니다. "Einstein 생성형 AI 감사 데이터 수집 및 저장" 및 "사용자 피드백 수집"을 활성화합니다. Data Cloud가 다음 데이터 스트림을 호스팅할 수 있도록 완전히 프로비저닝되어 있는지 확인하십시오.
보안 영향
회사에서 사용 사례를 기반으로 요구 사항을 충족하는지 확인하기 위해 정확성, 성능, 데이터 누출 또는 독성 상호 작용을 조사하는 데 필요한 포렌식 내역을 제공합니다.
비즈니스 영향
실제 사용자 피드백 및 데이터를 사용하여 프롬프트 템플릿 및 에이전트 지침을 구체화하는 에이전트의 중앙 로그 리포지토리를 만듭니다.
구성되지 않은 경우 보안 위험
에이전트가 잘못되었거나 유해한 조언을 제공하는 경우 원인을 진단하거나 말한 내용을 증명할 수 있는 영구적인 레코드가 없습니다.
위협 시나리오
책임 격차: 충돌 시 상호 작용을 확인하는 로그가 없는 경우 블라인드 위치: AI 응답의 체계적인 편향은 수개월 동안 감지되지 않습니다.
예상 CVSS 점수 범위
중요(9.0~10.0)
위험 영향 고려 사항
이 구성을 활성화하면 관련 감사 및 사용자 의견 데이터가 수집됩니다. 그러나 고객은 적절한 경고 및 모니터링 제어를 구현하여 관련 변칙이 보고되고 음소를 줄이기 위해 위양성 항목을 해결해야 합니다.
위험이 높은 경우
감사 데이터 수집은 Data Cloud 크레딧에 저장하거나 사용자 의견이 수집되었지만 즉시 사용자가 검토하지 않은 경우 활성화되지 않습니다.
낮은 위험 시기
고객은 신속한 주입, 독성 감지, 성능 및 정확도를 모니터링하는 기타 기능을 위해 에이전트 상호 작용이 기록되는 사용자 정의된 감사 로깅 절차를 구현했습니다.
비즈니스 및 통합 고려 사항
저장소 비용: 이 데이터는 Data Cloud 크레딧을 사용합니다. 대기 시간: 감사 데이터가 보고서에 표시되기까지 최대 24시간이 소요될 수 있습니다.
보안 상태 검토 지침
보안 상태 검토는 감사 데이터 토글의 "활성화됨" 상태를 확인하고 사용자 의견 루프가 비활성 상태인 인스턴스에 플래그를 지정하여 회사에서 AI 안전을 향상할 수 없습니다.
영향을 받는 사람
데이터 거버넌스 담당자, AI 관리자, 고객 서비스 관리자, 법률/호환 감사자
