您在此处:
Einstein 审计、分析和监控设置
将生成式 AI 提示、LLM 响应和用户反馈的日志记录集中到 Data Cloud 中,以实现合规、审计和模型优化。
控件名称
Einstein Trust 层 - 审计和反馈数据
控制概览
将生成式 AI 提示、LLM 响应和用户反馈的日志记录集中到 Data Cloud 中,以实现合规、审计和模型优化。
描述
启用 Trust 层信号和用户反馈的永久存储,将数据从瞬时内存移动到持久数据模型对象 (DMO) 中;允许管理员监控客服人员的性能和准确性。
推荐配置
转到 Einstein 审计、分析和监控设置。启用“收集和存储 Einstein 生成式 AI 审计数据”和“捕获用户反馈”。请确保 Data Cloud 已完全准备好托管这些数据流。
安全影响
提供必要的取证跟踪,以调查准确性、性能、数据泄露或毒性相互作用,并确保公司根据其用例满足其要求。
业务影响
为您的客服人员创建日志中央存储库,真实用户反馈和数据用于优化提示模板和客服人员说明。
安全风险(如果未配置)
如果客服人员提供不正确或有害的建议,则没有永久记录来诊断原因或证明所说的内容。
威胁场景
问责差距:没有日志来验证冲突时的交互。盲点:AI 响应中的系统偏见在几个月内都不会被发现。
估计的 CVSS 得分范围
关键 (9.0–10.0)。
风险影响注意事项
启用此配置会捕获相关审计和反馈数据。但是,客户应该实施适当的警报和监控控制,以确保报告相关的异常情况,并解决假阳性以减少噪音。
高风险
审计数据收集无法保存 Data Cloud 信用,或者在收集反馈但从未由人工在环审查时。
低风险
客户已经实施了自定义的审计日志记录程序,其中记录了制剂相互作用,以便及时注射、毒性检测和其他功能来监控性能和准确性。
业务和集成注意事项
存储成本:此数据消耗 Data Cloud 信用。延迟:审计数据最多需要 24 小时才能出现在报表中。
安全健康审查指导
安全运行状况审查会验证审计数据切换的“已启用”状态,并标记反馈循环不活动的实例,从而阻止公司提高其 AI 安全性。
谁受到影响
数据治理管理人员、AI 管理员、客户服务经理和法律/合规审计员。

