您位於此處：
Einstein 稽核、Analytics 和監視設定
將生成式 AI 提示、LLM 回應和使用者回饋意見的記錄集中至 Data Cloud 以進行合規性、稽核和模型最佳化。
控制名稱
Einstein Trust 圖層 - 稽核與回饋意見資料
控制概觀
將生成式 AI 提示、LLM 回應和使用者回饋意見的記錄集中至 Data Cloud 以進行合規性、稽核和模型最佳化。
描述
啟用「Trust層」訊號和使用者回饋意見的永久儲存,將暫時記憶體中的資料移至永久資料模型物件 (DMO);允許管理員監視工作人員的效能和準確度。
建議組態
前往 Einstein 稽核、Analytics 和監視設定。啟用「收集並儲存 Einstein 生成式 AI 稽核資料」和「捕捉使用者回饋意見」。確定 Data Cloud 已完整佈建以主控這些資料串流。
安全性影響
提供調查準確性、效能、資料洩漏或有毒互動所需的鑑識追蹤,以確保公司根據其使用個案符合其需求。
業務影響
為您的工作人員建立記錄的集中存放庫,其中會使用實際使用者的回饋意見和資料來限定提示範本和工作人員指示。
未設定安全性風險
如果工作人員提供不正確或有害的建議,則沒有可診斷原因或證明所說情況的永久記錄。
威脅情況
責任缺口:缺少用於在發生衝突時驗證互動的記錄。隱藏點:AI 回應中的系統偏差會在數月內無法偵測到。
估計 CVSS 分數範圍
嚴重 (9.0–10.0)。
風險影響考量事項
啟用此組態時,系統會收集相關的稽核和回饋意見資料。然而,客戶應實作適當的警示和監視控制,以確保回報相關異常,並解決假陽性問題以減少雜訊。
風險愈高時機
不會啟用稽核資料集合以儲存 Data Cloud 點數,或當收集回饋意見但從未由人類進行檢閱時。
低度風險時機
客戶已實作自訂稽核記錄程序,其中會記錄工作人員互動以進行提示插入、毒性偵測和其他功能,以監視效能和準確性。
業務與整合考量事項
儲存成本:此資料會耗用 Data Cloud 信用額。延遲:稽核資料最多可能需要 24 小時才會顯示在報告中。
安全性健康檢閱指南
「安全性健康審查」會驗證「稽核資料」切換開關的「已啟用」狀態,並標記回饋意見迴圈未啟用的例項,以防止公司改善其 AI 安全性。
受影響的人員
資料管理專員、AI 管理員、客戶服務經理,以及法律/合規稽核員。
