詳細情報:
Einstein 監査、分析、監視の設定
生成 AI プロンプト、LLM 応答、ユーザーフィードバックの Data Cloud へのログを一元化して、コンプライアンス、監査、モデルの最適化を実現します。
コントロール名
Einstein Trust Layer - 監査およびフィードバック データ
制御の概要
生成 AI プロンプト、LLM 応答、ユーザーフィードバックの Data Cloud へのログを一元化して、コンプライアンス、監査、モデルの最適化を実現します。
説明
Trust Layer 信号とユーザーフィードバックを永続的に保存できるようにして、データを一時的なメモリから永続的なデータモデルオブジェクト (DMO) に移行します。管理者は、エージェントのパフォーマンスと精度を監視できます。
推奨設定
[Einstein 監査、分析、監視の設定] に移動します。[Collect and Store Einstein Generative AI Audit Data (Einstein 生成 AI 監査データの収集と保存)] と [Capture User Feedback (ユーザーフィードバックの取得)] を有効にします。これらのデータストリームをホストするために Data Cloud が完全にプロビジョニングされていることを確認します。
セキュリティへの影響
精度、パフォーマンス、データ漏洩、または有害なインタラクションを調査し、使用事例に基づいて会社が要件を満たしていることを確認するために必要なフォレンジックトレイルを提供します。
ビジネスへの影響
実際のユーザーフィードバックとデータを使用してプロンプトテンプレートとエージェントの指示を調整する、エージェントのログの中央リポジトリを作成します。
設定されていない場合のセキュリティリスク
エージェントが不正確または有害なアドバイスを提供した場合、原因を診断したり、言われたことを証明したりする永続的なレコードはありません。
脅威のシナリオ
説明責任のギャップ: 競合が発生した場合のやりとりを確認するためのログの不在。死角: AI 応答の系統的なバイアスは、数か月間検出されません。
推定 CVSS スコア範囲
重大 (9.0 ～ 10.0)。
リスクの影響に関する考慮事項
この設定を有効にすると、関連する監査およびフィードバックデータが取得されます。ただし、適切なアラートと監視コントロールを実装して、関連する異常が報告され、偽陽性に対処してノイズを低減する必要があります。
より高いリスク
Data Cloud クレジットを節約するため、またはフィードバックが収集されたが Human-in-the-Loop でレビューされなかった場合、監査データ収集が有効になっていません。
低リスク
顧客はカスタマイズされた監査ログ手順を実装し、エージェントのやりとりをプロンプトインジェクション、有害性検出、その他の機能で記録してパフォーマンスと精度を監視しています。
ビジネスと統合に関する考慮事項
ストレージコスト: このデータは Data Cloud クレジットを消費します。遅延: 監査データがレポートに表示されるまで最大 24 時間かかる場合があります。
Security Health Review Guidance (セキュリティ状態レビューガイダンス)
セキュリティ状態レビューでは、[監査データ] 切り替えの [有効] 状況を検証し、フィードバックループが無効で AI の安全性が向上していないインスタンスにフラグを設定します。
影響を受けるユーザー
データガバナンス担当者、AI 管理者、カスタマーサービスマネージャー、法務/コンプライアンス監査人。
