詳細情報:
LLM データマスキング (Agentforce 以外の生成 AI で使用可能)
プロンプト内の機密データ (PII、PCI など) を、外部の大規模言語モデル (LLM) に転送する前に自動的に識別してマスキングします。
コントロール名
Einstein Trust Layer:LLMデータ マスキング(Agentforce世代AI以外で使用可能)
制御の概要
プロンプト内の機密データ (PII、PCI など) を、外部の大規模言語モデル (LLM) に転送する前に自動的に識別してマスキングします。
説明
パターンマッチングと機械学習を使用して、機密エンティティ (名前、メール、クレジットカード番号など) をプレースホルダーに置き換えます。プレースホルダーは、応答が Salesforce に返された後にのみマスク解除されます。
推奨設定
Einstein の [設定] で [LLM データマスキング] を有効にします。プライバシーとコンプライアンスの要件に基づいて、すべての関連エンティティ (SSN、電話、メール) の特定のマスキングポリシーをカスタマイズします。
セキュリティへの影響
GDPR や CCPA などのグローバルなプライバシー規制へのコンプライアンスをサポートするために、機密データが LLM プロバイダーと共有されないようにします。
ビジネスへの影響
データレジデンシー違反や知的財産の漏洩のリスクを負うことなく、顧客対応ワークフローと内部ワークフローに gen AI を安全に採用できます。
設定されていない場合のセキュリティリスク
マスクされていない機密データ (PII/PHI) がプレーンテキストで LLM プロバイダー (OpenAI、Anthropic など) に送信され、データ処理契約や組織ポリシーに違反する可能性があります。
脅威のシナリオ
データ漏洩: ユーザーがプロンプトに機密項目を誤って組み込んだ。
推定 CVSS スコア範囲
重大 (9.0 ～ 10.0)。
リスクの影響に関する考慮事項
マスクされていない 1 つのレコードを外部クラウドに送信すると、必須の侵害通知がトリガーされる可能性がある規制対象セクター (金融、医療) の組織では、リスクが極めて高くなります。
より高いリスク
Gen AI ユーザーは、ほとんどの使用事例で機密項目のデータ (PII/PCI データなど) をプロンプトに組み込みます。
低リスク
ゼロデータ保持 (ZDR) は、技術的には外部 LLM プロバイダーで適用されるか、内部ホストモデルを使用して会社が開発した LLM をトレーニングします。
ビジネスと統合に関する考慮事項
マスキングすると、不明瞭なデータが多すぎると、LLM のコンテキスト精度が低下することがあります。セキュリティとユーティリティのバランスを取るには、プロンプトテンプレートを慎重にテストする必要があります。
Security Health Review Guidance (セキュリティ状態レビューガイダンス)
Security Health Review は Einstein Trust Layer Setup を監査し、データ マスキングが有効になっていることを確認します。
影響を受けるユーザー
データ プライバシー担当者、AI開発者、システム管理者、プロンプトビルダーまたはEinstein Copilot機能を使用するユーザー。
