Trust and Agentforce
Salesforce では、エージェントは生成 AI 技術に関連するリスクを軽減するように設計されているため、安全な AI エージェントを簡単に作成できます。
必要なエディション
| 使用可能なインターフェース: Lightning Experience |
| 使用可能なエディション: Enterprise Edition、Performance Edition、Unlimited Edition、および Developer Edition。必要なアドオンライセンスはエージェント種別によって異なります。 |
AgentforceプラットフォームはEinstein Trust Layerと統合されており、機能にはAIガードレールが含まれています。エージェントは標準の Salesforce アクセス制御も尊重します。
Einstein Trust Layer
Agentforceは、Salesforceにネイティブに組み込まれた安全なAIアーキテクチャであるEinstein Trust Layerと統合されています。
エンタープライズ セキュリティ標準向けに設計されたTrust Layerにより、顧客データを損なうことなく生成AIのメリットを享受できます。また、信頼できるデータを使用して生成 AI 応答を改善することもできます。
| Einstein Trust Layer サービス | 説明 |
|---|---|
| Zero Data Retention Policy (ゼロデータ保持ポリシー) | Einstein Trust Layerではゼロ データ保持ポリシーが使用されるため、サード パーティLLMによるモデルのトレーニングにデータが保存または使用されることはありません。エージェントを含む他の機能を顧客が使用すると、データストレージが作成される可能性があります。詳細は、Salesforce のアカウントエグゼクティブにお問い合わせください。 |
| 安全なデータ取得を使用した動的グラウンディング | 信頼できる会社のデータ、Knowledgeベース、または設定したその他のソースからの関連情報を使用して質問に回答します。 |
| プロンプトの防御 (システムポリシーとプロンプトの挿入検出) | システムポリシーは、幻覚を制限し、LLM が意図しない出力や有害な出力を行う可能性を減らすのに役立ちます。 |
| 有害検出 | 潜在的な有害な LLM 応答が検出され、フラグが付けられます。 |
| 監査とフィードバック | プロンプト、応答、Trustシグナルが記録されてData 360に保存されるため、各ユーザー操作の結果を把握できます。フィードバックは、手順やプロンプトテンプレートの改善などに使用できます。 |
Einstein Trust Layer を介したデータ マスキングは、エージェントのパフォーマンスと精度を高めるために無効になっています。エージェントがアクセスするすべてのデータ (個人識別情報 (PII) を含む) は、厳格なゼロデータ保持ポリシーの一環として、転送中に保護され、外部の LLM プロバイダーによってトレーニング目的で保存または使用されることはありません。「Agentforce のデータマスキングの制限」を参照してください。
AI ガードレール
Agentforceプラットフォームには、AIの幻覚を最小限に抑えるための倫理的なガードレールと、プロンプト インジェクションなどの脅威や悪意のある攻撃を防止するためのセキュリティ ガードレールが含まれています。
より詳細な制御を行うには、エージェントサブエージェントの指示を使用して境界を作成し、コンテキストを設定して、エージェントの動作を定義します。標準エージェントサブエージェントの手順を変更するか、カスタムサブエージェントを最初から作成できます。指示の遵守を使用して、エージェントがサブエージェントの指示をどの程度適切に解釈し、従っているかを確認します。
さまざまなエージェント種別に、エージェントの動作を定義する独自の設定とガードレールを設定できます。たとえば、Agentforce サービスエージェントテンプレートでは、サブエージェントの指示を使用して、エージェントからサービス担当者に会話をエスカレーションするタイミングを決定します。SDR エージェント種別には、エージェントがリードの作業を開始できる条件とエージェントメールを送信できる方法とタイミングに関する、システム管理者が定義したエンゲージメントルールがあります。
権限とアクセス権
AI エージェントは、ライセンス、権限、項目レベルセキュリティ、共有設定などの標準の Salesforce アクセス制御を尊重するため、エージェントは常に安全に動作します。
- エージェント タイプ：デフォルトの Agentforce エージェントは、システム管理者および「Agentforce Default」権限セットを持つユーザが使用できます。一部のエージェント種別は、特定のクラウドまたはライセンスで動作するように構築されているため、別のライセンスが必要です。
- 標準エージェントサブエージェント: 多くの標準サブエージェントは、デフォルトの Agentforce エージェントにアクセスする権限を持つすべてのユーザーが使用できます。
- 標準エージェントアクション: 多くの標準アクションは、デフォルトの Agentforce エージェントにアクセスする権限を持つすべてのユーザーが使用できます。一部の標準アクションは、特定のクラウドまたは製品と連携するように構築されているため、別のライセンスまたは権限が必要です。
- カスタムエージェントアクション: カスタムアクションへのアクセスは、アクションが参照する Apex クラス、フロー、またはプロンプトテンプレートによって異なります。たとえば、カスタムアクションがフローを使用して作成されている場合、カスタムアクションはフローで設定された権限、項目レベルセキュリティ、および共有設定に従います。
信頼済み URL
Agentforce は、ビジネスの信頼済み URL 許可リストを適用します。これにより、エージェントが悪意のあるリンクを呼び出したり生成したりすることが防止され、機密データのセキュリティが維持されます。
エージェントが未承認の URL を応答に含めようとすると、未承認の URL は「URL_Redacted」に置き換えられます。また、エージェントが未承認の URL をコールまたは生成しようとすると、プランキャンバスにエラーメッセージが表示されるため、ブロックされた URL を許可リストに追加するか、エージェントの設定から削除するかを評価できます。
エージェントに引用が設定されている場合、ドメインが信頼済み URL に含まれていなくても、エージェント応答の生成に使用されるソース URL がエージェントの会話に表示されます。
エージェントで URL を使用するには、信頼済み URL に追加します。
エージェントコンプライアンス
Agentforce は、Einstein プラットフォームおよび Agentforce SOC 2 および SOC 3 レポートに対象サービスとして含まれています。Agentforce は HIPAA の要件を満たしており、Salesforce Business Associate Addendum の制限の対象です。また、ISO 27001、27017、27018 の認定も取得しています。
- Agentforce のデータマスキングの制限事項
Einstein Trust Layer では、大規模言語モデル（LLM）のパターンベースおよび項目ベースのデータ マスキングはエージェントで無効になっています。
