Einstein Trust Layer: Design for Trust
Einstein Trust Layerは、データ プライバシーを保護し、AIの精度を高め、Salesforceエコシステム全体でAIの責任ある使用を促進するために設計された機能、プロセス、ポリシーのコレクションです。
必要なエディション
| 使用可能なエディション: Einstein for Sales、Einstein for Platform、Einstein for Service、Einstein 1 Service、または Einstein GPT Service アドオンが付属する Enterprise Edition、Performance Edition、および Unlimited Edition。アドオンを購入するには、Salesforce アカウントエグゼクティブにお問い合わせください。 |
Einstein Trust Layerのしくみを理解するために、Trust Layerを介したデータ フローを確認し、ジャーニーの各部分を詳しく見ていきましょう。
- プロンプト形式のデータは、CRMアプリケーションからEinstein Trust Layerを経由して、プロンプト ジャーニーと呼ばれる大規模言語モデル(LLM)に転送されます。
- LLM はプロンプトを使用して応答を生成します。これを応答生成と呼びます。
- 生成された応答は、Einstein Trust Layerを通過してCRMアプリケーションに戻り、応答ジャーニーと呼ばれます。
しくみ
プロンプトジャーニー
LLM から応答を生成するには、応答にプロンプトを指定する必要があります。プロンプトは任意の CRM アプリケーションから取得できます。プロンプトビルダーでプロンプトを作成し、Apex またはフローから呼び出すことができます。
安全なデータ取得とグラウンディング
Trust Layer の最初のステップは、安全なデータの取得です。LLM がより関連性の高いパーソナライズされた応答を生成するには、CRM データから追加のコンテキストが必要です。プロンプトにコンテキストを追加するこのプロセスをグラウンディングと呼びます。プロンプトは、CRM データとの差し込み項目を使用してグラウンディングできます。CRM データには、レコード項目、フロー、Apex、Data 360 DMO、関連リストなどがあります。
安全なデータ取得とは、実行ユーザーがアクセスできるデータのみでプロンプトをグラウンディングすることです。
データ取得プロセスでは、Salesforce の既存のアクセス制御と権限が適用されます。
- プロンプトをグラウンディングするためのデータ取得は、プロンプトを実行するユーザーの権限に基づきます。
- プロンプトをグラウンディングするためのデータ取得では、CRM インスタンスからデータをグラウンディングするときに、ユーザー権限と項目レベルセキュリティに関するすべての標準の Salesforce ロールベースの制御が保持されます。
グラウンディングは実行時に行われ、ユーザーのアクセス権によって異なるため、グラウンディングは動的です。
LLM のデータマスキング
Einstein Trust Layer ポリシーには、機密データが検出されてマスキングされるデータ マスキングが含まれます。機密データは、次の 2 つの方法で識別されます。
- パターンベース: パターンとコンテキストを使用して、プロンプトテキスト内の機密データを識別します。具体的には、正規表現 (正規表現) パターンとコンテキストワードを使用します。また、人名や会社名など、パターンが定義されていないデータを識別するためにトレーニングされた機械学習モデルも使用します。
- 項目ベース: Shield Platform Encryptionまたはデータ分類を使用して分類された項目のメタデータを使用して、機密項目を識別します。これにより、組織のデータに適用済みの分類が LLM データマスキングに拡張されます。
識別されたデータはプレースホルダーテキストでマスキングされ、外部モデルに公開されないようにします。Einstein Trust Layer は、元のエンティティとそれぞれのプレースホルダー間のリレーションを一時的に保存します。このリレーションは、生成された応答のデータをマスク解除するために後で使用されます。
プロンプトの防御
LLM が意図しないものや有害なものを生成する可能性を減らすために、プロンプトビルダーとプロンプトテンプレート Connect API ではシステムポリシーを使用します。システム ポリシーは、ユーザとの Trust を構築するための特定の動作に関する LLM への指示のセットです。たとえば、LLM にコンテンツに対処したり、情報のない回答を生成したりしないように指示できます。システムポリシーは、脱獄攻撃やプロンプトインジェクション攻撃から防御する 1 つの方法です。
応答の生成
プロンプトが完全にハイドレートされて保護されると、LLM ゲートウェイを介して送信できるようになります。ゲートウェイは、さまざまなモデルプロバイダーとのやりとりを管理し、複数の LLM と通信するための統合された安全な方法を表します。ゲートウェイとモデルプロバイダーは TLS 暗号化を使用して、転送中のデータが保護されるようにします。
Salesforce によって作成または調整されたモデルは、Salesforce Trust 境界でホストされます。OpenAIなどのサード パーティ プロバイダーによって作成および管理される外部モデルは、共有Trust境界内にあります。作成および管理するモデルは、インフラストラクチャでホストされます。
OpenAI や Azure OpenAI などの外部パートナーモデルプロバイダーとゼロデータ保持ポリシーを実施しています。このポリシーでは、Salesforce から LLM に送信されたデータは保持されず、応答が Salesforce に返送された後に削除されます。
Einstein Trust Layer: 対応ジャーニー
生成された応答が大規模言語モデルから返されると、Einstein Trust Layer によって特定のポリシーとプロセスが適用され、応答が安全で役立つことが保証されます。「Einstein Trust Layer: Response Journey」を参照してください。
