Einstein Trust Layer: 応答ジャーニー
生成された応答が大規模言語モデルから返されると、Einstein Trust Layer によって特定のポリシーとプロセスが適用され、応答が安全で役立つことが保証されます。
必要なエディション
| 使用可能なエディション: Einstein for Sales、Einstein for Platform、Einstein for Service、Einstein 1 Service、または Einstein GPT Service アドオンが付属する Enterprise Edition、Performance Edition、および Unlimited Edition。アドオンを購入するには、Salesforce アカウントエグゼクティブにお問い合わせください。 |
対応ジャーニー
毒性検出
回答の毒性検出: 生成された回答が毒性についてスキャンされます。検出プロセスには、有害または不適切なコンテンツを含む応答の確度を反映する毒性信頼性スコアが含まれます。毒性スコアとカテゴリは Data 360 に保存されます。
データのマスク解除
プロンプトジャーニー中にデータをマスキングするために作成したプレースホルダーが実際のデータに置き換えられました。元のエンティティとそれぞれのプレースホルダー間のリレーションは、応答を戻すために使用されます。これにより、応答が返信されたときに便利で有意義なものになります。
引用
関連する場合は、応答に引用を含めることができます。引用では、AI で生成された応答を、応答の生成に使用された元のソースにリンクします。引用を使用して、応答を生成してソースデータの有効性を検証するために大規模言語モデル (LLM) で使用された情報を確認します。引用は、生成された応答に不正確な内容や事実に基づかない情報が含まれる可能性を明らかにするのに役立ち、AI ツールの使用に対する信頼性を高めます。
フィードバックと監査
Salesforce で回答が提示されたら、回答を承諾、変更、または却下できます。明示的なフィードバックを提供することもできます。回答に対する明示的なフィードバックは、監査およびフィードバックデータ (監査履歴) の一部として取得され、Data 360 に保存されます。AI 機能によっては、回答に対する暗黙的なアクションも Data 360 に取得されて保存される可能性があります。
監査履歴には、元のプロンプト、マスクされたプロンプト、有害性検出中に記録されたスコア、LLM からの元の出力、マスク解除された出力も含まれます。
監査およびフィードバックデータは Data 360 のインスタンスに保存されます。データを Data 360 のインスタンスに保存する期間は自分で制御できます。また、監査およびフィードバックデータは、コンプライアンスの目的で 30 日間 Salesforce によって保存されます。
