Build Trust in AI Responses with Citations (引用を使用した AI 応答への信頼の構築)
引用は、AI が生成した回答を回答に関連するグラウンディングソースにリンクします。引用を使用して、大規模言語モデル (LLM) が応答の生成に使用した情報を確認し、ソースデータの有効性を確認します。引用は、生成された回答の潜在的な不正確さや幻覚を特定するのに役立ち、AI ツールの使用に対する信頼性を高めます。
必要なエディション
| 使用可能なエディション: Einstein for Sales、Einstein for Platform、Einstein for Service、Einstein 1 Service、または Einstein GPT Service アドオンが付属する Enterprise Edition、Performance Edition、および Unlimited Edition。アドオンを購入するには、Salesforce アカウントエグゼクティブにお問い合わせください。 |
引用について
引用はいくつかの理由で役立ちます。
- 検証可能性: ユーザーは、エージェントから提供された情報の正確性と発生源を確認できます。
- Trust: ソースを提供することで、回答がデータベースであり信頼できるものであることを示します。
- より深いインサイト: ユーザーは、より詳細な情報を得るためにソース素材を探索できます。
エージェントコンテキストでは、引用とは、応答の生成やアクションの実行に使用される情報源をシステムが参照する方法を指します。サポートされるソースには、Knowledge 記事、PDF ファイルのデータ、外部 Web ページの情報などがあります。
ソース URL は、エージェント ビルダー、エージェント API、Lightning Experience、Android および iOS 用の Salesforce モバイル アプリケーション、拡張チャット、Bring Your Own チャネルで表示できます。
プラットフォーム管理引用と命令ベースの引用
引用は 2 つの方法で実装できます。
- プラットフォーム管理引用: 専用のプラットフォームサービスで、プラットフォーム管理引用が標準で提供されます。このサービスでは、引用の形式設定、表示、リンクを行い、構造化された一貫したユーザーエクスペリエンスを実現します。
- 命令ベースの引用: プロンプトテンプレートまたはサブエージェントで引用を生成するカスタム命令を指定します。
プラットフォームで管理される引用はアクションレベルで使用でき、次のアクションでサポートされます。
- Agentforce データ ライブラリを介した Knowledge アクションを使用した質問への回答:プラットフォームベースの引用を有効にするには、「Show Sources for Answer Questions with Knowledge Standard Action」を参照してください。
- プロンプトテンプレートを使用して作成されたカスタムアクション: プロンプトテンプレートに基づくカスタムアクションのサービス管理による引用を有効にするには、「カスタムアクションの引用の設定」を参照してください。カスタムアクションの引用を含めるには、プロンプトテンプレートに少なくとも 1 つの Einstein Search 取得機能が含まれている必要があります。メモ 現在、プロンプトテンプレートに基づくカスタムアクションではインライン引用を使用できません。
- Apex ベースのエージェントアクションを使用した引用。
プラットフォームで管理される引用と命令ベースの引用のどちらを選択するかについては、次の点を考慮してください。
| 考慮事項 | プラットフォーム管理 | 指示ベース |
|---|---|---|
| 引用処理 | 専用サービスで引用を構造化して処理します。 組み込み機能の利点を活用できます。 |
引用の形式と表示方法を柔軟に設定できます。 引用を生成する手順とロジックを手動で追加する必要があります。 |
| プロンプトの影響 | プロンプト内に特定の引用指示を追加したり、プロンプトを微調整したりする必要性を減らします。プロンプトのコンテキスト/単語数を最小限に抑えるのに役立ちます。 | 特定の引用指示を要求することで、プロンプトのコンテキスト/単語数を消費できます。 引用を一貫して生成するために、追加の微調整が必要になる場合があります。 |
| 表示オプション | 回答の最後に個別の [ソース] セクションに表示されます。インライン引用は番号付きリンクです。 現在、プロンプトテンプレートに基づくカスタムアクションではインライン引用を使用できません。 引用に画像が含まれている場合、画像へのクリック可能なリンクとして表示されます。 |
書式設定と表示は、プロンプト命令の一部として定義され、カスタマイズできます。 |
| 大規模言語モデル (LLM) | Salesforce が管理する微調整された言語モデルを活用します。 | 選択した LLM に固有であり、LLM によって異なります。 |
プラットフォーム引用の例
プラットフォーム引用の表示例を次に示します。
![スクリーンショットには、回答の最後にある [ソースとの会話] セクションが表示されています。](https://sf-zdocs-cdn-prod.zoominsoftware.com/tdta-ai-generative_ai-262-0-0-production-jajp/2a093e45-c396-4c22-b39d-bc62e74338de/generative_ai/images/citations_platform_display.png)
引用に関連する追加の詳細とメタデータは、監査履歴データの一部として Data 360 DMO に保存されます。『 Data Model for Generative AI Audit and Feedback 』の「Einstein Generative AI Gateway Object Record Citation Reference DMO」を参照してください。
