Einstein 生成 AI & 信頼

Einstein生成AIとデータ

Salesforce では、Trust が最大の価値です。データのセキュリティを確保するため、Salesforce は OpenAI などの大規模言語モデル (LLM) プロバイダーと契約しています。これらの契約により、組織は LLM プロバイダーが非公開データを保持することなく生成 AI 機能を使用できます。

信頼できる生成 AI

SalesforceのEinstein生成AIソリューションは、信頼できる生成AIに関する5つの原則に基づいて設計、開発、提供されます。

• 精度: 可能な限り、説明とソースを使用してモデル応答をバックアップします。ほとんどの使用事例でエンドユーザーと共有する前に、人間がモデルの応答を確認することをお勧めします。
• 安全性: 業界をリードする検出および緩和技術により、製品に使用されているモデルからのバイアス、有害性、有害な応答を検出して軽減します。
• 透明性: 当社のモデルと機能は、可能な限りデータの出所を尊重し、お客様のデータに基づきます。
• エンパワーメント: 当社の製品は、人々の能力を補完し、より効率的かつ目的意識を持って仕事ができるようにするべきだと考えています。
• Sustainability (持続可能性): 精度を優先し、カーボンフットプリントを削減する適切なサイズのモデルの構築に努めています。

生成 AI 応答の確認

生成 AI は、より創造的で生産的になり、よりスマートなビジネス上の意思決定を行うのに役立つツールです。この技術は人間の判断に代わるものではありません。LLM で生成された応答を顧客と共有する場合、最終的にその責任はユーザーにあります。テキストが人間によって生成されたものか、LLM によって生成されたものかに関係なく、顧客はテキストを組織のブランドに関連付けて、意思決定に使用します。そのため、LLM で生成された外部利用者向けの回答が正確で役立ち、会社の価値観、姿勢、口調と一致していることを確認することが重要です。

エンドユーザーが外部利用者向けに生成された回答を確認するときは、コンテンツの正確性と安全性に焦点を絞ります。

• 正確性: 生成AIは、時として事実や既存のソースに基づかない、いわゆる『幻覚』、すなわち捏造した応答を生成する可能性があります。回答を公開する前に、主要な詳細が正しいことを確認します。たとえば、カスタマー サービスの提案は既存の最新のKnowledge記事に基づいていますか。
• バイアスと毒性: AI は人間が作成し、人間が作成したデータに基づいてトレーニングされるため、歴史的に疎外されてきたグループに対するバイアスが含まれることもあります。まれに、一部の応答に有害な表現が含まれることがあります。回答をチェックして、顧客に適切であることを確認します。

回答があなたの標準または会社のビジネスニーズを満たしていない場合は、使用する必要はありません。一部のソリューションでは、エンドユーザーが回答を直接編集できます。編集できない場合は、最初から別の回答を生成することをお勧めします。