Loading
Agentforce 和 Einstein 生成式 AI
Einstein Trust 层:响应过程

Einstein Trust 层:响应过程

当生成的响应从大语言模型中返回时,Einstein Trust 层会应用某些策略和流程来确保响应安全有用。

所需的 Edition

适用于:EnterprisePerformanceUnlimited Edition,带有 Einstein for Sales、Einstein for Platform、Einstein for Service、Einstein 1 Service 或 Einstein GPT Service 加载项。要购买加载项,请联系您的 Salesforce 客户主管。

响应过程

Einstein Trust 层流程图,突出显示了生成器生成部分

毒性检测

响应中的毒性检测:扫描生成的响应是否有毒性。检测过程包括毒性置信度分数,该分数反映了包括有害或不适当内容在内的反应的概率。毒性分数和类别存储在 Data 360 中。

数据解密

我们在提示过程中创建的用于屏蔽数据的占位符现在被实际数据替换。原始实体和它们各自的占位符之间的关系用于补充响应,以便响应在发送回时有用和有意义。

重要
重要 LLM 的数据屏蔽已为客服人员禁用。请参阅数据屏蔽和客服人员。对于嵌入式生成式 AI 功能,例如 Einstein 服务回复Einstein 工作汇总数据屏蔽可用,您可以在 Einstein Trust 层设置中进行配置。

引用

响应可以包括引用(如果相关)。引用会将 AI 生成的回复链接到用于生成回复的原始来源。使用引用查看大语言模型 (LLM) 使用哪些信息来生成响应并验证源数据的有效性。引用有助于您识别生成的回复中的任何潜在不准确或幻觉,提高您使用 AI 工具的信心。

反馈和审计

在 Salesforce 中显示响应时,您可以接受、修改或拒绝响应。您也可以提供明确的反馈。您对回复的明确反馈作为审计和反馈数据(审计跟踪)的一部分被捕获并存储在 Data 360 中。根据 AI 功能,您对回复的隐式操作也可以被捕获并存储在 Data 360 中。

审计跟踪还包括原始提示、屏蔽提示、毒性检测期间记录的分数、LLM 的原始输出和屏蔽输出。

审计和反馈数据存储在 Data 360 实例中。您可以控制这些数据在 Data 360 实例中的存储时间。此外,出于合规目的,Salesforce 会将审计和反馈数据存储 30 天。

 
正在加载
Salesforce Help | Article