识别 Agentforce 项目的风险和防护

自主 AI 客服人员会带来风险，例如安全威胁、数据泄露、声誉损害、财务损失、偏见、幻觉，以及透明度和问责制方面的问题。在计划 AI 客服人员时，请为 Agentforce 用例识别风险，并计划风险缓解策略。

适用于：Lightning Experience

适用于：Enterprise、Performance、Unlimited 和 Developer Edition。所需的加载项许可证因客服人员类型而异。

在贵组织中处理有关 AI 风险的对话时，您可以使用人员、业务、技术和数据框架。这些类别和注意事项可以帮助您解决与 Agentforce 项目相关的可能风险和问题。

类别	注意事项
人员	授权：角色和职责、招聘、培训和提高技能文化和实践：以人为本的 AI 设计、变更管理、采用
业务	值：收益、目标、KPI 和度量操作：组织结构、能力管理、流程和工作流、AI 治理、DevOps 策略
技术	AI 工具：AI 基础设施、应用程序、API、提示、安全保护 AI 模型：模型选择、培训注意事项、管理、成本
数据	质量：适合使用、准确性、完整性、可访问性、最近性等策略：数据管理、基础设施、治理、分析

使用此框架讨论与 Agentforce 用例相关的关注。您的项目利益相关者可以针对每个类别集思广益潜在风险。

对风险和担忧进行编目后，为每个风险提出缓解策略。一些缓解策略将转化为 Agentforce 中的客服人员防护。完成风险缓解练习后，记录用例的风险和防护措施。捕获风险缓解活动对于监管合规很重要，对内部审计也非常有用。

要查看 Agentforce 项目的风险和防护栏示例，请在 Trailhead 上填写定义 Agent Guardrails 单元。

本文章是否解决您的问题？

请与我们共享您的想法，以便我们进行改进！

产品区域