您在此处:
对 AI 项目进行风险评估
识别使用 AI 解决方案的数据的风险,并建立防护措施,以保护客户数据安全。
在提示中使用客户数据会使模型做出更好的响应。但是,在提示中包含业务数据意味着您向公司开放了风险。如果您的数据处理不当,可能会出现数据泄露、监管问题和声誉损害。
在确定 AI 项目需要的数据后,您可以制定风险缓解策略,以确保客户和业务数据安全。
- 与您的项目利益相关者合作,通过项目数据确定每种风险类型的负面影响的可能性。您可以使用 Trailhead 中的 Plan Your Trust Strategy 单位来构建风险简档和缓解战略,以便与关键利益相关者分享。
-
确定有助于您的项目降低法律和道德风险的防护栏。Einstein Trust 层涵盖了其中许多防护装置。AI 护栏包括:
- 安全护栏:安全数据检索意味着提示仅使用允许最终用户访问的数据。数据屏蔽使用占位符数据替换敏感数据,因此模型永远不会看到屏蔽的数据。零数据保留策略意味着在生成响应后,数据不会存储在模型中。
- 技术护栏:提示防御保护数据免受即时注入攻击或越狱。
- 符合道德的护栏:毒性和偏见检测识别提示和响应中的有害语言。
- 构建潜在风险区域和系统用于降低风险的特定防护设施的列表。
- 确定风险缓解策略的优先级,以便您首先解决最重要的风险。

