Вы находитесь здесь:
Проведение оценки рисков для проектов на основе искусственного интеллекта
Определите риски использования данных с решениями на основе искусственного интеллекта и установите ограждения для обеспечения безопасности данных клиентов.
Использование данных клиентов в подсказках приводит к лучшим ответам модели. Однако добавление бизнес-данных в подсказки означает, что вы открываете свою компанию для рисков. Утечки данных, проблемы регулирования и репутационный вред могут произойти, если с данными не обращаться осторожно.
После определения данных, необходимых вашему проекту на основе искусственного интеллекта, можно создать стратегии уменьшения рисков, предназначенные для обеспечения безопасности данных клиентов и компаний.
- Совместно с заинтересованными лицами проекта определите вероятность негативных последствий каждого из этих типов риска с помощью данных проекта. Вы можете использовать единицу Plan Your Trust Strategy в Trailhead для создания профиля риска и стратегии смягчения для предоставления общего доступа ключевым заинтересованным лицам.
-
Определите ограждения, которые могут помочь проекту уменьшить юридические и этические риски. Многие из этих ограждений охватываются Einstein Trust Layer. К ограждениям на основе искусственного интеллекта относятся:
- Охранные ограждения: Безопасное извлечение данных означает, что напоминание использует только данные, доступные конечному пользователю. Маскировка данных заменяет конфиденциальные данные данными структурного нуля, поэтому модель никогда не видит маскируемые данные. Политики сохранности нулевых данных означают, что данные не сохраняются в модели после создания ответа.
- Технические ограждения: Защита подсказки защищает данные от атак быстрого введения или взлома.
- Этические ограждения: Определение токсичности и предвзятости определяет вредные выражения в напоминаниях и ответах.
- Создайте список областей потенциального риска и конкретные ограждения, используемые системой для уменьшения риска.
- Приоритизируйте стратегии уменьшения рисков, чтобы в первую очередь заняться наиболее важными рисками.
Эта статья решила вашу проблему?
Оставьте свой отзыв, чтобы мы могли стать лучше!
