Realizar una evaluación de riesgo para proyectos de IA

Identifique los riesgos de utilizar datos con soluciones de IA y establezca salvaguardas para mantener los datos de los clientes seguros.

1. Trabaje con las partes interesadas de su proyecto para identificar la probabilidad de efectos negativos de cada uno de estos tipos de riesgo con los datos del proyecto. Puede utilizar la unidad Plan Your Trust Strategy en Trailhead para crear un perfil de riesgo y una estrategia de mitigación para compartir con partes interesadas clave.
2. Identifique salvaguardas que pueden ayudar a su proyecto a mitigar riesgos legales y éticos. Muchas de estas barandillas están cubiertas por la Einstein Trust Layer. Las salvaguardas de IA incluyen:
   1. Salvaguardas de seguridad: Recuperación de datos segura significa que la solicitud utiliza solo datos a los que el usuario final puede acceder. El enmascaramiento de datos sustituye datos confidenciales por datos de marcador de posición de modo que el modelo nunca ve los datos enmascarados. Las políticas de retención de datos cero significan que los datos no se almacenan en el modelo después de generar la respuesta.
   2. Salvaguardas técnicas: Defensa de solicitudes protege los datos de ataques de inyección rápida o jailbreak.
   3. Salvaguardas éticas: La detección de toxicidad y sesgo identifica lenguaje dañino en solicitudes y respuestas.
3. Cree una lista de posibles áreas de riesgo y las salvaguardas específicas que el sistema utiliza para mitigar el riesgo.
4. Dé prioridad a las estrategias de mitigación de riesgos de modo que aborde los riesgos más críticos primero.