Usted está aquí:
Control de enmascaramiento de datos LLM (disponible para IA generativa no de Agentforce)
Identifica y enmascara automáticamente datos confidenciales (PII, PCI, etc.) dentro de una solicitud antes de que se transmitan a un modelo de lenguaje grande (LLM) externo.
Nombre de control
Capa Einstein Trust - Enmascaramiento de datos LLM (Disponible para IA de generación no de Agentforce)
Descripción general de control
Identifica y enmascara automáticamente datos confidenciales (PII, PCI, etc.) dentro de una solicitud antes de que se transmitan a un modelo de lenguaje grande (LLM) externo.
Descripción
Utiliza la coincidencia de patrones y el aprendizaje automático para sustituir entidades confidenciales (por ejemplo, nombres, correos electrónicos, números de tarjeta de crédito) por marcadores de posición, que se desenmascaran solo cuando la respuesta vuelve a Salesforce.
Configuración recomendada
Active "LLM Data Masking" en Configuración Einstein. Personalice políticas de enmascaramiento específicas para todas las entidades relevantes (SSN, teléfono, correo electrónico) basándose en sus requisitos de privacidad y cumplimiento.
Repercusión en la seguridad
Evita que se compartan datos confidenciales con proveedores de LLM, para dar cobertura al cumplimiento de leyes de privacidad globales como RGPD y CCPA.
Repercusión comercial
Permite la adopción segura de IA de generación para flujos de trabajo internos y de cara al cliente sin riesgo de infracciones de residencia de datos o fugas de propiedad intelectual.
Riesgo de seguridad si no está configurado
Los datos confidenciales no enmascarados (PII/PHI) se envían al proveedor de LLM (por ejemplo, OpenAI, Anthropic) en texto normal, lo que podría infringir acuerdos de procesamiento de datos y políticas organizativas.
Escenarios de amenazas
Fuga de datos: Un usuario incorpora inadvertidamente campos confidenciales en la solicitud.
Intervalo de puntuación de CVSS estimado
Crítico (9,0 a 10,0).
Consideraciones sobre el impacto del riesgo
El riesgo es extremo para organizaciones en sectores regulados (Finanzas, Salud) donde el envío de un único registro desenmascarado a una nube externa puede desencadenar una notificación de infracción obligatoria.
Riesgo más alto cuando
Los usuarios de IA de generación incorporan datos de campos confidenciales (por ejemplo, datos de PII/PCI) en sus solicitudes en la mayoría de los casos de uso.
Bajo riesgo cuando
La retención de datos cero (ZDR) se aplica técnicamente con los proveedores de LLM externos, o se utiliza un modelo alojado internamente para entrenar el LLM desarrollado por su empresa.
Consideraciones comerciales y de integración
El enmascaramiento puede ocasionalmente reducir la precisión contextual del LLM si se ocultan demasiados datos. Se requieren pruebas cuidadosas de plantillas de solicitudes para equilibrar la seguridad y la utilidad.
Directrices de revisión del estado de seguridad
Security Health Review audita la Configuración de la capa Einstein Trust para confirmar que el enmascaramiento de datos está activado.
Quién se ve afectado
Responsables de privacidad de datos, desarrolladores de IA, administradores y cualquier usuario que utilice funciones Generador de solicitudes o Einstein Copilot.
