Usted está aquí:
Enmascaramiento de datos LLM (Disponible para IA generativa no de Agentforce)
Identifica y enmascara automáticamente datos confidenciales (PII, PCI, etc.) dentro de una solicitud antes de que se transmitan a un modelo de lenguaje grande (LLM) externo.
Nombre de control
Capa Einstein Trust - Enmascaramiento de datos LLM (Disponible para IA de generación no de Agentforce)
Descripción general de control
Identifica y enmascara automáticamente datos confidenciales (PII, PCI, etc.) dentro de una solicitud antes de que se transmitan a un modelo de lenguaje grande (LLM) externo.
Descripción
Utiliza coincidencia de patrones y aprendizaje automático para sustituir entidades confidenciales (por ejemplo, nombres, emails, números de tarjeta de crédito) con marcadores de posición, que se desenmascaran solo cuando la respuesta vuelve a Salesforce.
Configuración recomendada
Active "LLM Data Masking" en Configuración Einstein. Personalice políticas de enmascaramiento específicas para todas las entidades relevantes (SSN, teléfono, email) basándose en sus requisitos de privacidad y cumplimiento.
Impacto de seguridad
Evita que se compartan datos confidenciales con proveedores LLM, para respaldar el cumplimiento de leyes de privacidad globales como el RGPD y CCPA.
Repercusión de negocio
Permite la adopción segura de la IA de generación para flujos de trabajo internos y de cara al cliente sin riesgo de infracciones de residencia de datos o fugas de propiedad intelectual.
Riesgo de seguridad si no está configurado
Los datos confidenciales desenmascarados (PII/PHI) se envían al proveedor de LLM (por ejemplo, OpenAI, Anthropic) en texto sin formato, lo que podría infringir acuerdos de procesamiento de datos y políticas organizativas.
Escenarios de amenazas
Fuga de datos: Un usuario incorpora inadvertidamente campos confidenciales en la solicitud.
Intervalo de puntuaje de CVSS estimado
Crítico (9,0 a 10,0).
Consideraciones de impacto de riesgo
El riesgo es extremo para organizaciones en sectores regulados (Finanzas, Salud) donde el envío de un único registro desenmascarado a una nube externa puede desencadenar una notificación de infracción obligatoria.
Mayor riesgo cuando
Los usuarios de IA de generación incorporan datos de campos confidenciales (por ejemplo, datos de PII/PCI) en sus solicitudes en la mayoría de los casos de uso.
Bajo riesgo cuando
La retención de datos cero (ZDR) se aplica técnicamente con los proveedores de LLM externos, o se utiliza un modelo alojado internamente para entrenar el LLM desarrollado por su compañía.
Consideraciones de negocio e integración
El enmascaramiento puede reducir ocasionalmente la precisión contextual del LLM si se ocultan demasiados datos. Se requieren pruebas cuidadosas de plantillas de solicitudes para equilibrar la seguridad y la utilidad.
Directrices de revisión del estado de seguridad
Security Health Review audita la Configuración de Einstein Trust Layer para confirmar que el enmascaramiento de datos está activado.
Quién se ve afectado
Responsables de privacidad de datos, desarrolladores de IA, administradores y cualquier usuario que utilice funciones Generador de solicitudes o Einstein Copilot.
