Você está aqui:
Mascaramento de Dados LLM (disponível para IA generativa não Agentforce) Controle
Identifica e mascara automaticamente dados confidenciais (PII, PCI e assim por diante) em um aviso antes de serem transmitidos para um Modelo de idioma grande (LLM) externo.
Nome do controle
Camada do Einstein Trust - Mascaramento de Dados LLM (disponível para IA não Agentforce gen)
Visão geral de controle
Identifica e mascara automaticamente dados confidenciais (PII, PCI e assim por diante) em um aviso antes de serem transmitidos para um Modelo de idioma grande (LLM) externo.
Descrição
Usa correspondência de padrão e aprendizado de máquina para substituir entidades confidenciais (por exemplo, nomes, emails, números de cartão de crédito) por espaços reservados, que são desmascarados apenas depois que a resposta retorna ao Salesforce.
Configuração recomendada
Habilite "Mascaramento de Dados do LLM" na Configuração do Einstein. Personalize políticas de mascaramento específicas para todas as entidades relevantes (SSN, telefone, email) com base em seus requisitos de privacidade e conformidade.
Impacto na segurança
Evita que dados confidenciais sejam compartilhados com provedores de LLM para dar suporte à conformidade com normas globais de privacidade, como GDPR e CCPA.
Impacto nos negócios
Permite a adoção segura da IA genérica para fluxos de trabalho internos e voltados para o cliente sem correr o risco de violações de residência de dados ou vazamentos de propriedade intelectual.
Risco de segurança, se não configurado
Dados confidenciais desmascarados (PII/PHI) são enviados ao provedor do LLM (por exemplo, OpenAI, Anthropic) em texto simples, possivelmente violando acordos de processamento de dados e políticas organizacionais.
Cenários de ameaça
Vazamento de dados: Um usuário incorpora inadvertidamente campos confidenciais no aviso.
Intervalo de pontuação de CVSS estimado
Crítico (9.0 a 10.0).
Considerações sobre impacto de risco
O risco é extremo para organizações em setores regulados (Finanças, Saúde) em que enviar um único registro não mascarado para uma nuvem externa pode acionar uma notificação de violação obrigatória.
Risco maior quando
Os usuários de IA de geração incorporam dados de campos confidenciais (por exemplo, dados de PII/PCI) em seus avisos na maioria dos casos de uso.
Baixo risco quando
A retenção de dados zero (ZDR) é aplicada tecnicamente com os provedores de LLM externos ou o modelo hospedado internamente é usado para treinar o LLM desenvolvido pela sua empresa.
Considerações de negócios e integração
Ocasionalmente, o mascaramento pode reduzir a precisão contextual do LLM se dados demais forem ocultados. É necessário testar cuidadosamente os modelos de prompts para equilibrar a segurança e o utilitário.
Diretriz de revisão de saúde de segurança
A Análise de integridade de segurança audita a Configuração da Camada de Trust do Einstein para confirmar se o mascaramento de dados está habilitado.
Quem é afetado
Agentes de privacidade de dados, desenvolvedores de IA, administradores e usuários que usam os recursos Criador de prompts ou Einstein Copilot.
