Vous êtes ici :
Masquage des données LLM (disponible pour l'IA générative non Agentforce)
Identifie et masque automatiquement les données confidentielles (PII, PCI, etc.) dans une invite avant qu'elles soient transmises à un grand modèle de langage (LLM) externe.
Nom du contrôle
Einstein Trust Layer - Masquage des données LLM (disponible pour l'IA non Agentforce gen)
Vue d'ensemble du contrôle
Identifie et masque automatiquement les données confidentielles (PII, PCI, etc.) dans une invite avant qu'elles soient transmises à un grand modèle de langage (LLM) externe.
Description
Utilise la correspondance de schémas et l'apprentissage machine pour remplacer les entités confidentielles (par exemple, les noms, les e-mails, les numéros de carte de crédit) par des espaces réservés, qui sont démasqués uniquement lorsque la réponse revient à Salesforce.
Configuration recommandée
Activez « Masquage des données LLM » dans la Configuration Einstein. Personnalisez des stratégies de masquage spécifiques pour toutes les entités concernées (SSN, téléphone, e-mail) en fonction de vos exigences de confidentialité et de conformité.
Impact sur la sécurité
Empêche le partage de données confidentielles avec des fournisseurs de LLM, afin de favoriser la conformité aux réglementations internationales relatives à la protection de la vie privée telles que le RGPD et la CCPA.
Impact commercial
Permet d'adopter en toute sécurité l'IA générative pour les workflows internes et destinés aux clients sans risquer de violation de la résidence des données ou de fuite de propriété intellectuelle.
Risque de sécurité s'il n'est pas configuré
Les données confidentielles non masquées (PII/PHI) sont envoyées au fournisseur de LLM (par exemple, OpenAI, Anthropic) en texte brut, ce qui peut enfreindre les accords de traitement des données et les politiques organisationnelles.
Scénarios de menace
Fuite de données : Un utilisateur incorpore involontairement des champs confidentiels à l'invite.
Plage de score CVSS estimée
Critique (9,0 à 10,0).
Considérations relatives à l'impact sur le risque
Le risque est extrême pour les organisations des secteurs réglementés (Finances, Santé) où l'envoi d'un seul enregistrement non masqué à un cloud externe peut déclencher une notification d'infraction obligatoire.
Risque plus élevé quand
Dans la plupart des cas, les utilisateurs de l’IA de génération incorporent les données de champs confidentiels (par exemple, les données PII/ PCI) dans leurs invites.
Risque faible quand
La rétention de données zéro (ZDR) est appliquée techniquement avec les fournisseurs de LLM externes, ou un modèle hébergé en interne est utilisé pour entraîner le LLM développé par votre entreprise.
Considérations relatives à l'entreprise et à l'intégration
Le masquage peut occasionnellement réduire la précision contextuelle du grand livre si un nombre excessif de données est masqué. Un test minutieux des modèles d'invite est nécessaire pour concilier sécurité et utilité.
Guide d'examen sanitaire de sécurité
Security Health Review audite la Configuration de la couche de Trust Einstein pour confirmer que le masquage des données est activé.
Qui est impacté
Les agents de confidentialité des données, les développeurs IA, les administrateurs et tous les utilisateurs qui utilisent le Générateur de répliques ou les fonctionnalités Einstein Copilot.
