Détection et retrait des biais d'un modèle

Einstein Discovery vous aide à utiliser l'intelligence artificielle de façon éthique en détectant les biais dans vos données pour vous permettre de retirer les effets de distorsion de votre analyse et de vos prédictions. Les biais indiquent que le traitement des variables n'est pas équitable dans votre modèle.

Éditions requises

Remarque Les récits Einstein Discovery sont désormais des modèles. Nous aimerions pouvoir mettre à jour le nom partout en un clic, mais vous allez retrouver le nom initial à plusieurs emplacements en attendant qu'il soit remplacé.

Disponible dans Salesforce Classic et Lightning Experience.

Disponible avec CRM Analytics moyennant un coût supplémentaire dans les éditions Enterprise, Performance et Unlimited. Également disponible avec Developer Edition.

Exemples de biais :

Variables proxy, où une variable est fortement corrélée à une variable confidentielle, par exemple l'adresse physique ou l'origine ethnique d'un demandeur de prêt.
Impact différent est un type d'analyse qui aide à comprendre le traitement des différents groupes par le modèle.

Einstein Discovery permet de marquer en tant que variables sensibles les données qui pourraient être interprétées comme un traitement inéquitable, par exemple la race, le sexe, la religion, l'origine nationale, l'orientation sexuelle, l'invalidité, l'âge. Einstein Discovery affiche ensuite une icône de bouclier en regard des modèles et des connaissances associés à des variables confidentielles, afin de vous rappeler la présence éventuelle de biais lorsque vous examinez vos données. Le retrait des variables biaisées de votre modèle peut générer des connaissances plus éthiques et plus responsables. Pour une vue d'ensemble, suivez les modules Trailhead ci-dessous :

Pour détecter et retirer les biais dans votre modèle :

Dans la Configuration du modèle, sélectionnez une variable susceptible d'inclure des biais, cliquez sur l'onglet Paramètres dans le panneau droit, puis sélectionnez Analyse des biais.
Cliquez sur Mettre à jour le modèle pour créer une autre version du modèle.
Pour filtrer la liste et afficher uniquement les connaissances associées à des variables confidentielles, cliquez sur le bouton de bouclier.

L'icône de bouclier indique que cette connaissance est associée à une variable marquée comme sensible ou confidentielle.
Sélectionnez une carte de connaissances.
- Einstein Discovery affiche une analyse d'impact différent si un écart important est détecté dans le traitement des différentes classes par le modèle.
- Einstein Discovery affiche une analyse des biais potentiels s'il détecte des variables proxy possibles.
Cliquez sur Modifier le modèle pour afficher les paramètres du modèle. Notez comment Einstein affiche l'icône de bouclier et l'alerte de données Impact différent pour la variable.
Examinez les connaissances de votre modèle afin de déterminer si une variable confidentielle doit être incluse (car elle sert votre analyse) ou exclue pour retirer son influence biaisée du modèle. Pour retirer une variable, il suffit de la désactiver et de cliquer sur Mettre à jour le modèle pour créer une autre version sans la variable.