Vous êtes ici :
Configuration d'Audit, Analytics et Surveillance Einstein
Centralise la consignation des invites IA générative, des réponses LLM et des commentaires des utilisateurs dans Data Cloud pour la conformité, l'audit et l'optimisation du modèle.
Nom du contrôle
Couche Trust Einstein - Données d'audit et de commentaires
Vue d'ensemble du contrôle
Centralise la consignation des invites IA générative, des réponses LLM et des commentaires des utilisateurs dans Data Cloud pour la conformité, l'audit et l'optimisation du modèle.
Description
Permet le stockage permanent des signaux Trust Layer et des commentaires des utilisateurs, en déplaçant les données depuis la mémoire transitoire vers des objets modèle de données (DMO) persistants ; permettant aux administrateurs de surveiller les performances et la précision des agents.
Configuration recommandée
Accédez à Einstein Audit, Analytics et Monitoring Setup. Activez « Collecter et stocker les données d'audit IA générative Einstein » et « Capturer les commentaires des utilisateurs ». Assurez-vous que Data Cloud est entièrement provisionné pour héberger ces flux de données.
Impact sur la sécurité
Fournit la piste médico-légale nécessaire pour examiner la précision, les performances, les fuites de données ou les interactions toxiques, afin de s'assurer que l'entreprise répond à ses exigences en fonction de ses cas d'utilisation.
Impact commercial
Crée un référentiel central de journaux pour vos agents dans lequel les commentaires et les données des utilisateurs réels sont utilisés pour affiner les modèles d'invite et les instructions des agents.
Risque de sécurité s'il n'est pas configuré
Si un agent fournit des conseils incorrects ou préjudiciables, il n'existe aucun enregistrement permanent pour diagnostiquer la cause ou prouver ce qui a été dit.
Scénarios de menace
Écart de responsabilisation : Absence de journaux pour vérifier l'interaction en cas de conflits. Angles morts : Les biais systématiques dans les réponses IA ne sont pas détectés pendant des mois.
Plage de score CVSS estimée
Critique (9,0 à 10,0).
Considérations relatives à l'impact sur le risque
L'activation de cette configuration capture les données d'audit et de commentaires pertinentes. Cependant, les clients doivent mettre en place des dispositifs d'alerte et de surveillance appropriés pour s'assurer que les anomalies pertinentes sont signalées et que les faux positifs sont traités afin de réduire le bruit.
Risque plus élevé quand
La collecte de données d'audit n'est pas activée pour enregistrer des crédits Data Cloud, ni lorsque les commentaires sont collectés, mais jamais examinés par un être humain.
Risque faible quand
Les clients ont implémenté des procédures de consignation d'audit personnalisées dans lesquelles les interactions des agents sont consignées pour l'injection rapide, la détection de la toxicité et d'autres capacités pour surveiller les performances et la précision.
Considérations relatives à l'entreprise et à l'intégration
Coûts de stockage : Ces données consomment des crédits Data Cloud. Latence : L'affichage des données d'audit dans les rapports peut prendre jusqu'à 24 heures.
Guide d'examen sanitaire de sécurité
Security Health Review vérifie le statut « Activé » du commutateur Données d'audit et signale les instances dans lesquelles les boucles de rétroaction sont inactives, empêchant l'entreprise d'améliorer sa sécurité IA.
Qui est impacté
Agents de gouvernance des données, administrateurs IA, responsables du service client et auditeurs juridiques/de conformité.
