Examen de la sécurité de la plate-forme de base de l’IA générative

Découvrez la sécurité de la plate-forme de base de l’IA générative.

• Masquage des données LLM (disponible pour l'IA générative non Agentforce) Contrôle
  Identifie et masque automatiquement les données confidentielles (PII, PCI, etc.) dans une invite avant qu'elles soient transmises à un grand modèle de langage (LLM) externe.
• Sûreté et sécurité - Contrôle de la détection de la toxicité
  Analyse automatiquement les invites IA et les réponses générées afin d'identifier, de marquer et d'évaluer les propos préjudiciables dans plusieurs catégories (par exemple, discours haineux, violence, blasphème).
• Sûreté et sécurité - Contrôle de la détection par injection d'invites
  Détecte et atténue les attaques par injection rapide lorsque les utilisateurs tentent de remplacer les instructions système pour forcer l'IA à adopter des comportements involontaires ou malveillants.
• Contrôle de configuration d'Audit Einstein, Analytics et Monitoring
  Centralise la consignation des invites IA générative, des réponses LLM et des commentaires des utilisateurs dans Data Cloud pour la conformité, l'audit et l'optimisation du modèle.
• Utilisation du Générateur de répliques et contrôle des métriques de commentaire
  Surveille l'adoption et la qualité de modèles d'invite Einstein spécifiques en suivant le nombre de générations et les commentaires soumis par les utilisateurs.
• Einstein - Contrôle Analytics de l'agent
  Active la collecte et la visualisation continues des interactions autonomes des agents, ce qui permet le suivi des performances et la mesure du retour sur investissement.
• Audit et surveillance Einstein - Contrôle du traçage des sessions Agentforce
  Enregistre la logique étape par étape, le processus de pensée et la séquence d'appel d'outils des agents autonomes pour chaque interaction.