Loading
Agentforce et IA générative Einstein
Identification des risques et des garde-fous pour un projet Agentforce

Vous êtes ici :

  1. Aide de Salesforce
  2. Documents
  3. Démarrage rapide de votre solution d'IA générative Einstein

Identification des risques et des garde-fous pour un projet Agentforce

Les agents d’IA autonomes présentent des risques, tels que des menaces de sécurité, des violations de données, des atteintes à la réputation, des pertes financières, des biais, des hallucinations, et des problèmes de transparence et de responsabilité. Lors de la planification d'un agent IA, identifiez les risques pour votre cas d'utilisation Agentforce et planifiez des stratégies d'atténuation des risques.

Éditions requises

Disponible avec : Lightning Experience
Disponible avec : Enterprise Edition, Performance Edition, Unlimited Edition et Developer Edition. Les licences complémentaires requises varient selon le type d'agent.

À mesure que vous abordez les conversations sur le risque IA dans votre organisation, vous pouvez utiliser l'infrastructure Personnes, Entreprise, Technologie et Données. Ces catégories et considérations peuvent vous aider à identifier les risques et les préoccupations éventuels liés à votre projet Agentforce.

Catégorie Considérations
Personnes
  • Autonomisation : Rôles et responsabilités, recrutement, formation et perfectionnement
  • Culture et pratique : Conception d’IA centrée sur l’humain, gestion du changement, adoption
Professionnel
  • Valeur : Avantages, objectifs, indicateurs de performance clés et métriques
  • Opérations : Structure de l'organisation, gestion des capacités, processus et workflows, gouvernance de l'IA, stratégie DevOps
Technologie
  • Outillage IA : Infrastructure IA, applications, API, invites, mesures de sécurité
  • Modèles IA : Sélection du modèle, considérations relatives à la formation, gestion, coût
Données
  • Qualité : Adapté à l'utilisation, précision, exhaustivité, accessibilité, récence, et plus encore
  • Stratégie : Gestion des données, infrastructure, gouvernance, analytiques

Utilisez cette infrastructure pour discuter des préoccupations liées à votre cas d'utilisation Agentforce. Les parties prenantes de votre projet peuvent réfléchir aux risques potentiels pour chaque catégorie.

Après avoir répertorié les risques et les préoccupations, élaborez des stratégies d'atténuation pour chaque risque. Certaines stratégies d'atténuation se traduiront dans Agentforce par des garde-fous pour les agents. Lorsque vous avez terminé l'exercice d'atténuation des risques, documentez les risques et les garde-fous de votre cas d'utilisation. La capture des activités d'atténuation des risques est importante pour la conformité réglementaire et utile pour les audits internes.

Pour voir un exemple de risques et de garde-fous pour un projet Agentforce, suivez l'unité Définition des garde-fous sur Trailhead.

Voir également :

 
Chargement
Salesforce Help | Article