IA générative Einstein et confiance

L'IA générative Einstein et vos données

Chez Salesforce, Trust est notre valeur n°1. Pour sécuriser vos données, Salesforce a conclu des accords avec des fournisseurs de grands modèles de langage (LLM), tels que OpenAI. Ces accords permettent aux organisations d’utiliser les capacités d’IA générative sans que leurs données privées soient conservées par les fournisseurs de LLM.

IA générative de confiance

Les solutions d’IA générative Einstein de Salesforce sont conçues, développées et livrées sur la base de nos cinq principes d’IA générative de confiance.

• Précision : Nous sauvegardons les réponses du modèle avec des explications et des sources dans la mesure du possible. Nous recommandons qu'un humain vérifie les réponses du modèle avant de les partager avec les utilisateurs dans la majorité des cas d'utilisation.
• Sécurité : Nous nous efforçons de détecter et d'atténuer les biais, la toxicité et les réactions nocives des modèles utilisés dans nos produits grâce à des techniques de détection et d'atténuation de pointe.
• Transparence : Nous nous assurons que nos modèles et fonctionnalités respectent la provenance des données et sont ancrés dans vos données dans la mesure du possible.
• Autonomisation : Nous croyons que nos produits devraient augmenter les capacités des personnes et les rendre plus efficaces et plus efficaces dans leur travail.
• Durabilité : Nous nous efforçons d'élaborer des modèles de taille adaptée qui donnent la priorité à la précision et réduisent notre empreinte carbone.

Examen des réponses de l’IA générative

L’IA générative est un outil qui vous aide à être plus créatif, productif et à prendre des décisions métiers plus intelligentes. Cette technologie ne remplace pas le jugement humain. Vous êtes responsable de toute réponse générée par le LLM que vous partagez avec vos clients. Que le texte soit généré par l'humain ou le LLM, vos clients l'associent à la marque de votre organisation et l'utilisent pour prendre des décisions. Par conséquent, il est important de s'assurer que les réponses générées par le LLM destinées à des audiences externes sont précises et utiles, et qu'elles reflètent les valeurs, la voix et le ton de votre entreprise.

Lorsque vos utilisateurs examinent les réponses générées pour des audiences externes, concentrez-vous sur la précision et la sécurité du contenu.

• Précision : L'IA générative peut parfois « halluciner », fabriquant des réponses qui ne sont pas fondées sur des faits ou des sources existantes. Avant de publier une réponse, vérifiez que les informations importantes sont correctes. Par exemple, la suggestion du service client est-elle basée sur un article Knowledge existant et à jour ?
• Biais et toxicité : Comme l’IA est créée par des êtres humains et entraînée à partir de données créées par des êtres humains, elle peut aussi contenir des biais contre des groupes historiquement marginalisés. Rarement, certaines réponses peuvent contenir un langage nuisible. Vérifiez vos réponses pour vous assurer qu'elles conviennent à vos clients.

Si la réponse ne répond pas à vos normes ou aux besoins métiers de votre entreprise, il n'est pas nécessaire de l'utiliser. Certaines solutions permettent aux utilisateurs de modifier directement la réponse. Sinon, il est préférable de recommencer et de générer une autre réponse.