Guide du marketeur de l'utilisation fiable d'Einstein

Notre approche approuvée et transparente

Chez Salesforce, nous nous engageons à développer une technologie éthique et inclusive. Compte tenu des opportunités et des défis considérables qui émergent dans le domaine de l’IA générative, Salesforce élabore ses Principes d’IA de confiance avec de nouvelles instructions axées sur l’implémentation et le développement responsable de l’IA générative. Les cinq principes utilisés par Salesforce pour le développement de l’IA générative de confiance sont la précision, la sécurité, l’honnêteté, la responsabilité et le développement durable. Dans le cadre de notre engagement envers l’utilisation éthique des technologies, notre équipe Research & Insights a collaboré avec nos équipes produit Marketing Cloud Engagement et le Bureau de l’utilisation éthique et humaine pour publier nos principes marketing responsables. Le document des principes présente certains outils que nous avons développés pour aider nos employés, clients et partenaires à utiliser l'IA de façon plus responsable, précise et éthique.

Utilisation en toute confiance de l’IA générative Einstein

Chez Salesforce, la confiance est notre première valeur. Pour protéger vos données, Salesforce a conclu des accords avec des fournisseurs de modèles de LLM (large language model) comme OpenAI. Ces accords permettent aux organisations d’utiliser les fonctionnalités de l’IA générative sans que leurs données privées ne soient conservées par les fournisseurs de LLM.

Dans Marketing Cloud Engagement, utilisez l'IA générative Einstein pour créer en toute sécurité des lignes d'objet et des copies de corps dans les Connaissances de copie Einstein et dans le Générateur de contenu.

Utilisation de cartes de modèle pour comprendre le fonctionnement des modèles Einstein

Les consommateurs et les marketeurs souhaitent connaître le comportement d'un modèle en fonction de sa prédiction et recommandation afin de faire confiance au modèle. Les cartes de modèle Einstein fournissent des informations critiques sur les entrées et les sorties des modèles, les conditions dans lesquelles les modèles fonctionnent le mieux et les considérations éthiques relatives à leur utilisation. Ces cartes répondent à des questions sur l'utilisation prévue des modèles et sur les biais éventuels à prendre en compte. Cette transparence aide les développeurs, clients, décideurs, etc. à mieux comprendre l'impact de notre IA sur les individus, les communautés et la société. Pour plus d'informations, consultez les cartes de modèle ci-dessous.

• Optimisation de l'heure d'envoi Einstein pour E-mail détermine l’heure optimale pour envoyer un e-mail à un abonné pour optimiser la probabilité que l’abonné ouvre l’e-mail.
• Optimisation de l'heure d'envoi Einstein pour Mobile détermine l’heure optimale pour envoyer un message mobile pour optimiser la probabilité qu’un abonné interagisse avec le message.
• Scores d'engagement Einstein pour Mobile évalue l’enregistrement d’engagement de chaque contact pour attribuer des scores pour la probabilité que le contact interagisse avec les messages mobiles.
• Connaissances de messagerie Einstein surveille les taux d’engagement du message et informe les marketeurs lorsque des anomalies sont détectées dans leurs performances marketing.
• Fréquence d'engagement Einstein analyse l’enregistrement d’engagement de chaque contact pour déterminer la fréquence optimale à laquelle envoyer des e-mails à ce contact.
• Outil de test des lignes d'objet Einstein évalue l’engagement des contacts sur la base des lignes d’objet des e-mails.

Vérification des scores de qualité des données pour s'assurer que vos données sont prêtes pour l'IA

Utilisez les scores de qualité des données comme indicateurs pour déterminer si vos données sont prêtes pour des prédictions précises d'Einstein. Avec n'importe quel modèle IA, la qualité de la sortie dépend de la qualité, de la représentabilité et de la fiabilité de l'entrée. Les scores de qualité des données indiquent si les données sont de bonne ou de mauvaise qualité, la raison et fournissent des conseils généraux pour l’amélioration.

• Évaluation de la qualité des données de votre Score d'engagement Einstein
• Évaluation de la qualité des données de votre Fréquence d'engagement Einstein
• Évaluation de la qualité de vos données d'optimisation de l'heure d'envoi Einstein

Examen des indicateurs de biais afin d’empêcher les impacts potentiellement disparates

Les indicateurs de biais indiquent quand les entrées sélectionnées peuvent introduire des biais dans le modèle. Par exemple, la Sélection du contenu Einstein utilise des indicateurs de biais pour signaler les attributs potentiellement sensibles dans les données de profil. Et dans l’outil de test des lignes d’objet Einstein, les indicateurs de biais signalent lorsque des mots ou des expressions d'un échantillon peuvent être considérés comme sensibles. Les biais sont contextuels et reposent sur les normes du secteur et les cas d'utilisation. Einstein met en évidence les biais potentiels afin de vous permettre d’évaluer comment procéder en fonction du contexte.

• Identification des attributs qui peuvent introduire des biais
• Test d’une ligne d'objet avant l’envoi

Appel à l'action

Pour optimiser vos efforts marketing, utilisez ces invites pour approfondir la réflexion et la discussion. Les questions ne sont pas exhaustives et ne s'appliquent pas à l'ensemble des organisations, des équipes, des produits ou des fonctionnalités.

• Vos jeux de données de formation et d'évaluation sont-ils représentatifs de votre population client ? Comment le savez-vous ?
• Avez-vous évalué vos jeux de données et vos modèles pour les biais ?
• Si vous avez des critères de lancement, votre modèle remplit-il ces critères pour divers sous-groupes de population ?
• Votre modèle présente-t-il des performances similaires pour les différents sous-groupes de population ou ses performances sont-elles moins bonnes pour un groupe par rapport à un autre ?
• Utilisez-vous l’IA pour extraire des informations sensibles sur vos utilisateurs, telles que l’âge, le sexe, l’état de santé, l’orientation sexuelle, l’appartenance politique, le statut financier ou les condamnations pénales ?
• Collectez-vous et utilisez-vous des données confidentielles uniquement lorsque nécessaire et lorsque les données peuvent être utiles au client ?
• Utilisez-vous inutilement des proxies de données confidentielles, tels qu’un prénom ou une formule de salutation associé au sexe, ou un code a postal pouvant être associé à une race ?
• Permettez-vous aux clients de contrôler les données que vous collectez et respectez-vous leurs préférences ?
• Décrivez-vous les avantages que les clients reçoivent en échange de l'utilisation de leurs données ?

Résumé

L’utilisation éthique de l'IA est un problème toujours plus complexe à résoudre pour garantir son caractère sûr et inclusif pour tous. Les cartes de modèle, les scores de qualité des données et les indicateurs de biais sont quelques exemples des façons dont nous infusons une éthique dans nos pratiques d’IA chez Salesforce.

Ressources

• Salesforce Responsible AI in Marketing
• Salesforce Responsible Creation of AI Trailhead
• Salesforce AI Ethics Blog
• Salesforce Artificial Intelligence Acceptable Use Policy (en anglais)

Rejoignez-nous

Si vous souhaitez participer à la recherche utilisateur Salesforce, inscrivez-vous à notre programme de recherche, et influencez la conception et la direction des produits. Si vous avez besoin d'une incitation supplémentaire, nous offrons presque toujours un cadeau de remerciement !

Contactez-nous

Si vous avez des questions sur l'utilisation éthique d'Einstein, contactez votre chargé de compte Salesforce, ou envoyez un e-mail buildwithintention@salesforce.com. Une équipe surveille cette boîte de réception et répond généralement sous 72 heures.