Einstein Generative AI & Trust

Генерационный искусственный интеллект Einstein и ваши данные

В Salesforce Trust - это наше значение No1. Чтобы обезопасить данные, Salesforce заключил соглашения с поставщиками широкоязычной модели (LLM), например, OpenAI. Эти соглашения позволяют организациям использовать генерирующие возможности искусственного интеллекта без сохранения их личных данных поставщиками LLM.

Надежный генеративный искусственный интеллект

Решения на основе генеративного искусственного интеллекта Einstein от Salesforce разрабатываются, разрабатываются и предоставляются на основе наших пяти принципов надежного генеративного искусственного интеллекта.

• Точность: При любой возможности ответы модели подкрепляются пояснениями и источниками. Рекомендуем, чтобы человек проверял ответы модели перед предоставлением общего доступа конечным пользователям для большинства сценариев использования.
• Безопасность: Мы работаем над обнаружением и уменьшением предвзятости, токсичности и вредных реакций от моделей, используемых в наших продуктах посредством ведущих отраслевых методов обнаружения и смягчения.
• Прозрачность: Мы гарантируем, что наши модели и функции учитывают происхождение данных и основаны на ваших данных при любой возможности.
• Расширение возможностей: Мы считаем, что наши продукты должны расширить возможности людей и сделать их более эффективными и целенаправленными в работе.
• Устойчивость: Мы стремимся к созданию моделей правильного размера, которые ставят во главу угла точность и уменьшают выброс углекислого газа.

Проверка генерируемых ответов на основе искусственного интеллекта

Поколенческий искусственный интеллект - это инструмент, который помогает быть более творческим, продуктивным и принимать более интеллектуальные бизнес-решения. Эта технология не заменяет человеческого суждения. Вы несете конечную ответственность за любой созданный LLM ответ, которым вы делитесь с клиентами. Независимо от того, создан ли текст человеком или LLM, клиенты связывают его с фирменным стилем организации и используют для принятия решений. Поэтому важно убедиться, что ответы, созданные LLM для внешней аудитории, точны и полезны и соответствуют ценностям, голосу и тону вашей компании.

Когда конечные пользователи просматривают созданные ответы для внешней аудитории, сосредоточьтесь на точности и безопасности содержимого.

• Точность: Генеративный искусственный интеллект может иногда «галлюцинировать» — фабриковать ответы, которые не основаны на факте или существующих источниках. Прежде чем опубликовать ответ, проверьте правильность ключевых сведений. Например, основано ли предложение службы поддержки на существующей и актуальной статье Knowledge?
• Предвзятость и токсичность: Поскольку искусственный интеллект создается людьми и обучается на основе данных, созданных людьми, он также может содержать предвзятое отношение к исторически маргинализированным группам. В редких случаях некоторые ответы могут содержать вредные выражения. Проверьте ответы, чтобы убедиться, что они подходят клиентам.

Если ответ не соответствует вашим стандартам или бизнес-потребностям вашей компании, его не нужно использовать. Некоторые решения позволяют конечным пользователям напрямую редактировать ответ, а если нет, лучше начать сначала и создать еще один ответ.