Вы находитесь здесь:
Слой Trust Einstein: Создано для Trust
Слой Einstein Trust — это коллекция функций, процессов и политик, предназначенных для защиты конфиденциальности данных, повышения точности искусственного интеллекта и поощрения ответственного использования искусственного интеллекта во всей экосистеме Salesforce.
Требуемые версии
| Доступно в версиях: Enterprise, Performance и Unlimited Edition с надстройкой Einstein for Sales, Einstein for Platform, Einstein for Service, Einstein 1 Service или Einstein GPT Service. Чтобы приобрести дополнительные компоненты, обратитесь к менеджеру по работе с клиентами Salesforce. |
Чтобы понять, как работает слой Einstein Trust, рассмотрим, как данные проходят через слой Trust, а потом подробно пройдемся по каждой части пути.
- Данные в виде напоминания поступают из приложений CRM, через слой Einstein Trust, в широкоязыковую модель (LLM), которую мы назовем путешествием.
- LLM создает ответ посредством напоминания, которое мы будем называть созданием ответа.
- Созданный ответ потом поступает обратно через слой Einstein Trust и обратно в приложения CRM, которые мы назовем путешествием ответа.
Как это работает?
Напоминание о путешествии
Чтобы создать ответ из LLM, необходимо предоставить ему напоминание. Напоминание может поступать из любого приложения CRM. Вы можете создать напоминание в Конструкторе подсказок и вызвать его из Apex или потока.
Безопасное извлечение и заземление данных
Первый шаг в слое Trust - безопасное извлечение данных. Чтобы LLM мог создать более актуальный и персонализированный ответ, он требует дополнительного контекста из данных CRM. Этот процесс добавления дополнительного контекста к напоминанию называется заземлением. Напоминания можно заземлить посредством полей слияния с данными CRM, которыми могут быть поля записей, потоки, Apex, DMO Data 360 и связанные списки.
Безопасное извлечение данных означает, что напоминание основано только на данных, к которым у пользователя-исполнителя есть доступ.
Процесс извлечения данных учитывает существующие элементы управления доступом и полномочия в Salesforce:
- Извлечение данных для закрытия напоминания основано на полномочиях пользователя, выполняющего напоминание.
- Извлечение данных для заземления напоминания сохраняет все стандартные ролевые элементы управления Salesforce для полномочий пользователя и безопасности поля при заземлении данных из экземпляра CRM.
Заземление динамическое, поскольку заземление происходит во время выполнения и зависит от доступа пользователя.
Маскировка данных для LLM
Политики слоя Einstein Trust включают маскировку данных, когда конфиденциальные данные обнаруживаются, а потом маскируются. Конфиденциальные данные определяются двумя методами:
- На основе схемы: Мы используем схемы и контекст для идентификации конфиденциальных данных в тексте напоминания. В частности, используются схемы регулярных выражений (регекс) и контекстные слова. Мы также используем модели компьютерного обучения, обученные для определения данных, не имеющих определенной схемы, например, имена людей или компаний.
- На основе поля: Мы используем метаданные в полях, которые классифицируются посредством Shield Platform Encryption или классификации данных для идентификации конфиденциальных полей. Это расширяет классификацию, уже примененную к данным в вашей организации, на маскировку данных LLM.
После идентификации данные потом маскируются текстом структурного нуля, чтобы предотвратить открытие данных внешним моделям. Einstein Trust Layer временно сохраняет взаимосвязь между исходными объектами и соответствующими структурными нулями. Взаимосвязь используется позже для маскировки данных в созданном ответе.
Защита напоминания
Чтобы помочь уменьшить вероятность того, что LLM создаст что-то непреднамеренное или вредное, Конструктор подсказок и шаблон подсказок Connect API используют системные политики. Системные политики - это набор инструкций к LLM, как вести себя определенным образом, чтобы создать Trust с пользователями. Например, мы можем сообщить LLM, чтобы он не рассматривал содержимое или не создавал ответы, о которых у него нет информации. Системные политики — это один из способов защиты от взлома и инъекционных атак.
Создание ответа
После полного увлажнения и обеспечения безопасности напоминание будет готово к отправке через шлюз LLM. Шлюз управляет взаимодействиями с разными поставщиками модели и представляет собой единый безопасный способ связи с несколькими LLM. Шлюз и поставщики модели используют шифрование TLS для обеспечения безопасности данных во время транзита.
Модели, созданные или настроенные Salesforce, размещаются в границе Salesforce Trust. Внешние модели, созданные и поддерживаемые сторонними поставщиками, например, OpenAI, находятся в общей границе Trust. Модели, созданные и поддерживаемые вами, размещаются в вашей инфраструктуре.
У нас есть политика нулевой сохранности данных с поставщиками моделей внешних партнеров, например, OpenAI или Azure OpenAI. Политика гласит, что данные, отправленные в LLM из Salesforce, не сохраняются и удаляются после обратной отправки ответа в Salesforce.
Слой Trust Einstein: Путешествие ответа
Когда созданный ответ возвращается из модели большого языка, слой Einstein Trust применяет определенные политики и процессы, чтобы убедиться в безопасности и полезности ответа. See Einstein Trust Layer: Путешествие ответа.
