Вы находитесь здесь:
Контроль настройки Einstein Audit, Analytics и Monitoring
Централизация регистрации напоминаний генерирующего искусственного интеллекта, ответов LLM и отзывов пользователей в Data Cloud для соответствия, аудита и оптимизации модели.
Управление именем
Einstein Trust Layer - Аудит и данные отзывов
Общие сведения о контроле
Централизация регистрации напоминаний генерирующего искусственного интеллекта, ответов LLM и отзывов пользователей в Data Cloud для соответствия, аудита и оптимизации модели.
Описание
Включает постоянное хранение сигналов Trust Layer и отзывов пользователей, перемещая данные из переходной памяти в постоянные объекты модели данных (DMO); позволяя администраторам отслеживать производительность и точность агентов.
Рекомендованная конфигурация
Перейдите в раздел «Настройка Einstein Audit, Analytics и Monitoring». Включите «Сбор и хранение данных аудита генеративного искусственного интеллекта Einstein» и «Сбор отзывов пользователей». Убедитесь, что Data Cloud полностью инициализирован для размещения данных потоков данных.
Влияние на безопасность
Предоставляет криминалистический журнал, необходимый для исследования точности, производительности, утечек данных или токсичных взаимодействий, чтобы убедиться, что компания соответствует ее требованиям на основе способов использования.
Влияние на бизнес
Создает центральное хранилище журналов для агентов, где отзывы и данные реальных пользователей используются для настройки шаблонов напоминаний и инструкций агентов.
Риск безопасности, если он не настроен
Если агент предоставляет неправильные или вредные советы, не существует постоянной записи для диагностики причины или подтверждения сказанного.
Сценарии угроз
Пробел в подотчетности: Отсутствие журналов для проверки взаимодействия в случае конфликтов. Слепые зоны: Систематическая предвзятость в ответах на основе искусственного интеллекта остается незамеченной на протяжении нескольких месяцев.
Примерный диапазон оценки CVSS
Критические (9,0-10,0).
Рекомендации по влиянию риска
Включение этой конфигурации собирает соответствующие данные аудита и отзывов. Однако, клиенты должны внедрить соответствующие средства оповещения и мониторинга, чтобы обеспечить сообщение о соответствующих аномалиях и устранение ложных положительных результатов для уменьшения шума.
Повышенный риск при
Сбор контрольных данных не поддерживается для сохранения кредитов Data Cloud или при сборе отзывов, но не проверяется человеком в цикле.
Низкий риск при
Клиенты внедрили настраиваемые процедуры регистрации аудита, когда взаимодействия агентов регистрируются для быстрого введения, обнаружения токсичности и других возможностей для мониторинга производительности и точности.
Рекомендации по бизнесу и интеграции
Расходы на хранение: Эти данные используют кредиты Data Cloud. Задержка: Данные аудита могут отображаться в отчетах до 24 часов.
Руководство по проверке состояния безопасности
Проверка состояния безопасности проверяет статус «Включено» переключателя «Аудиторские данные» и отмечает случаи, когда циклы обратной связи неактивны, предотвращая повышение безопасности искусственного интеллекта компанией.
На кого влияет
Сотрудники по управлению данными, администраторы на основе искусственного интеллекта, менеджеры по обслуживанию клиентов и юристы/ревизоры соответствия.
