Безопасность базовой платформы искусственного интеллекта

Узнайте о безопасности базовой платформы на основе искусственного интеллекта.

• Маскировка данных LLM (доступно для генеративного искусственного интеллекта не Agentforce)
  Автоматически определяет и маскирует конфиденциальные данные (PII, PCI и т. д.) в напоминании перед их передачей во внешнюю широкоязычную модель (LLM).
• Безопасность и защита - обнаружение токсичности
  Автоматически сканирует подсказки на основе искусственного интеллекта и созданные ответы для определения, обозначения и оценки вредных выражений в нескольких категориях (например, ненавистнические высказывания, насилие, нецензурная лексика).
• Безопасность и защита - Оперативное обнаружение инъекций
  Обнаружение и смягчение инъекционных атак, когда пользователи пытаются перезаписать системные инструкции для принуждения искусственного интеллекта к непреднамеренным или злонамеренным действиям.
• Настройка аудита, аналитики и мониторинга Einstein
  Централизация регистрации напоминаний генерирующего искусственного интеллекта, ответов LLM и отзывов пользователей в Data Cloud для соответствия, аудита и оптимизации модели.
• Использование Конструктора подсказок и показатели отзывов
  Отслеживание внедрения и качества определенных шаблонов напоминаний Einstein посредством отслеживания количества созданий и отправленных пользователем отзывов.
• Einstein - Agent Analytics
  Активирует непрерывный сбор и визуализацию взаимодействий автономного агента, включая отслеживание производительности и измерение рентабельности инвестиций.
• Аудит и мониторинг Einstein - отслеживание сеансов Agentforce
  Записывает пошаговую логику, мыслительный процесс и последовательность вызовов инструментов автономных агентов для каждого взаимодействия.