Seguridad de plataforma fundacional de IA generativa

Obtenga información acerca de la seguridad de plataforma fundacional de IA generativa.

• Enmascaramiento de datos LLM (Disponible para IA generativa no de Agentforce)
  Identifica y enmascara automáticamente datos confidenciales (PII, PCI, etc.) dentro de una solicitud antes de que se transmitan a un modelo de lenguaje grande (LLM) externo.
• Seguridad - Detección de toxicidad
  Explora automáticamente solicitudes de IA y respuestas generadas para identificar, marcar y puntuar lenguaje dañino entre múltiples categorías (por ejemplo, discurso de odio, violencia, blasfemias).
• Seguridad: detección de inyección rápida
  Detecta y mitiga ataques de inyección de solicitudes donde los usuarios intentan sobrescribir instrucciones del sistema para forzar la IA a comportamientos no intencionados o malintencionados.
• Configuración de Auditoría, Analytics y Monitoreo de Einstein
  Centraliza el registro de solicitudes de IA generativa, respuestas LLM y comentarios de usuarios en Data Cloud para el cumplimiento, la auditoría y la optimización de modelos.
• Uso Generador de solicitudes y mediciones de comentarios
  Monitorea la adopción y la calidad de plantillas de solicitudes Einstein específicas realizando un seguimiento de conteos de generación y comentarios enviados por usuarios.
• Einstein - Agent Analytics
  Activa la recopilación y visualización continuas de interacciones de agentes autónomas, permitiendo el seguimiento del desempeño y la medición del desempeño de las inversiones (ROI).
• Auditoría y monitoreo de Einstein - Rastreo de sesiones Agentforce
  Registra la lógica paso a paso, el proceso de pensamiento y la secuencia de llamadas de herramientas de agentes autónomos para cada interacción.