Revisar la seguridad de plataforma fundacional de IA generativa

Obtenga información acerca de la seguridad de plataforma fundacional de IA generativa.

• Control de enmascaramiento de datos LLM (disponible para IA generativa no de Agentforce)
  Identifica y enmascara automáticamente datos confidenciales (PII, PCI, etc.) dentro de una solicitud antes de que se transmitan a un modelo de lenguaje grande (LLM) externo.
• Seguridad - Control de detección de toxicidad
  Explora automáticamente solicitudes de IA y respuestas generadas para identificar, marcar y puntuar lenguaje dañino en múltiples categorías (por ejemplo, discurso de odio, violencia, blasfemias).
• Seguridad - Control de detección de inyección rápida
  Detecta y mitiga ataques de inyección de solicitudes donde los usuarios intentan sobrescribir instrucciones del sistema para forzar la IA a comportamientos no intencionados o maliciosos.
• Control de configuración de Auditoría, Analytics y Supervisión de Einstein
  Centraliza el registro de solicitudes de IA generativa, respuestas LLM y comentarios de usuarios en Data Cloud para el cumplimiento, la auditoría y la optimización de modelos.
• Uso Generador de solicitudes y Control de mediciones de comentarios
  Supervisa la adopción y la calidad de plantillas de solicitudes de Einstein específicas realizando un seguimiento de recuentos de generación y comentarios enviados por usuarios.
• Einstein - Control de Agent Analytics
  Activa la recopilación y visualización continuas de interacciones de agentes autónomas, permitiendo el seguimiento del rendimiento y la medición del rendimiento de las inversiones (ROI).
• Auditoría y supervisión de Einstein - Control de rastreo de sesiones de Agentforce
  Registra la lógica paso a paso, el proceso de pensamiento y la secuencia de llamadas de herramientas de agentes autónomos para cada interacción.