Usted está aquí:
Seguridad - Detección de inyección rápida
Detecta y mitiga ataques de inyección de solicitudes donde los usuarios intentan sobrescribir instrucciones del sistema para forzar la IA a comportamientos no intencionados o maliciosos.
Nombre de control
Capa Einstein Trust - Detección de solicitudes de inyección
Descripción general de control
Detecta y mitiga ataques de inyección de solicitudes donde los usuarios intentan sobrescribir instrucciones del sistema para forzar la IA a comportamientos no intencionados o maliciosos.
Descripción
Supervisa la trayectoria de la solicitud para identificar patrones contradictorios, como comandos "ignorar instrucciones anteriores" o "sustitución del sistema", bloqueando o marcando la solicitud antes de que alcance el LLM.
Configuración recomendada
Active "Detección de inyección de solicitud" en la configuración de Capa Einstein Trust. Asegúrese de que Seguimiento de auditoría de Einstein está activado para registrar eventos para intentos de inyección.
Repercusión en la seguridad
Evita que un usuario reprograme la IA para filtrar datos internos, generar contenido prohibido o omitir los límites éticos establecidos en la Plantilla de solicitud.
Repercusión comercial
Mantiene la integridad de los procesos comerciales dirigidos por IA y evita interrupciones operativas causadas por usuarios que manipulan la lógica de IA para obtener beneficios personales o maliciosos.
Riesgo de seguridad si no está configurado
El LLM puede seguir instrucciones de usuario maliciosas a través de la Solicitud del sistema, lo que lleva a revelación de datos no autorizada, ingeniería social o la ejecución de flujos de trabajo no autorizados.
Escenarios de amenazas
Solicitud de inyección: Un usuario engaña a la IA para que realice acciones no deseadas, lo que lleva a la fuga de datos.
Intervalo de puntuación de CVSS estimado
Crítico (9,0 a 10,0).
Consideraciones sobre el impacto del riesgo
Riesgo extremo para flujos de trabajo de agentes donde la IA puede ejecutar acciones (por ejemplo, actualizar registros o enviar correos electrónicos) basándose en solicitudes de usuario.
Riesgo más alto cuando
Utilizar LLM externos/terceros sin el intermediario de Salesforce Trust Layer, o cuando las plantillas de solicitud están mal construidas con menos contexto.
Bajo riesgo cuando
La detección de solicitudes de inyección está activa, la organización utiliza modelos alojados en Salesforce (que tienen defensa integrada) y se aplica Mínimo privilegio al acceso de datos de la IA.
Consideraciones comerciales y de integración
La detección estricta puede ocasionalmente marcar solicitudes de usuario complejas y legítimas como adversarias. Los administradores deben supervisar los datos de comentarios de auditoría de Capa de Einstein Trust para ajustar la confidencialidad.
Directrices de revisión del estado de seguridad
Security Health Review explora la Configuración de la capa Einstein Trust para confirmar que la detección de inyección rápida está activada.
Quién se ve afectado
Equipos de seguridad, arquitectos de IA, desarrolladores y usuarios finales que interactúan con Generador de solicitudes o agentes Agentforce.
