Usted está aquí:
Seguridad: Control de detección de solicitudes de inyección
Detecta y mitiga ataques de inyección de solicitudes donde los usuarios intentan sobrescribir instrucciones del sistema para forzar la IA a comportamientos no intencionados o malintencionados.
Nombre de control
Capa Einstein Trust: Detección de solicitudes de inyección
Descripción general de control
Detecta y mitiga ataques de inyección de solicitudes donde los usuarios intentan sobrescribir instrucciones del sistema para forzar la IA a comportamientos no intencionados o malintencionados.
Descripción
Monitorea la trayectoria de la solicitud para identificar patrones contradictorios, como comandos "ignorar instrucciones anteriores" o "sustitución del sistema", bloqueando o marcando la solicitud antes de que alcance el LLM.
Configuración recomendada
Active "Solicitud de detección de inyección" en la configuración de Capa de Einstein Trust. Asegúrese de que el Seguimiento de auditoría de Einstein está activado para registrar eventos para intentos de inyección.
Impacto de seguridad
Evita que un usuario reprograme la IA para filtrar datos internos, generar contenido prohibido o omitir los límites éticos establecidos en la Plantilla de solicitud.
Repercusión de negocio
Mantiene la integridad de los procesos de negocio dirigidos por IA y evita interrupciones operativas causadas por usuarios que manipulan la lógica de IA para obtener beneficios personales o malintencionados.
Riesgo de seguridad si no está configurado
El LLM puede seguir instrucciones de usuario malintencionadas sobre la Solicitud del sistema, lo que lleva a la revelación de datos no autorizada, ingeniería social o la ejecución de flujos de trabajo no autorizados.
Escenarios de amenazas
Solicitud de inyección: Un usuario engaña a la IA para que realice acciones no deseadas, lo que lleva a la fuga de datos.
Intervalo de puntuaje de CVSS estimado
Crítico (9,0 a 10,0).
Consideraciones de impacto de riesgo
Riesgo extremo para flujos de trabajo de agentes donde la IA puede ejecutar acciones (por ejemplo, actualización de registros o envío de emails) basándose en solicitudes de usuario.
Mayor riesgo cuando
Uso de LLM externos/externos sin el intermediario de Salesforce Trust Layer, o cuando las plantillas de solicitud están mal construidas con menos contexto.
Bajo riesgo cuando
La detección de solicitudes de inyección está activa, la organización utiliza modelos alojados en Salesforce (que tienen defensa integrada) y Mínimo privilegio se aplica al acceso de datos de la IA.
Consideraciones de negocio e integración
La detección estricta puede ocasionalmente marcar solicitudes de usuario legítimas y complejas como adversarias. Los administradores deben monitorear los datos de comentarios de auditoría de Einstein Trust Layer para ajustar la confidencialidad.
Directrices de revisión del estado de seguridad
Security Health Review explora la Configuración de Einstein Trust Layer para confirmar que la detección de inyección rápida está activada.
Quién se ve afectado
Equipos de seguridad, arquitectos de IA, desarrolladores y usuarios finales que interactúan con Generador de solicitudes o agentes Agentforce.
