Trust y Agentforce
Con Salesforce, es fácil crear agentes de IA seguros porque los agentes están diseñados para ayudar a mitigar los riesgos asociados con la tecnología de IA generativa.
Ediciones necesarias
| Disponible en: Lightning Experience |
| Disponible en: Enterprise Edition, Performance Edition, Unlimited Edition y Developer Edition. Las licencias complementarias requeridas varían según el tipo de agente. |
La plataforma Agentforce está integrada con la capa Einstein Trust, y la función incluye barandillas de protección de IA. Los agentes también respetan los controles de acceso estándar de Salesforce.
Capa Einstein Trust
Agentforce está integrado con Einstein Trust Layer, que es una arquitectura de IA segura creada de forma nativa en Salesforce.
Diseñada para estándares de seguridad empresarial, Trust Layer le permite beneficiarse de la IA generativa sin comprometer los datos de sus clientes. También le permite utilizar datos de confianza para mejorar respuestas de IA generativa.
| Servicio Capa Einstein Trust | Descripción |
|---|---|
| Política de retención de datos cero | Capa Einstein Trust utiliza una política de retención de datos cero, de modo que no se almacenan datos o se utilizan para la formación de modelos por LLM externos. El uso de otras funciones por parte de los clientes, incluyendo agentes, puede dar como resultado el almacenamiento de datos. Si desea más información, póngase en contacto con su ejecutivo de cuentas de Salesforce. |
| Fundamentación dinámica con recuperación de datos segura | La información relevante de los datos de confianza de la empresa, su base Knowledge u otras fuentes que configure se utiliza para responder a una pregunta. |
| Defensa de solicitudes (Políticas del sistema y detección de solicitudes de inyección) | Las políticas del sistema ayudan a limitar las alucinaciones y disminuyen la posibilidad de resultados no deseados o dañinos por el LLM. |
| Detección de toxicidad | Las respuestas LLM potencialmente dañinas se detectan y se marcan. |
| Auditoría y comentarios | Las solicitudes, respuestas y señales Trust se registran y almacenan en Data 360, lo que le proporciona visibilidad de los resultados de cada interacción de usuario. Los comentarios se pueden utilizar para mejorar instrucciones, plantillas de solicitudes y mucho más. |
El enmascaramiento de datos a través de la Capa Einstein Trust está desactivado para mejorar el rendimiento y la precisión de los agentes. Todos los datos a los que acceden los agentes, incluyendo la información de identificación personal (PII), están protegidos en tránsito y no se almacenan ni se utilizan con fines de formación por proveedores LLM externos, como parte de nuestra estricta política de retención de datos cero. Consulte Limitaciones de enmascaramiento de datos en Agentforce.
Barandillas de IA
La plataforma Agentforce incluye barandillas éticas para minimizar las alucinaciones de IA y barandillas de seguridad para evitar amenazas y ataques malintencionados, como inyecciones rápidas.
Para un control más granular, utilice instrucciones de subagentes de agentes para crear límites, establecer contexto y definir el comportamiento de los agentes. Puede modificar las instrucciones para un subagente de agente estándar o puede crear un subagente personalizado desde cero. Utilice el cumplimiento de instrucciones para ver lo bien que el agente está interpretando y siguiendo las instrucciones del subagente.
Los diferentes tipos de agentes pueden tener sus propios parámetros y barandillas para definir el comportamiento de los agentes. Por ejemplo, las plantillas Agente de servicio Agentforce utilizan instrucciones de subagente para determinar cuándo distribuir una conversación del agente a un representante de servicio. El tipo de agente de DEG tiene reglas de implicación definidas por el administrador para las condiciones cuando el agente puede empezar a trabajar en el candidato y cómo y cuándo se pueden enviar mensajes de correo electrónico de agentes.
Permisos y acceso
Los agentes de IA respetan los controles de acceso estándar de Salesforce como licencias, permisos, seguridad a nivel de campo y configuración de colaboración, de modo que un agente siempre actúa de forma segura.
- Tipos de agentes: El agente predeterminado Agentforce está disponible para administradores y usuarios con los conjuntos de permisos Predeterminado de Agentforce. Algunos tipos de agentes están creados para funcionar con licencias o nubes específicas, de modo que requieren otra licencia.
- Subagentes de agentes estándar: Muchos subagentes estándar están disponibles para todos los usuarios que tienen permiso para acceder al agente Agentforce predeterminado.
- Acciones de agentes estándar: Muchas acciones estándar están disponibles para todos los usuarios que tienen permiso para acceder al agente Agentforce predeterminado. Algunas acciones estándar se crean para funcionar con nubes o productos específicos, de modo que requieren otra licencia o permiso.
- Acciones de agente personalizadas: El acceso a una acción personalizada depende de la clase, el flujo o la plantilla de solicitud de Apex a la que hace referencia la acción. Por ejemplo, si una acción personalizada se crea utilizando un flujo, la acción personalizada se adhiere a los permisos, la seguridad a nivel de campo y los parámetros de colaboración configurados en el flujo.
Direcciones URL de confianza
Agentforce aplica la lista de admisión de URL de confianza de su negocio. Esto evita que su agente llame o genere vínculos maliciosos y mantiene sus datos confidenciales seguros.
Cuando un agente intenta incluir una URL no aprobada en una respuesta, la URL no aprobada se sustituye por “URL_Redacted”. También mostramos un mensaje de error en el lienzo del plan cuando el agente intenta llamar o generar una URL no aprobada, de modo que puede evaluar si una URL bloqueada debe incluirse en la lista de admisión o eliminarse de la configuración de su agente.
Cuando se configuran citas para su agente, las direcciones URL de origen utilizadas para generar respuestas de agentes se muestran en la conversación del agente, incluso si el dominio no está incluido en sus direcciones URL de confianza.
Para utilizar una URL con un agente, agréguela a sus URL de confianza.
Cumplimiento de agentes
Agentforce se incluye como un Servicio cubierto en los informes de Einstein Platform y Agentforce SOC 2 y SOC 3. Agentforce es apto para la HIPAA y está cubierto por las Restricciones de adiciones de socios comerciales de Salesforce, y también ha alcanzado las certificaciones ISO 27001, 27017 y 27018.
- Limitaciones de enmascaramiento de datos en Agentforce
En Capa Einstein Trust, el enmascaramiento de datos basado en patrones y basado en campos para modelos de idiomas grandes (LLM) está desactivado para agentes.
