Usted está aquí:
Configuración de Auditoría, Analytics y Supervisión de Einstein
Centraliza el registro de solicitudes de IA generativa, respuestas LLM y comentarios de usuarios en Data Cloud para el cumplimiento, la auditoría y la optimización de modelos.
Nombre de control
Capa Einstein Trust - Datos de auditoría y comentarios
Descripción general de control
Centraliza el registro de solicitudes de IA generativa, respuestas LLM y comentarios de usuarios en Data Cloud para el cumplimiento, la auditoría y la optimización de modelos.
Descripción
Permite el almacenamiento permanente de señales de Trust Layer y los comentarios del usuario, moviendo datos desde la memoria transitoria a objetos de modelo de datos persistentes (DMO); permitiendo a los administradores supervisar el rendimiento y la precisión de los agentes.
Configuración recomendada
Vaya a Configuración de Auditoría, Analytics y Supervisión de Einstein. Active "Recopilar y almacenar datos de auditoría de IA generativa Einstein" y "Capturar comentarios de usuarios". Asegúrese de que Data Cloud está completamente aprovisionado para alojar estas transmisiones de datos.
Repercusión en la seguridad
Proporciona el seguimiento forense necesario para investigar la precisión, el rendimiento, las fugas de datos o las interacciones tóxicas, para asegurarse de que la empresa cumple sus requisitos basándose en sus casos de uso.
Repercusión comercial
Crea un repositorio central de registros para sus agentes donde se utilizan los comentarios y datos de usuarios reales para refinar plantillas de solicitudes e instrucciones de agentes.
Riesgo de seguridad si no está configurado
Si un agente proporciona asesoramiento incorrecto o dañino, no hay un registro permanente para diagnosticar la causa o probar lo que se dijo.
Escenarios de amenazas
Déficit de rendición de cuentas: Ausencia de registros para verificar la interacción en caso de conflictos. Puntos ciegos: El sesgo sistemático en las respuestas de IA no se detecta durante meses.
Intervalo de puntuación de CVSS estimado
Crítico (9,0 a 10,0).
Consideraciones sobre el impacto del riesgo
La activación de esta configuración captura los datos de comentarios y auditoría relevantes. Sin embargo, los clientes deben implementar controles de alerta y supervisión apropiados para asegurarse de que se notifican anomalías relevantes y se solucionan los falsos positivos para reducir el ruido.
Riesgo más alto cuando
La recopilación de datos de auditoría no está activada para guardar en créditos de Data Cloud, o cuando se recopilan comentarios pero nunca los revisa una persona al día.
Bajo riesgo cuando
Los clientes han implementado procedimientos de registro de auditoría personalizados donde se registran interacciones de agentes para inyección rápida, detección de toxicidad y otras funciones para supervisar el rendimiento y la precisión.
Consideraciones comerciales y de integración
Costes de almacenamiento: Estos datos consumen créditos de Data Cloud. Latencia: Los datos de auditoría pueden tardar hasta 24 horas en aparecer en los informes.
Directrices de revisión del estado de seguridad
Security Health Review verifica el estado "Activado" del conmutador Datos de auditoría y marca instancias donde los bucles de comentarios están inactivos, evitando que la empresa mejore su seguridad de IA.
Quién se ve afectado
Responsables de gobernanza de datos, administradores de IA, gestores de servicio al cliente y auditores legales/de cumplimiento.
