Usted está aquí:
Uso Generador de solicitudes y Control de mediciones de comentarios
Monitorea la adopción y la calidad de plantillas de solicitudes Einstein específicas realizando un seguimiento de conteos de generación y comentarios enviados por usuarios.
Nombre de control
Uso del Generador de solicitudes Einstein y mediciones de comentarios
Descripción general de control
Monitorea la adopción y la calidad de plantillas de solicitudes Einstein específicas realizando un seguimiento de conteos de generación y comentarios enviados por usuarios.
Descripción
Activa la captura de datos de desempeño específicos de plantillas. Esto incluye la frecuencia con la que se desencadena una plantilla y los motivos de comentarios asociados.
Configuración recomendada
Desde Configuración, en el cuadro Búsqueda rápida, ingrese Einstein Audit y, a continuación, seleccione “Einstein Audit, Analytics and Monitoring Setup”. Active “Medición de comentarios y uso del Generador de solicitudes”. Asigne el permiso "Gestor de plantillas de solicitud" a los administradores para revisar estas mediciones.
Impacto de seguridad
Identifica variaciones en el desempeño de la IA donde las plantillas de solicitudes pueden empezar a producir respuestas de menor calidad o riesgosas debido a cambios en los datos de CRM subyacentes.
Repercusión de negocio
Permite un análisis del desempeño de las inversiones dirigido por datos de la IA generativa mostrando qué departamentos están utilizando actualmente las herramientas y qué plantillas requieren mejoras de ingeniería para ser útiles.
Riesgo de seguridad si no está configurado
Las compañías siguen desconociendo la efectividad de sus solicitudes. Los empleados pueden utilizar respuestas de IA de baja calidad o engañosas sin un bucle de comentarios formal para la corrección.
Escenarios de amenazas
Alucinaciones desapercibidas: Una plantilla genera datos incorrectos de forma coherente, pero como las mediciones están desactivadas, los administradores no saben que los usuarios están corrigiendo manualmente (o ignorando) la IA.
Intervalo de puntuaje de CVSS estimado
Crítico (9,0 a 10,0).
Consideraciones de impacto de riesgo
Alto impacto para compañías que amplían la IA entre equipos de gran tamaño donde la comprobación manual al contado de interacciones de IA ya no es factible. Con un mayor uso, la implementación de monitoreo regular de estos registros se convierte en un paso crucial para obtener el beneficio completo de esta función.
Mayor riesgo cuando
Los pasos de revisión/comentarios personalizados para las solicitudes no están configurados, dejando a los administradores con datos limitados pero sin contexto sobre por qué falló la respuesta.
Bajo riesgo cuando
Se implementó un proceso para revisar mediciones de uso de plantillas de solicitudes regularmente y las plantillas de mal desempeño se refinan de forma iterativa en un entorno sandbox.
Consideraciones de negocio e integración
Costos de almacenamiento: Estos datos consumen créditos de Data Cloud. Latencia: Los datos de auditoría pueden tardar hasta 24 horas en aparecer en reportes.
Directrices de revisión del estado de seguridad
Security Health Review verifica el estado "Activado" de las mediciones de comentarios y uso del Generador de solicitudes y marca instancias donde no se registran mediciones de uso de plantillas de solicitudes, evitando que la compañía mejore su seguridad de IA.
Quién se ve afectado
Responsables de gobernanza de datos, administradores de IA, gestores de servicio al cliente y auditores legales/de cumplimiento.
