Você está aqui:
Configuração de auditoria, análise e monitoramento do Einstein
Centraliza o registro de avisos de IA generativa, respostas do LLM e feedback do usuário no Data Cloud para conformidade, auditoria e otimização de modelo.
Nome do controle
Camada do Einstein Trust - Dados de auditoria e feedback
Visão geral de controle
Centraliza o registro de avisos de IA generativa, respostas do LLM e feedback do usuário no Data Cloud para conformidade, auditoria e otimização de modelo.
Descrição
Habilita o armazenamento permanente de sinais da Camada de Trust e o feedback do usuário, movendo dados da memória temporária para objetos de modelo de dados (DMOs) persistentes; permitindo que os administradores monitorem o desempenho e a precisão dos agentes.
Configuração recomendada
Acesse a Configuração de auditoria, análise e monitoramento do Einstein. Habilite "Coletar e armazenar dados de auditoria de IA generativa do Einstein" e "Captura de feedback do usuário". Certifique-se de que o Data Cloud esteja totalmente provisionado para hospedar esses fluxos de dados.
Impacto na segurança
Fornece a trilha forense necessária para investigar a precisão, o desempenho, vazamentos de dados ou interações tóxicas para garantir que a empresa atenda aos seus requisitos com base em seus casos de uso.
Impacto nos negócios
Cria um repositório central de registros para seus agentes em que o feedback e os dados do usuário do mundo real são usados para refinar modelos de prompts e instruções do agente.
Risco de segurança, se não configurado
Se um agente fornecer orientação incorreta ou prejudicial, não haverá registro permanente para diagnosticar a causa ou comprovar o que foi dito.
Cenários de ameaça
Lacuna de responsabilidade: Ausência de registros para verificar a interação em caso de conflitos. Pontos cegos: O viés sistemático nas respostas de IA não é detectado por meses.
Intervalo de pontuação de CVSS estimado
Crítico (9.0 a 10.0).
Considerações sobre impacto de risco
Habilitar essa configuração captura os dados de auditoria e feedback relevantes. No entanto, os clientes devem implementar controles adequados de alerta e monitoramento para garantir que anomalias relevantes sejam relatadas e falsos positivos sejam tratados para reduzir o ruído.
Risco maior quando
A coleta de dados de auditoria não é habilitada para salvar em créditos do Data Cloud ou quando o feedback é coletado, mas nunca revisado por um humano no loop.
Baixo risco quando
Os clientes implementaram procedimentos de registro de auditoria personalizados em que as interações do agente são registradas para injeção imediata, detecção de toxicidade e outros recursos para monitorar o desempenho e a precisão.
Considerações de negócios e integração
Custos de armazenamento: Esses dados consomem créditos do Data Cloud. Latência: Os dados de auditoria podem levar até 24 horas para aparecerem nos relatórios.
Diretriz de revisão de saúde de segurança
A Análise de integridade de segurança verifica o status "Habilitado" da opção Dados de auditoria e sinaliza instâncias em que os loops de feedback estão inativos, impedindo que a empresa melhore sua segurança de IA.
Quem é afetado
Agentes de governança de dados, administradores de IA, gerentes de atendimento ao cliente e auditores legais/de conformidade.
