Segurança fundamental da plataforma de IA generativa

Saiba mais sobre a segurança básica da plataforma de IA generativa.

• Mascaramento de Dados LLM (disponível para IA generativa não Agentforce)
  Identifica e mascara automaticamente dados confidenciais (PII, PCI e assim por diante) em um aviso antes de serem transmitidos para um Modelo de idioma grande (LLM) externo.
• Segurança e segurança – Detecção de toxicidade
  Verifica automaticamente avisos de IA e respostas geradas para identificar, sinalizar e pontuar linguagem prejudicial em várias categorias (por exemplo, discurso de ódio, violência, profanação).
• Segurança e segurança – Detecção de injeção rápida
  Detecta e mitiga ataques de injeção de prompt em que os usuários tentam substituir instruções do sistema para forçar a IA a realizar comportamentos indesejados ou mal-intencionados.
• Configuração de auditoria, análise e monitoramento do Einstein
  Centraliza o registro de avisos de IA generativa, respostas do LLM e feedback do usuário no Data Cloud para conformidade, auditoria e otimização de modelo.
• Uso do Criador de prompts e métricas de feedback
  Monitora a adoção e a qualidade de modelos de prompts específicos do Einstein acompanhando contagens de geração e feedback enviado pelos usuários.
• Einstein - Agente de Análise
  Ativa a coleta e a visualização contínuas de interações autônomas do agente, habilitando o rastreamento de desempenho e a medição do retorno sobre o investimento.
• Auditoria e monitoramento do Einstein - Rastreamento de sessão do Agentforce
  Registre a lógica passo a passo, o processo de pensamento e a sequência de chamada de ferramentas de agentes autônomos para cada interação.