Sicurezza della piattaforma di intelligenza artificiale generativa

Informazioni sulla sicurezza della piattaforma di base AI generativa.

• Mascheramento dei dati LLM (disponibile per AI generativa non Agentforce)
  Identifica e maschera automaticamente i dati sensibili (PII, PCI e così via) all'interno di un prompt prima che vengano trasmessi a un modello Large Language Model (LLM) esterno.
• Sicurezza - Rilevamento della tossicità
  Analizza automaticamente i prompt AI e le risposte generate per identificare, segnalare e calcolare il punteggio del linguaggio dannoso in più categorie (ad esempio, discorsi di odio, violenza, volgarità).
• Protezione e protezione - Rilevamento immediato dell'iniezione
  Rileva e mitiga gli attacchi di prompt injection in cui gli utenti tentano di sovrascrivere le istruzioni di sistema per costringere l'intelligenza artificiale a comportamenti non intenzionali o dannosi.
• Impostazione di Controllo Einstein, Analytics e Monitoraggio
  Centralizza la registrazione dei prompt AI generativi, delle risposte LLM e dei commenti degli utenti in Data Cloud per la conformità, il controllo e l'ottimizzazione del modello.
• Utilizzo del Generatore di prompt e metriche di feedback
  Monitora l'adozione e la qualità di modelli di prompt Einstein specifici monitorando i conteggi di generazione e i commenti inviati dagli utenti.
• Einstein - Agent Analytics
  Attiva la raccolta e la visualizzazione continue delle interazioni autonome degli agenti, abilitando il tracciamento delle prestazioni e la misurazione del ROI.
• Controllo e monitoraggio Einstein - Tracciamento delle sessioni Agentforce
  Registra la logica passo per passo, il processo di pensiero e la sequenza di chiamata strumento degli agenti autonomi per ogni interazione.