Ti trovi qui:
Impostazione di Controllo Einstein, Analytics e Monitoraggio
Centralizza la registrazione dei prompt AI generativi, delle risposte LLM e dei commenti degli utenti in Data Cloud per la conformità, il controllo e l'ottimizzazione del modello.
Nome controllo
Einstein Trust Layer - Dati di controllo e feedback
Panoramica sul controllo
Centralizza la registrazione dei prompt AI generativi, delle risposte LLM e dei commenti degli utenti in Data Cloud per la conformità, il controllo e l'ottimizzazione del modello.
Descrizione
Consente l'archiviazione permanente dei segnali di Trust Layer e del feedback degli utenti, spostando i dati dalla memoria temporanea in oggetti modello di dati (DMO) persistenti; consente agli amministratori di monitorare le prestazioni e la precisione degli agenti.
Configurazione consigliata
Accedere a Controllo Einstein, Analytics e Impostazione di monitoraggio. Abilitare "Raccogli e archivia dati di controllo AI generativo Einstein" e "Acquisisci feedback utente". Assicurarsi che Data Cloud sia completamente predisposto per ospitare questi stream di dati.
Impatto sulla sicurezza
Fornisce la pista forense necessaria per analizzare l'accuratezza, le prestazioni, le fughe di dati o le interazioni tossiche, per assicurarsi che l'azienda soddisfi i propri requisiti in base ai casi d'uso.
Impatto sul business
Crea un archivio centrale di registri per gli agenti in cui i commenti e i dati degli utenti reali vengono utilizzati per perfezionare i modelli di prompt e le istruzioni degli agenti.
Rischio per la sicurezza se non configurato
Se un agente fornisce consigli errati o dannosi, non esiste un record permanente per diagnosticare la causa o dimostrare quanto detto.
Scenari di minaccia
Accountability Gap (Lacuna di responsabilità): Assenza di registri per verificare l'interazione in caso di conflitti. Punti ciechi: La distorsione sistematica nelle risposte AI non viene rilevata per mesi.
Intervallo di punteggi CVSS stimato
Critico (9.0–10.0).
Considerazioni sull'impatto del rischio
L'abilitazione di questa configurazione acquisisce i dati di controllo e feedback pertinenti. Tuttavia, i clienti devono implementare controlli di allarme e monitoraggio appropriati per assicurarsi che vengano segnalate le anomalie pertinenti e che vengano affrontati i falsi positivi per ridurre il rumore.
Rischio maggiore quando
La raccolta dei dati di controllo non è abilitata per il salvataggio sui crediti di Data Cloud o quando i commenti vengono raccolti ma mai rivisti da un utente aggiornato.
Basso rischio quando
I clienti hanno implementato procedure di registrazione di controllo personalizzate in cui le interazioni degli agenti vengono registrate per l'iniezione rapida, il rilevamento della tossicità e altre funzionalità per monitorare le prestazioni e la precisione.
Considerazioni su Business e integrazione
Costi di stoccaggio: Questi dati consumano crediti Data Cloud. Latenza: La visualizzazione dei dati di controllo nei rapporti può richiedere fino a 24 ore.
Guida all'esame dello stato della sicurezza
Controllo dello stato della sicurezza verifica lo stato "Abilitato" del selettore Dati di controllo e segnala le istanze in cui i loop di feedback sono inattivi, impedendo all'azienda di migliorare la sicurezza dell'intelligenza artificiale.
Chi è interessato
Responsabili della governance dei dati, amministratori AI, responsabili dell'assistenza clienti e revisori legali/conformità.
