Sie befinden sich hier:
Setup-Steuerung für Einstein Audit, Analytics und Monitoring
Zentralisiert die Protokollierung von Eingabeaufforderungen mit generativer AI, LLM-Antworten und Benutzerfeedback in Data Cloud für Compliance, Überprüfung und Modelloptimierung.
Steuerelementname
Einstein Trust Layer – Audit- und Feedbackdaten
Steuerelementübersicht
Zentralisiert die Protokollierung von Eingabeaufforderungen mit generativer AI, LLM-Antworten und Benutzerfeedback in Data Cloud für Compliance, Überprüfung und Modelloptimierung.
Beschreibung
Ermöglicht das dauerhafte Speichern von Trust Layer-Signalen und Benutzerfeedback, indem Daten aus dem transienten Speicher in persistente Datenmodellobjekte (DMOs) verschoben werden. Dadurch können Administratoren die Leistung und Genauigkeit der Agenten überwachen.
Empfohlene Konfiguration
Navigieren Sie zum Setup für Einstein Audit, Analytics und Monitoring. Aktivieren Sie "Aktivieren Sie die Option zum Erfassen von Benutzerfeedback" und "Aktivieren und Speichern von Auditdaten der generativen AI von Einstein". Stellen Sie sicher, dass Data Cloud vollständig zum Hosten dieser Datenströme bereitgestellt ist.
Sicherheitsauswirkung
Bietet den forensischen Trail, der erforderlich ist, um Genauigkeit, Leistung, Datenlecks oder toxische Interaktionen zu untersuchen und sicherzustellen, dass das Unternehmen seine Anforderungen basierend auf seinen Anwendungsfällen erfüllt.
Geschäftsauswirkungen
Erstellt ein zentrales Protokoll-Repository für Ihre Agenten, in dem Benutzerfeedback und Daten aus der Praxis verwendet werden, um Aufforderungsvorlagen und Agentenanweisungen zu optimieren.
Sicherheitsrisiko, wenn nicht konfiguriert
Wenn ein Agent falsche oder schädliche Ratschläge gibt, gibt es keinen dauerhaften Datensatz, der die Ursache diagnostiziert oder das Gesagte beweist.
Bedrohungsszenarien
Rechenschaftslücke: Fehlen von Protokollen zum Überprüfen der Interaktion im Falle von Konflikten. Blinde Flecken: Systematische Verzerrungen in AI-Antworten bleiben monatelang unentdeckt.
Geschätzter CVSS-Bewertungsbereich
Kritisch (9.0–10.0).
Überlegungen zu Risikoauswirkungen
Durch Aktivieren dieser Konfiguration werden die relevanten Überwachungs- und Feedbackdaten erfasst. Kunden sollten jedoch geeignete Warn- und Überwachungssteuerungen implementieren, um sicherzustellen, dass relevante Anomalien gemeldet und falsch positive Werte behoben werden, um das Rauschen zu reduzieren.
Höheres Risiko, wenn
Die Prüfungsdatenerfassung ist nicht aktiviert, um Data Cloud-Gutschriften zu speichern oder wenn Feedback gesammelt, aber nie von einem Mitarbeiter überprüft wird.
Geringes Risiko, wenn
Kunden haben angepasste Auditprotokollierungsverfahren implementiert, bei denen Agenteninteraktionen für die sofortige Injektion, die Toxizitätserkennung und andere Funktionen zur Überwachung der Leistung und Genauigkeit protokolliert werden.
Überlegungen zu Unternehmen und Integration
Speicherkosten: Diese Daten verbrauchen Data Cloud-Guthaben. Latenz: Auditdaten können bis zu 24 Stunden dauern, bis sie in Berichten angezeigt werden.
Anleitung zur Sicherheitsintegritätsprüfung
Die Sicherheitsintegritätsüberprüfung überprüft den Status "Aktiviert" des Umschalters "Aktivierte Prüfdaten" und kennzeichnet Instanzen, in denen Feedbackschleifen inaktiv sind, wodurch verhindert wird, dass das Unternehmen seine AI-Sicherheit erhöht.
Wer ist betroffen?
Beauftragte für Datenverwaltung, AI-Administratoren, Kundendienstleiter und Auditoren für Rechts- und Compliance-Angelegenheiten.
