breadcrumbDescription
Opsætningskontrol for Einstein, Analytics og Overvågning
Centraliserer logføring af genererende AI-meddelelser, LLM-svar og brugerfeedback i Data Cloud til overensstemmelse, revision og modeloptimering.
Kontrolnavn
Einstein Trust Layer - Revisions- og feedbackdata
Kontroller oversigt
Centraliserer logføring af genererende AI-meddelelser, LLM-svar og brugerfeedback i Data Cloud til overensstemmelse, revision og modeloptimering.
Beskrivelse
Aktiverer permanent lagring af Trust Layer-signaler og brugerfeedback, flytter data fra midlertidig hukommelse til vedvarende datamodelobjekter (DMO'er), hvilket gør det muligt for administratorer at overvåge agenternes ydeevne og nøjagtighed.
Anbefalet konfiguration
Gå til Einstein, Analytics og Overvågningsopsætning. Aktiver "Saml og gem Einstein AI-revisionsdata" og "Registrer brugerfeedback". Sørg for, at Data Cloud er fuldt klargjort til at være vært for disse datastreams.
Sikkerhedspåvirkning
Giver det forensiske spor, der er nødvendigt for at undersøge nøjagtighed, ydeevne, datalækager eller giftige interaktioner for at sikre, at firmaet opfylder dets krav baseret på dets anvendelsessituationer.
Forretningspåvirkning
Opretter et centralt lager af logfiler for dine agenter, hvor brugerfeedback og data fra den virkelige verden bruges til at justere meddelelsesskabeloner og agentinstruktioner.
Sikkerhedsrisiko, hvis den ikke er konfigureret
Hvis en agent giver ukorrekt eller skadelig rådgivning, er der ingen permanent registrering til at diagnosticere årsagen eller bevise, hvad der blev sagt.
Trusselscenarier
Ansvarsmangel: Fravær af logfiler til at bekræfte interaktionen i tilfælde af konflikter. Blinde pletter: Systematisk bias i AI-svar bliver ikke registreret i måneder.
Estimeret CVSS-scoringsinterval
Kritisk (9,0-10,0).
Overvejelser i forbindelse med risikopåvirkning
Aktivering af denne konfiguration registrerer de relevante revisions- og feedbackdata. Men kunder skal implementere relevante advarsels- og overvågningskontroller for at sikre, at relevante afvigelser rapporteres, og falske positive håndteres for at reducere støj.
Højere risiko når
Revider datasamling er ikke aktiveret til at gemme på Data Cloud-kreditter, eller når feedback indsamles, men aldrig gennemses af en bruger.
Lav risiko når
Kunder har implementeret tilpassede revisionslogføringsprocedurer, hvor agentinteraktioner logføres til hurtig injektion, toksicitetsregistrering og andre funktioner til at overvåge ydeevnen og nøjagtigheden.
Overvejelser i forbindelse med forretning og integration
Lageromkostninger: Disse data forbruger Data Cloud-kreditter. Forsinkelse: Revisionsdata kan tage op til 24 timer at blive vist i rapporter.
Vejledning til sikkerhedstilstandsgennemgang
Sikkerhedstilstandscheck bekræfter statussen "Aktiveret" for omskifteren Revider data og markerer forekomster, hvor feedbackløkker er inaktive, hvilket forhindrer firmaet i at forbedre dets AI-sikkerhed.
Hvem er påvirket
Dataforvaltningsmedarbejdere, AI-administratorer, kundeservicemanagers og juridiske/overensstemmelsesrevisorer.
