Du er her:
Einstein Revisjon, Analytics og OvervÄking-oppsett
Sentraliserer loggingen av generative AI-meldinger, LLM-svar og tilbakemeldinger fra brukere i Data Cloud for samsvar, revisjon og modelloptimalisering.
Navn pÄ kontroll
Einstein Trust Layer - Revisjons- og tilbakemeldingsdata
Oversikt over kontroll
Sentraliserer loggingen av generative AI-meldinger, LLM-svar og tilbakemeldinger fra brukere i Data Cloud for samsvar, revisjon og modelloptimalisering.
Beskrivelse
Aktiverer permanent lagring av Trust Layer-signaler og brukertilbakemeldinger, og flytter data fra midlertidig minne til faste datamodellobjekter (DMO-er), slik at administratorer kan overvÄke agentenes ytelse og nÞyaktighet.
Anbefalt konfigurasjon
GÄ til Oppsett for Einstein, Analytics og OvervÄking. Aktiver "Samle inn og lagre Einstein generative AI-revisjonsdata" og "Fang opp tilbakemeldinger fra brukere". Forsikre deg om at Data Cloud er fullt klargjort til Ä vÊre vert for disse datastrÞmmene.
Innvirkning pÄ sikkerhet
Gir det forensiske sporet som er nÞdvendig for Ä undersÞke nÞyaktighet, ytelse, datalekkasjer eller giftige interaksjoner for Ä sikre at firmaet oppfyller kravene basert pÄ bruksomrÄder.
Forretningsinnvirkning
Oppretter et sentralt oppbevaringssted for logger for agentene, der tilbakemeldinger og data fra virkelige brukere brukes til Ă„ begrense ledetekstmaler og agentinstruksjoner.
Sikkerhetsrisiko hvis ikke konfigurert
Hvis en agent gir feil eller skadelig rÄd, finnes det ingen permanent post for Ä diagnostisere Ärsaken eller bevise hva som ble sagt.
Trusselscenarier
Responsibility Gap (Forpliktelseshull): FravÊr av logger for Ä bekrefte interaksjonen i tilfelle konflikter. Blindflekker: Systematisk systematiske avvik i AI-svar blir ikke oppdaget i flere mÄneder.
Beregnet CVSS Score-omrÄde
Kritisk (9.0â10.0).
Viktige punkter om risikoinnvirkning
Aktivering av denne konfigurasjonen fanger opp de relevante revisjons- og tilbakemeldingsdataene. Kunder bÞr imidlertid implementere riktige varsler og overvÄkingskontroller for Ä forsikre seg om at relevante avvik rapporteres, og falske positive hÄndteres for Ä redusere stÞy.
HÞyere risiko nÄr
Revisjonsdatainnsamling er ikke aktivert for Ä lagre pÄ Data Cloud-kreditter, eller nÄr tilbakemeldinger samles inn, men aldri gjennomgÄs av en avansert person.
Lav risiko nÄr
Kunder har implementert tilpassede revisjonsloggingsprosedyrer der agentinteraksjoner logges for hurtiginnsetting, toksisitetsdeteksjon og andre funksjoner for Ä overvÄke ytelsen og nÞyaktigheten.
Viktige punkter om virksomheten og integrasjonen
Lagringskostnader: Disse dataene bruker Data Cloud-kreditter. Latens: Det kan ta opptil 24 timer fĂžr revisjonsdata vises i rapporter.
Veiledning for vurdering av sikkerhetstilstand
Sikkerhetstilstandsvurdering kontrollerer statusen Aktivert for Revisjonsdata-bryteren og flagger tilfeller der tilbakemeldingslĂžyfer er inaktive, noe som hindrer at firmaet forbedrer AI-sikkerheten.
Hvem berĂžres
Datastyringsansvarlige, AI-administratorer, kundeserviceledere og juridiske/samsvarsrevisorer.
