Du är här:
Konfiguration av Einstein Granskning, Analytics och Övervakning
Centraliserar loggningen av Generativa AI-uppmaningar, LLM-svar och användarfeedback till Data Cloud för efterlevnad, granskning och modelloptimering.
Kontrollnamn
Einstein Trust Layer - Gransknings- och feedbackdata
Kontrollöversikt
Centraliserar loggningen av Generativa AI-uppmaningar, LLM-svar och användarfeedback till Data Cloud för efterlevnad, granskning och modelloptimering.
Beskrivning
Aktiverar permanent lagring av Trust Layer-signaler och användarfeedback, flyttar data från tillfälligt minne till beständiga datamodellobjekt (DMO) och låter administratörer övervaka agenternas prestanda och precision.
Rekommenderad konfiguration
Gå till Einstein Granskning, Analytics och Övervaka inställningar. Aktivera "Samla in och lagra Einstein Generativa AI-granskningsdata" och "Samla in feedback från användare". Se till att Data Cloud är fullständigt provisionerat som värd för dessa dataströmmar.
Säkerhetspåverkan
Ger den kriminaltekniska spårning som behövs för att undersöka precision, prestanda, dataläckage eller giftiga interaktioner, för att säkerställa att företaget uppfyller sina krav baserat på dess användningsfall.
Verksamhetspåverkan
Skapar ett centralt arkiv med loggar för dina agenter där verkliga användares feedback och data används för att förfina uppmaningsmallar och agentinstruktioner.
Säkerhetsrisk om den inte är konfigurerad
Om en agent ger felaktiga eller skadliga råd finns det ingen permanent post för att diagnostisera orsaken eller bevisa vad som sagts.
Hotscenarier
Ansvarslucka: Frånvaro av loggar för att verifiera interaktionen i händelse av konflikter. Döda fläckar: Systematiskt biasering i AI-svar förblir oupptäckt i månader.
Uppskattat CVSS-betygintervall
Kritisk (9,0-10,0).
Att tänka på vad gäller riskpåverkan
Att aktivera denna konfiguration samlar in relevanta gransknings- och feedbackdata. Kunder bör dock införa lämpliga varnings- och övervakningskontroller för att säkerställa att relevanta avvikelser rapporteras och falska positiva resultat åtgärdas för att minska brus.
Högre risk när
Granska datainsamling är inte aktiverat för att spara på Data Cloud-krediter, eller när feedback samlas in men aldrig granskas av en människa i loopen.
Låg risk när
Kunder har implementerat anpassade granskningsloggningsprocesser där agentinteraktioner loggas för snabb injektion, toxicitetsdetektering och andra möjligheter att övervaka prestanda och precision.
Att tänka på vad gäller affärer och integration
Lagringskostnader: Dessa data konsumerar Data Cloud-krediter. Latens: Det kan ta upp till 24 timmar för granskningsdata att visas i rapporter.
Vägledning för granskning av säkerhetshälsa
Säkerhetshälsogranskning verifierar statusen "Aktiverad" för knappen Granskningsdata och flaggar instanser där feedbackloopar är inaktiva, vilket förhindrar företaget från att förbättra sin AI-säkerhet.
Vem påverkas
Dataförvaltningsansvariga, AI-administratörer, kundtjänstansvariga och juridiska/efterlevnadsgranskare.
