breadcrumbDescription
Sikkerhed og sikkerhed - Meddelelsesindsprøjtningsregistrering
Registrerer og reducerer meddelelsesinjektionsangreb, hvor brugere forsøger at overskrive systeminstruktioner for at tvinge AI til utilsigtet eller ondsindet adfærd.
Kontrolnavn
Einstein Trust Layer - Meddelelsesindsprøjtningsregistrering
Kontroller oversigt
Registrerer og reducerer meddelelsesinjektionsangreb, hvor brugere forsøger at overskrive systeminstruktioner for at tvinge AI til utilsigtet eller ondsindet adfærd.
Beskrivelse
Overvåger meddelelsestiden for at identificere modsatte mønstre, f.eks. "ignorer tidligere instruktioner" eller "systemtilsidesæt"-kommandoer, blokerer eller markerer anmodningen, før den når LLM.
Anbefalet konfiguration
Aktiver "Meddelelsesindsprøjtningsregistrering" i indstillingerne for Einstein Trust Layer. Sørg for, at Einstein er aktiveret til at logføre begivenheder for indsprøjtningsforsøg.
Sikkerhedspåvirkning
Forhindrer AI i at blive omprogrammeret af en bruger til at lække interne data, generere forbudt indhold eller tilsidesætte de etiske grænser, der er etableret i meddelelsesskabelonen.
Forretningspåvirkning
Vedligeholder integriteten af AI-styrede forretningsprocesser og forhindrer driftsforstyrrelser forårsaget af brugere, der manipulerer AI-logik til personlig eller ondsindet fortjeneste.
Sikkerhedsrisiko, hvis den ikke er konfigureret
LLM kan følge ondsindede brugerinstruktioner over systemmeddelelsen, hvilket kan føre til uautoriseret offentliggørelse af data, social engineering eller kørsel af uautoriserede arbejdsflows.
Trusselscenarier
Meddelelsesinjektion: En bruger snyder AI til at udføre uønskede handlinger, hvilket fører til datalækage.
Estimeret CVSS-scoringsinterval
Kritisk (9,0-10,0).
Overvejelser i forbindelse med risikopåvirkning
Ekstrem risiko for agentiske arbejdsflows, hvor AI kan udføre handlinger (f.eks. opdatering af registreringer eller afsendelse af mails) baseret på brugermeddelelser.
Højere risiko når
Brug af eksterne/tredjeparts-LLM'er uden Salesforce Trust Layer-midleren, eller når Meddelelsesskabeloner er dårligt konstrueret med mindst kontekst.
Lav risiko når
Meddelelsesinjektionsregistrering er aktiv, organisationen bruger Salesforce-værtsmodeller (der har indbygget forsvar), og Mindste rettighed anvendes på AI's dataadgang.
Overvejelser i forbindelse med forretning og integration
Streng registrering kan lejlighedsvist markere komplekse, legitime brugermeddelelser som modsatte. Administratorer bør overvåge feedbackdata for Einstein Trust Layer-revisionsdata for at finjustere følsomheden.
Vejledning til sikkerhedstilstandsgennemgang
Sikkerhedstilstandscheck scanner opsætningen af Einstein Trust Layer for at bekræfte, at prompt injektionsregistrering er aktiveret.
Hvem er påvirket
Sikkerhedsteams, AI-arkitekter, udviklere og slutbrugere, der interagerer med Promptkonstruktør eller Agentforce.
