Du är här:
Trygghet och säkerhet - Snabb injektionsdetektering
Upptäcker och minskar snabba injektionsattacker där användare försöker skriva över systeminstruktioner för att tvinga AI till oavsiktliga eller skadliga beteenden.
Kontrollnamn
Einstein Trust Layer - Snabb injektionsdetektering
Kontrollöversikt
Upptäcker och minskar snabba injektionsattacker där användare försöker skriva över systeminstruktioner för att tvinga AI till oavsiktliga eller skadliga beteenden.
Beskrivning
Övervakar den snabba resan för att identifiera kontradiktoriska mönster, till exempel kommandona "ignorera tidigare instruktioner" eller "systemåsidosättning", blockerar eller flaggar begäran innan den når LLM.
Rekommenderad konfiguration
Aktivera "Snabb injektionsidentifiering" i inställningarna för Einstein Trust Layer. Se till att Einstein Granskningslogg har aktiverats för att logga händelser för injektionsförsök.
Säkerhetspåverkan
Förhindrar att AI omprogrammeras av en användare för att läcka interna data, skapa förbjudet innehåll eller kringgå de etiska gränser som fastställts i uppmaningsmallen.
Verksamhetspåverkan
Bibehåller integriteten hos AI-drivna verksamhetsprocesser och förhindrar driftstörningar orsakade av användare som manipulerar AI-logik för personlig eller skadlig vinning.
Säkerhetsrisk om den inte är konfigurerad
LLM kan följa skadliga användarinstruktioner över systemuppmaningen, vilket leder till oauktoriserat datautlämnande, social teknik eller utförande av oauktoriserade arbetsflöden.
Hotscenarier
Uppmaning till injektion: En användare lurar AI att utföra oönskade åtgärder, vilket leder till dataläckage.
Uppskattat CVSS-betygintervall
Kritisk (9,0-10,0).
Att tänka på vad gäller riskpåverkan
Extrem risk för agentiska arbetsflöden där AI kan utföra åtgärder (till exempel uppdatera poster eller skicka e-post) baserat på användaruppmaningar.
Högre risk när
Använda externa/tredjepart-LLM:er utan Salesforce Trust Layer-mellanhanden, eller om uppmaningsmallar är dåligt konstruerade med minst sammanhang.
Låg risk när
Snabb injektionsidentifiering är aktiv, organisationen använder Salesforce-värdade modeller (som har inbyggt försvar) och Minsta behörighet tillämpas på AI:ns dataåtkomst.
Att tänka på vad gäller affärer och integration
Strikt upptäckt kan ibland flagga komplexa, legitima användaruppmaningar som kontradiktoriska. Administratörer bör övervaka feedbackdata från Einstein Trust Layer-granskningar för att finjustera känsligheten.
Vägledning för granskning av säkerhetshälsa
Säkerhetshälsogranskning söker igenom inställningarna för Einstein Trust Layer för att bekräfta att snabb upptäckt av injektion har aktiverats.
Vem påverkas
Säkerhetsteam, AI-arkitekter, utvecklare och slutanvändare som interagerar med Promptbyggare eller Agentforce.
