Generativ AI grundläggande plattformssäkerhet

Få reda på mer om Generativ AI grundläggande plattformssäkerhet.

• LLM-datamaskering (tillgänglig för Generativ AI som inte är Agentforce)
  Identifierar och maskerar automatiskt känsliga data (PII, PCI och så vidare) inom en uppmaning innan de överförs till en extern Large Language Model (LLM).
• Trygghet och säkerhet - Toxicitetsdetektering
  Söker automatiskt igenom AI-uppmaningar och genererade svar för att identifiera, flagga och betygsätta skadligt språk i flera kategorier (till exempel hatpropaganda, våld, svordomar).
• Trygghet och säkerhet - Snabb injektionsdetektering
  Upptäcker och minskar snabba injektionsattacker där användare försöker skriva över systeminstruktioner för att tvinga AI till oavsiktliga eller skadliga beteenden.
• Konfiguration av Einstein Granskning, Analytics och Övervakning
  Centraliserar loggningen av Generativa AI-uppmaningar, LLM-svar och användarfeedback till Data Cloud för efterlevnad, granskning och modelloptimering.
• Användning av Promptbyggaren och feedbackmått
  Övervakar användningen och kvaliteten på specifika Einstein Uppmaningsmallar genom att följa antal skapande och feedback från användare.
• Einstein - Agent Analytics
  Aktiverar kontinuerlig insamling och visualisering av autonoma agentinteraktioner, vilket möjliggör prestandaspårning och ROI-mätning.
• Einstein Granskning och övervakning - Agentforce Sessionspårning
  Registrerar logiken, tankeprocessen och verktygsanropssekvensen för autonoma agenter för varje interaktion.