Generatieve beveiliging van AI-basisplatform

Lees hier meer over Generatieve AI-beveiliging voor het basisplatform.

• LLM Data Masking (beschikbaar voor niet Agentforce Generatieve AI)
  Identificeert en maskeert automatisch gevoelige gegevens (PII, PCI, enzovoort) binnen een aanwijzing voordat deze worden verzonden naar een extern Large Language Model (LLM).
• Veiligheid en beveiliging - Toxiciteitsdetectie
  Scant automatisch AI-aanwijzingen en gegenereerde reacties om schadelijke taal te identificeren, signaleren en scoren voor meerdere categorieën (bijvoorbeeld haatzaaiende taal, geweld, scheldwoorden).
• Veiligheid en beveiliging - Detectie van directe injectie
  Detecteert en verzacht prompte injectieaanvallen waarbij gebruikers proberen systeeminstructies te overschrijven om de AI tot onbedoeld of kwaadwillig gedrag te dwingen.
• Einstein Controle, Analytics en Bewaking instellen
  Centraliseert het vastleggen van Generatieve AI-aanwijzingen, LLM-responsen en feedback van gebruikers in Data Cloud voor naleving, controle en modeloptimalisering.
• Gebruik van Aanwijzingensamensteller en feedbackmeetgegevens
  Bewaakt de acceptatie en kwaliteit van specifieke Einstein aanwijzingssjablonen door het bijhouden van generatietellingen en door de gebruiker ingediende feedback.
• Einstein - Agent Analytics
  Activeert de continue verzameling en visualisatie van autonome agentinteracties, waardoor prestatie bijhouden en ROI-meting mogelijk worden.
• Einstein Audit en bewaking - Agentforce Sessietracering
  Legt de stapsgewijze logica, het denkproces en de volgorde van aanroepen van tools vast van autonome agenten voor elke interactie.