U bent hier:
Einstein Controle, Analytics en Bewaking instellen
Centraliseert het vastleggen van Generatieve AI-aanwijzingen, LLM-responsen en feedback van gebruikers in Data Cloud voor naleving, controle en modeloptimalisering.
Controlenaam
Einstein Trust Layer - Controle- en feedbackgegevens
Overzicht van besturingselementen
Centraliseert het vastleggen van Generatieve AI-aanwijzingen, LLM-responsen en feedback van gebruikers in Data Cloud voor naleving, controle en modeloptimalisering.
Beschrijving
Maakt de permanente opslag van Trust Layer-signalen en feedback van de gebruiker mogelijk, waarbij gegevens worden verplaatst van tijdelijk geheugen naar persistente gegevensmodelobjecten (Data Model Objects, DMO's); hiermee kunnen beheerders de prestaties en nauwkeurigheid van de agenten bewaken.
Aanbevolen configuratie
Ga naar Set-up van Einstein Audit, Analytics en Monitoring. Schakel "Einstein Generative AI Audit Data" en "Capture User Feedback" in. Zorg ervoor dat Data Cloud volledig is ingericht om deze gegevensstromen te hosten.
Impact op beveiliging
Biedt het forensische spoor dat nodig is om nauwkeurigheid, prestaties, gegevenslekken of toxische interacties te onderzoeken, om ervoor te zorgen dat het bedrijf voldoet aan de vereisten op basis van de gebruikscases.
Business Impact
Maakt een centrale opslagplaats van logboeken voor uw agenten waarin feedback en gegevens van gebruikers uit de praktijk worden gebruikt om aanwijzingssjablonen en instructies van agenten te verfijnen.
Beveiligingsrisico indien niet geconfigureerd
Als een agent onjuist of schadelijk advies geeft, is er geen permanente record om de oorzaak te diagnosticeren of te bewijzen wat er is gezegd.
Dreigingsscenario's
Hiaat in verantwoording: Afwezigheid van logboeken om de interactie te verifiëren in geval van conflicten. Blinde vlekken: Systematische vertekening in AI-responsen blijft maandenlang onopgemerkt.
Geschatte CVSS-scorebereik
Kritiek (9,0–10,0).
Overwegingen bij risico-impact
Als u deze configuratie inschakelt, worden de relevante controle- en feedbackgegevens vastgelegd. Klanten moeten echter de juiste waarschuwings- en bewakingselementen implementeren om ervoor te zorgen dat relevante anomalieën worden gemeld en dat vals-positieven worden aangepakt om ruis te verminderen.
Hoger risico wanneer
Controlegegevensverzameling is niet ingeschakeld om te besparen op Data Cloud-kredietpunten of wanneer feedback wordt verzameld, maar nooit wordt beoordeeld door een mens in de lus.
Laag risico wanneer
Klanten hebben aangepaste procedures voor het vastleggen van audits geïmplementeerd, waarbij interacties van agenten worden vastgelegd voor snelle injectie, toxiciteitsdetectie en andere mogelijkheden om de prestaties en nauwkeurigheid te bewaken.
Overwegingen bij bedrijf en integratie
Opslagkosten: Deze gegevens verbruiken Data Cloud-kredietpunten. Latentie: Het kan maximaal 24 uur duren voordat controlegegevens in rapporten worden weergegeven.
Begeleiding bij beoordeling van beveiligingstoestand
Beoordeling van beveiligingstoestand verifieert de status "Ingeschakeld" van de aan-/uitfunctie Controlegegevens en signaleert gevallen waarin feedbacklussen inactief zijn, waardoor het bedrijf zijn AI-veiligheid niet kan verbeteren.
Wie wordt beïnvloed
Functionarissen voor gegevensbeheer, AI-beheerders, klantenservicemanagers en juridische/nalevingsauditors.
