Trust og Agentforce
Med Salesforce er det enkelt å bygge sikre AI-agenter fordi agenter er utformet for å bidra til å redusere risikoen knyttet til generativ AI-teknologi.
Nødvendige utgaver
| Tilgjengelig i Lightning Experience |
| Tilgjengelig i Enterprise, Performance, Unlimited og Developer Edition. Nødvendige tilleggslisenser varierer etter agenttype. |
Agentforce er integrert med Einstein Trust, og funksjonen inkluderer AI-sikkerhetsrammer. Agenter respekterer også standard Salesforce-tilgangskontroller.
Einstein Trust
Agentforce er integrert med Einstein Trust Layer, som er en sikker AI-arkitektur innebygd i Salesforce.
Trust Layer er utformet for sikkerhetsstandarder i bedrifter, og lar deg dra nytte av generativ AI uten å kompromittere kundedata. Den lar deg også bruke klarerte data til å forbedre generative AI-svar.
| Einstein Trust Layer-tjeneste | Beskrivelse |
|---|---|
| Dataoppbevaringspolicy null | Einstein Trust Layer bruker en oppbevaringspolicy med null-data, slik at ingen data lagres eller brukes til modellopplæring av tredjeparts LLM-er. Kunders bruk av andre funksjoner, inkludert agenter, kan føre til datalagring. Du kan få detaljer ved å kontakte Salesforce-kontoansvarlig. |
| Dynamisk tilordning med sikker datainnsamling | Relevant informasjon fra klarerte firmadata, Knowledge eller andre kilder du konfigurerer, brukes til å svare på et spørsmål. |
| Ledetekstforsvar (systempolicyer og deteksjon av ledetekstinnsetting) | Systempolicyer bidrar til å begrense hallusinasjoner og redusere sannsynligheten for utilsiktede eller skadelige utdata fra LLM. |
| Deteksjon av toksisitet | Potensielt skadelige LLM-svar oppdages og flagges. |
| Revisjon og tilbakemelding | Ledetekster, svar og Trust-signaler logges og lagres i Data 360, slik at du får oversikt over resultatet av hver brukerinteraksjon. Tilbakemeldinger kan brukes til å forbedre instruksjoner, ledetekstmaler og mer. |
Datamaskering via Einstein Trust er deaktivert for å forbedre ytelsen og nøyaktigheten til agenter. Alle data som agenter har tilgang til, inkludert personlig identifiserbar informasjon (PII), er beskyttet under overføring og lagres ikke eller brukes til opplæringsformål av eksterne LLM-leverandører, som en del av vår strenge oppbevaringspolicy for nulldata. Se Begrensninger for datamaskering i Agentforce.
AI-vakter
Agentforce inkluderer etiske vakter for å minimere AI-hallusjoner og sikkerhets vakter for å hindre trusler og skadelige angrep, som hurtiginnsprøytninger.
Bruk instruksjoner for agentemner til å opprette grenser, angi kontekst og definere agentvirkemåte for å få mer detaljert kontroll. Du kan endre instruksjonene for et standard agentemne, eller du kan opprette et tilpasset emne fra bunnen av. Bruk instruksjonsoverholdelse til å se hvor godt agenten tolker og følger emneinstruksjonene.
Forskjellige agenttyper kan ha sine egne innstillinger og sikkerhetshylder for å definere agentvirkemåte. tjenesteagentr for eksempel emneinstruksjoner til å bestemme når en samtale skal eskaleres fra agenten til en servicerepresentant. SDR-agenttypen har administratordefinerte engasjementsregler for betingelsene når agenten kan begynne å arbeide med salgsemnet og hvordan og når agent-e-postmeldinger kan sendes.
Tillatelser og tilgang
AI-agenter respekterer standard Salesforce-tilgangskontroller som lisenser, tillatelser, feltnivåsikkerhet og delingsinnstillinger, så en agent handler alltid sikkert.
- Agenttyper: Standard Agentforce er tilgjengelig for administratorer og brukere med tillatelsessettet Agentforce. Enkelte agenttyper er bygget for å fungere med bestemte skyer eller lisenser, så de krever en annen lisens.
- Standard agentemner: Mange standardemner er tilgjengelig for alle brukere som har tilgangstillatelse til standardagent Agentforce.
- Standard agenthandlinger: Mange standardhandlinger er tilgjengelig for alle brukere som har tilgangstillatelse til standardagent Agentforce. Enkelte standardhandlinger er bygget for å fungere med bestemte skyer eller produkter, så de krever en annen lisens eller tillatelse.
- Tilpassede agenthandlinger: Tilgang til en tilpasset handling avhenger av Apex, flyten eller ledetekstmalen som handlingene refererer til. Hvis en tilpasset handling for eksempel bygges med en flyt, overholder den tilpassede handlingen tillatelsene, feltnivåsikkerheten og delingsinnstillingene som er konfigurert i flyten.
Klarerte URL-adresser
Agentforce håndhever virksomhetens klarerte URL-tillatelsesliste. Dette hindrer agenten i å kalle opp eller generere skadelige lenker og sørger for at sensitive data er sikre.
Når en agent forsøker å inkludere en ikke-godkjent URL-adresse i et svar, erstattes den ikke-godkjente URL-adressen med URL_Redacted. Vi viser også en feilmelding på planlerretet når agenten forsøker å kalle opp eller generere en ikke-godkjent URL-adresse, slik at du kan evaluere om en blokkert URL-adresse skal legges på tillatelseslisten eller fjernes fra agentens konfigurasjon.
Når anførselstegn er konfigurert for agenten, vises kilde-URL-adressene som brukes til å generere agentsvar, i agentdiskusjonen, selv om domenet ikke er inkludert i de klarerte URL-adressene.
Hvis du vil bruke en URL-adresse med en agent, legger du den til i dine klarerte URL-adresser.
Agentsamsvar
Agentforce er inkludert som en dekket tjeneste i Einstein Platform og Agentforce SOC 2- og SOC 3-rapporter. Agentforce er HIPAA-berettiget og dekket av Salesforce Business Associate Addendum Restrictions, og har også oppnådd ISO 27001, 27017 og 27018-sertifiseringer.
- Begrensninger for datamaskering i Agentforce
I Einstein Trust Layer er mønsterbasert og feltbasert datamaskering for store språkmodeller (LLM-er) deaktivert for agenter.
