Trust e Agentforce
Con Salesforce, è facile creare agenti AI sicuri perché gli agenti sono progettati per contribuire a ridurre i rischi associati alla tecnologia di intelligenza artificiale generativa.
Versioni (Edition) richieste
| Disponibile in: Lightning Experience |
| Disponibile in: Enterprise Edition, Performance Edition, Unlimited Edition e Developer Edition. Le licenze aggiuntive richieste variano a seconda del tipo di agente. |
La piattaforma Agentforce è integrata con Einstein Trust Layer e la funzione include guardrail AI. Gli agenti rispettano anche i controlli di accesso Salesforce standard.
Livello Einstein Trust
Agentforce è integrato con Einstein Trust Layer, un'architettura di intelligenza artificiale protetta integrata in Salesforce in modo nativo.
Progettato per gli standard di sicurezza aziendali, il Trust Layer consente di sfruttare l'intelligenza artificiale generativa senza compromettere i dati dei clienti. Consente inoltre di utilizzare dati affidabili per migliorare le risposte generate dall'intelligenza artificiale.
| Servizio Einstein Trust Layer | Descrizione |
|---|---|
| Policy di conservazione dei dati zero | Einstein Trust Layer utilizza una policy di conservazione dei dati zero, quindi nessun dato viene memorizzato o utilizzato per l'addestramento del modello da LLM di terze parti. L'uso da parte dei clienti di altre funzioni, inclusi gli agenti, può comportare l'archiviazione dei dati. Per ulteriori informazioni, contattare il proprio responsabile account Salesforce. |
| Grounding dinamico con recupero sicuro dei dati | Per rispondere a una domanda vengono utilizzate informazioni pertinenti provenienti da dati aziendali affidabili, dalla Knowledge Base o da altre fonti configurate. |
| Prompt Defense (Policy di sistema e rilevamento rapido dell'iniezione) | Le policy di sistema aiutano a limitare le allucinazioni e a ridurre la probabilità di output non intenzionali o dannosi da parte del LLM. |
| Rilevamento tossicità | Le risposte LLM potenzialmente dannose vengono rilevate e segnalate. |
| Controllo e feedback | Prompt, risposte e segnali Trust vengono registrati e archiviati in Data 360, offrendo visibilità sui risultati di ogni interazione utente. I commenti possono essere utilizzati per migliorare le istruzioni, i modelli di prompt e altro ancora. |
Il mascheramento dei dati tramite Einstein Trust Layer è disabilitato per migliorare le prestazioni e la precisione degli agenti. Tutti i dati a cui accedono gli agenti, incluse le informazioni personali (PII), sono protetti in transito e non vengono archiviati o utilizzati per scopi di formazione da provider LLM esterni, come parte della nostra rigorosa policy di conservazione dei dati zero. Vedere Data Masking Limitations in Agentforce.
Parapetti AI
La piattaforma Agentforce include guardrail etici per ridurre al minimo le allucinazioni dell'intelligenza artificiale e guardrail di sicurezza per prevenire minacce e attacchi dannosi, ad esempio iniezioni rapide.
Per un controllo più dettagliato, utilizzare le istruzioni per i subagenti degli agenti per creare confini, impostare il contesto e definire il comportamento degli agenti. È possibile modificare le istruzioni per un agente secondario standard oppure creare un agente secondario personalizzato da zero. Utilizzare l'osservanza delle istruzioni per vedere in che misura l'agente interpreta e segue le istruzioni del subagente.
I diversi tipi di agenti possono avere le proprie impostazioni e guardrail per definire il comportamento degli agenti. Ad esempio, i modelli di agente dell'assistenza Agentforce utilizzano istruzioni per i subagenti per determinare quando inoltrare la conversazione dall'agente a un agente dell'assistenza. Il tipo di agente DSP ha regole di coinvolgimento definite dall'amministratore per le condizioni in cui l'agente può iniziare a lavorare sul lead e come e quando è possibile inviare email all'agente.
Autorizzazioni e accesso
Gli agenti AI rispettano i controlli di accesso Salesforce standard come licenze, autorizzazioni, protezione a livello di campo e impostazioni di condivisione, quindi un agente agisce sempre in modo sicuro.
- Tipi di agenti: L'agente Agentforce predefinito è disponibile per gli amministratori e gli utenti con gli insiemi di autorizzazioni Agentforce Default. Alcuni tipi di agenti sono creati per funzionare con cloud o licenze specifiche, quindi richiedono un'altra licenza.
- Agenti secondari standard: Molti subagenti standard sono disponibili per tutti gli utenti autorizzati ad accedere all'agente Agentforce predefinito.
- Azioni agente standard: Molte azioni standard sono disponibili per tutti gli utenti autorizzati ad accedere all'agente Agentforce predefinito. Alcune azioni standard sono create per funzionare con cloud o prodotti specifici, quindi richiedono un'altra licenza o autorizzazione.
- Azioni agente personalizzate: L'accesso a un'azione personalizzata dipende dalla classe Apex, dal flusso o dal modello di prompt a cui fa riferimento l'azione. Ad esempio, se un'azione personalizzata viene creata utilizzando un flusso, l'azione personalizzata rispetta le autorizzazioni, la protezione a livello di campo e le impostazioni di condivisione configurate nel flusso.
URL affidabili
Agentforce applica l'elenco consentiti URL affidabili dell'azienda. Ciò impedisce all'agente di chiamare o generare link dannosi e protegge i dati sensibili.
Quando un agente tenta di includere un URL non approvato in una risposta, l'URL non approvato viene sostituito da "URL_Redacted". Viene anche visualizzato un messaggio di errore nell'area di disegno del piano quando l'agente tenta di chiamare o generare un URL non approvato, in modo che sia possibile valutare se un URL bloccato deve essere inserito nell'elenco consentiti o rimosso dalla configurazione dell'agente.
Quando si configurano le citazioni per l'agente, gli URL di origine utilizzati per generare le risposte dell'agente vengono visualizzati nella conversazione dell'agente, anche se il dominio non è incluso negli URL affidabili.
Per utilizzare un URL con un agente, aggiungerlo agli URL affidabili.
Conformità degli agenti
Agentforce è incluso come servizio coperto nei rapporti Einstein Platform e Agentforce SOC 2 e SOC 3. Agentforce è idoneo all'HIPAA ed è coperto dalle restrizioni Addendum Business Associate Salesforce e ha anche conseguito le certificazioni ISO 27001, 27017 e 27018.
- Limitazioni del mascheramento dei dati in Agentforce
In Einstein Trust Layer, il mascheramento dei dati basato su schemi e campi per i modelli di lingua di grandi dimensioni (LLM) è disabilitato per gli agenti.
