Einstein Trust Layer: Progettato per Trust
Einstein Trust Layer è una raccolta di funzioni, processi e policy progettati per salvaguardare la privacy dei dati, migliorare la precisione dell'intelligenza artificiale e promuovere un uso responsabile dell'intelligenza artificiale in tutto l'ecosistema Salesforce.
Versioni (Edition) richieste
| Disponibile in: versioni Enterprise Edition, Performance Edition e Unlimited Edition con un componente aggiuntivo Einstein for Sales, Einstein for Platform, Einstein for Service, Einstein 1 Service o Einstein GPT Service. Per acquistare componenti aggiuntivi, contattare il proprio responsabile account Salesforce. |
Per capire come funziona Einstein Trust Layer, esaminiamo come i dati passano attraverso il Trust Layer e quindi analizziamo in dettaglio ogni parte del journey.
- I dati sotto forma di prompt, fluiscono dalle app CRM, attraverso Einstein Trust Layer, al modello di linguaggio di grandi dimensioni (LLM), che chiameremo prompt journey.
- LLM genera una risposta utilizzando il prompt, che viene chiamato generazione della risposta.
- La risposta generata ritorna quindi attraverso Einstein Trust Layer e alle app CRM, che verranno chiamate response journey.
Come funziona?
Journey prompt
Per generare una risposta da LLM, è necessario fornire un prompt. Il prompt può provenire da qualsiasi app CRM. È possibile creare un prompt nel Generatore di prompt e invocarlo da Apex o da un flusso.
Protezione del recupero e del radicamento dei dati
Il primo passo nel Trust Layer è il recupero sicuro dei dati. Affinché il componente LLM generi una risposta più pertinente e personalizzata, è necessario che i dati CRM contengano ulteriore contesto. Questo processo di aggiunta di ulteriore contesto al prompt è quello che chiamiamo radicamento nel contesto. È possibile basare i prompt utilizzando campi di unione con dati CRM, che possono essere campi di record, flussi, Apex, DMO di Data 360 ed elenchi correlati.
Recupero sicuro dei dati significa che il prompt è basato solo sui dati a cui l'utente che esegue l'esecuzione ha accesso.
Il processo di recupero dei dati rispetta i controlli di accesso e le autorizzazioni esistenti in Salesforce:
- Il recupero dei dati per il radicamento del prompt si basa sulle autorizzazioni dell'utente che esegue il prompt.
- Il recupero dei dati per il radicamento del prompt mantiene tutti i controlli standard basati sui ruoli di Salesforce per le autorizzazioni utente e la protezione a livello di campo durante il radicamento dei dati dall'istanza CRM.
Il radicamento nel contesto è dinamico poiché avviene in fase di esecuzione e dipende dall'accesso dell'utente.
Mascheramento dei dati per LLM
Le policy Einstein Trust Layer includono il mascheramento dei dati, in cui i dati sensibili vengono rilevati e quindi mascherati. I dati sensibili vengono identificati utilizzando due metodi:
- Basato su schema: Gli schemi e il contesto vengono utilizzati per identificare i dati sensibili nel testo del prompt. Nello specifico si utilizzano schemi di espressioni regolari (regex) e parole di contesto. Vengono inoltre utilizzati modelli di machine learning addestrati per identificare i dati che non hanno uno schema definito, ad esempio i nomi di persone o aziende.
- Basato su campo: I metadati dei campi classificati con Shield Platform Encryption o la classificazione dei dati vengono utilizzati per identificare i campi sensibili. Questo estende la classificazione già applicata ai dati nell'organizzazione al mascheramento dei dati LLM.
Una volta identificati, i dati vengono quindi mascherati con un testo segnaposto per evitare che vengano esposti a modelli esterni. Einstein Trust Layer memorizza temporaneamente la relazione tra le entità originali e i rispettivi segnaposto. La relazione viene utilizzata in seguito per rimuovere i dati dalla risposta generata.
Difesa prompt
Per contribuire a ridurre la probabilità che LLM generi qualcosa di non intenzionale o dannoso, Generatore di prompt e API Connect modello di prompt utilizzano le policy di sistema. Le policy di sistema sono una serie di istruzioni per LLM su come comportarsi in un certo modo per creare Trust con gli utenti. Ad esempio, è possibile indicare all'LLM di non indirizzare contenuti o generare risposte su cui non ha informazioni. Le policy di sistema sono un modo per difendersi da attacchi jailbreaking e prompt injection.
Generazione di risposte
Dopo che un prompt è stato completamente idratato e protetto, è pronto per essere inviato tramite il gateway LLM. Il gateway regola le interazioni con diversi provider di modelli e rappresenta un modo unificato e sicuro per comunicare con più LLM. Il gateway e i provider di modelli utilizzano la crittografia TLS per assicurarsi che i dati siano protetti durante il transito.
I modelli creati o perfezionati da Salesforce sono ospitati nel confine Trust Salesforce. I modelli esterni creati e gestiti da provider di terze parti, ad esempio OpenAI, rientrano in un confine Trust condiviso. I modelli creati e gestiti dall'utente sono ospitati nell'infrastruttura.
Abbiamo una policy di conservazione dei dati pari a zero con fornitori di modelli di partner esterni, ad esempio OpenAI o Azure OpenAI. La policy stabilisce che i dati inviati al componente LLM da Salesforce non vengono conservati e vengono eliminati dopo che una risposta viene inviata di nuovo a Salesforce.
Einstein Trust Layer: Il journey di risposta
Quando la risposta generata viene restituita dal modello di lingua di grandi dimensioni, Einstein Trust Layer applica determinati criteri e processi per assicurarsi che la risposta sia sicura e utile. Vedere Livello Einstein Trust: Response Journey.
