Olet tässä:
LLM Data Masking (käytettävissä muille kuin Agentforce Generative AI -käyttäjille)
Tunnistaa ja peittää automaattisesti luottamukselliset tiedot (PII, PCI jne.) kehotteessa ennen kuin ne siirretään ulkoiseen Large Language Modeliin (LLM).
Ohjaimen nimi
Einstein Trust - LLM Data Masking (käytettävissä Agentforce tekoälyä varten)
Ohjauksen yleiskatsaus
Tunnistaa ja peittää automaattisesti luottamukselliset tiedot (PII, PCI jne.) kehotteessa ennen kuin ne siirretään ulkoiseen Large Language Modeliin (LLM).
Kuvaus
Käyttää kuvion täsmäystä ja koneoppimista korvatakseen luottamukselliset entiteetit (esimerkiksi nimet, sähköpostit, luottokorttinumerot) paikanpitäjillä, jotka poistetaan peittämiseltä vasta, kun vastaus palautuu Salesforceen.
Suositeltu kokoonpano
Ota ”LLM Data Masking” käyttöön Einsteinin Määritykset-valikosta. Mukauta kaikkien asiaankuuluvien entiteettien (SSN, puhelin, sähköposti) tiettyjä peittokäytäntöjä yksityisyyden ja vaatimustenmukaisuuden vaatimusten mukaisesti.
Tietoturvan vaikutus
Estää luottamuksellisten tietojen jakamisen LLM-todentajien kanssa, jotta he voivat noudattaa globaaleja tietoturvaa koskevia säännöksiä, kuten GDPR ja CCPA.
Liiketoiminnan vaikutus
Sallii tekoälyn sukupolven turvallisen käyttöönoton asiakkaille ja sisäisille työnkuluille ilman, että vaarannat datan residenssin rikkomuksia tai immateriaalioikeuksien vuotoja.
Tietoturvariski, jos ei määritetty
Peittämättömät luottamukselliset tiedot (PII/PHI) lähetetään LLM-todentajalle (esimerkiksi OpenAI, Anthropic) plaintext-muodossa, mikä saattaa rikkoa tietojen käsittelysopimuksia ja organisaation käytäntöjä.
Uhkien skenaariot
Tietovuodo: Käyttäjä lisää luottamuksellisia kenttiä kehotteeseen vahingossa.
Arvioitu CVSS-pistealue
Kriittinen (9.0–10.0).
Riskien vaikutuksissa huomioitavia asioita
Riskit ovat äärimmäisiä organisaatioille, jotka toimivat säännellyillä aloilla (Finance, Health), joissa yhden peittämättömän tietueen lähettäminen ulkoiseen pilvipalveluun voi käynnistää pakollisen rikkomusilmoituksen.
Korkeampi riski, kun
Luonnollisen tekoälyn käyttäjät sisältävät tietoja luottamuksellisista kentistä (esimerkiksi PII/PCI-datasta) kehotteisiinsa useimmissa käyttötarkoituksissa.
Matalan riskin milloin
Nollatietojen säilyttäminen (ZDR) noudatetaan teknisesti ulkoisten LLM-todentajien kanssa, tai sisäisesti isännöityä mallia käytetään yrityksesi kehittämän LLM:n kouluttamiseen.
Liiketoiminnassa ja integraatiossa huomioitavia asioita
Peittäminen saattaa joskus heikentää LLM:n asiayhteydestä johtuvaa tarkkuutta, jos liian paljon dataa piilotetaan. Kehotteiden malleja täytyy testata huolellisesti tietoturvan ja hyödyllisyyden tasapainottamiseksi.
Tietoturvan terveystarkastuksen ohjeet
Tietoturvan terveystarkastus tarkastaa Einsteinin Trust Layer -määritykset varmistaakseen, että datan peittäminen on käytössä.
Kuka vaikuttaa
Tietoturvapäälliköt, tekoälyn kehittäjät, pääkäyttäjät ja kaikki Kehotteiden rakentaja- tai Einstein Copilot -ominaisuuksia käyttävät käyttäjät.
