Olet tässä:
Einsteinin auditoinnin, Analyticsin ja valvonnan määritykset
Keskittää generoivan tekoälyn kehotteiden, LLM-vastausten ja käyttäjien palautteen kirjaamisen Data Cloudiin vaatimustenmukaisuutta, auditointia ja mallien optimointia varten.
Ohjaimen nimi
Einstein Trust Layer - Auditointi- ja palautetiedot
Ohjauksen yleiskatsaus
Keskittää generoivan tekoälyn kehotteiden, LLM-vastausten ja käyttäjien palautteen kirjaamisen Data Cloudiin vaatimustenmukaisuutta, auditointia ja mallien optimointia varten.
Kuvaus
Sallii Trust Layer -signaalien ja käyttäjien palautteen pysyvän tallennuksen, siirtää dataa väliaikaisesta muistista pysyviin datamalliobjekteihin (DMO) ja sallii pääkäyttäjien valvoa agenttien suorituskykyä ja tarkkuutta.
Suositeltu kokoonpano
Avaa Määritykset-valikko Einsteinin auditointi, Analytics ja valvonta. Ota käyttöön Einsteinin generoivan tekoälyn auditointitietojen kerääminen ja säilyttäminen ja käyttäjien palautteen kerääminen. Varmista, että Data Cloud on täysin provisioitu näiden datavirtojen isännöimiseen.
Tietoturvan vaikutus
Tarjoaa oikeudellisen seurannan, jota tarvitaan tarkkuuden, suorituskyvyn, tietovuotojen tai toksisten vuorovaikutusten tutkimiseen varmistaakseen, että yritys täyttää sen vaatimukset sen käyttötarkoitusten perusteella.
Liiketoiminnan vaikutus
Luo agenteillesi lokien keskitetyn säilön, jossa reaaliaikaista käyttäjien palautetta ja dataa käytetään kehotteiden mallien ja agenttien ohjeiden tarkentamiseen.
Tietoturvariski, jos ei määritetty
Jos agentti antaa virheellisiä tai haitallisia neuvoja, ei ole pysyvää tietuetta syyn diagnosoimiseksi tai todistaakseen, mitä sanottiin.
Uhkien skenaariot
Vastuuvapaus: Lokien puuttuminen vuorovaikutuksen vahvistamiseksi ristiriitojen varalta. Tuhmat paikat: AI-vastausten järjestelmällistä vinoumaa ei havaita kuukausia.
Arvioitu CVSS-pistealue
Kriittinen (9.0–10.0).
Riskien vaikutuksissa huomioitavia asioita
Tämän kokoonpanon ottaminen käyttöön kerää asiaankuuluvat tarkastus- ja palautetiedot. Asiakkaiden tulisi kuitenkin ottaa käyttöön asianmukaiset hälytys- ja valvonta-asetukset varmistaakseen, että asiaankuuluvat poikkeamat raportoidaan ja että väärät positiiviset ongelmat korjataan melun vähentämiseksi.
Korkeampi riski, kun
Auditointitietojen keräämistä ei voi tallentaa Data Cloud -hyvityksiin tai kun palautetta kerätään, mutta henkilö ei koskaan tarkasta.
Matalan riskin milloin
Asiakkaat ovat ottaneet käyttöön mukautettuja lokitoimenpiteitä, joissa agenttien vuorovaikutukset kirjataan lokiin kehotteiden käyttöönottoa, toksisuuden havaitsemista ja muita ominaisuuksia suorituskyvyn ja tarkkuuden valvomista varten.
Liiketoiminnassa ja integraatiossa huomioitavia asioita
Tallennuskulut: Tämä data kuluttaa Data Cloud -hyvityksiä. Viive: Tarkastustietojen näyttäminen raporteissa voi kestää 24 tuntia.
Tietoturvan terveystarkastuksen ohjeet
Suojauksen terveystarkastus vahvistaa Audit Data -kytkimen "Otettu käyttöön" -tilan ja merkitsee esiintymät, joissa palauteloketjut eivät ole aktiivisia, mikä estää yritystä parantamasta tekoälyn turvallisuuttaan.
Kuka vaikuttaa
Datan hallintavirkailijat, tekoälyn pääkäyttäjät, asiakaspalvelupäälliköt ja lakisääteiset / vaatimustenmukaisuustarkastajat.
