breadcrumbDescription
Design etiske AI-modeller
Salesforce tilbyder vejledning til at hjælpe dig med at praktisere etisk brug af kunstig intelligens (AI) i din forretning.
Etisk AI i Salesforce
Etisk AI er en vigtig del af Salesforces forpligtelse over etisk og menneskelig brug af teknologi. Hvis du ønsker en oversigt, kan du se disse ressourcer:
- Etisk og menneskelig anvendelse i Salesforce
- Trailhead-modulet Responsible Creation of Artificial Intelligence (Ansvarlig oprettelse af kunstig intelligens)
Bias i modellering af data
Bias i data kan føre til urimelige eller unøjagtige forudsigelser, der utilsigtet kan nedsætte visse grupper eller skævme forretningsresultater. I Einstein Studio starter opbygning af etiske modeller med at forstå, hvor der findes bias i dine data og tage proaktive handlinger for at minimere dens påvirkning gennem modellens livscyklus.
| BIAS-TYPE | SCENARIO | Anbefalet handling |
|---|---|---|
| Historisk | Tidligere data afspejler eksisterende uligheder eller personlige beslutninger, der ikke var objektive. En model, der forudsiger kundeprioritering, kan f.eks. forebygge ubalancer i servicekvalitet ved kontinuerligt at foretrække eksisterende kundeprofiler. Historiske supportdata angiver, at visse kunder modtog hurtigere løsninger på grund af opfattet vigtighed eller forbrugsmæssig styrke. |
Før implementering skal du overvåge eller teste modeller, der bruger forskellige datasæt og rimelighedsmetrikker til at kontrollere for bias. Hvis du vil registrere og håndtere forkerte klassificeringer, skal du implementere en gennemsynsproces for mennesker for vigtige beslutninger. |
| Variabel (funktion) | Inputvariabler, der bruges til at træne en model, påvirker forudsigelser urimeligt eller afslører skjult bias. De introduceres efter valg eller er en repræsentation af variabler i dine data. Bias forekommer, når visse attributter, f.eks. placering, alder eller køn, påvirker forudsigelser uforholdsmæssigt. En model, der forudsiger kundetilfredshed, bruger f.eks. variablen "foretrukken kommunikationskanal". Nogle kundesegmenter foretrækker specifikke kanaler (chat, telefon eller mail) på grund af alder, tilgængelighed eller kulturelle faktorer. Modellen forkert bedømmer tilfredshed for grupper, der engagerer sig gennem mindre dominerende kanaler. |
Før implementering skal du overvåge eller teste modeller, der bruger forskellige datasæt og rimelighedsmetrikker til at kontrollere for bias. Fjern eller rediger variabler, der direkte refererer til følsomme attributter, eller erstat dem med mindre partiske proxyer. Rediger beslutningstærskler for underrepræsenterede grupper for at reducere urimelige resultater. Hvis du vil registrere og håndtere forkerte klassificeringer, skal du implementere en gennemsynsproces for mennesker for vigtige beslutninger. |
| Betegnelse | Resultater i data er inkonsekvent eller urimeligt navngivet på grund af inkonsekvent, unøjagtig eller subjektiv vurdering. En model, der forudsiger afgang, bruger f.eks. afgangsbetegnelsen "ingen køb inden for 90 dage". Men nogle kunder kan have lange købscyklusser, f.eks. sæsonbestemte købere. Modellen forudsiger, at disse kunder "udløste", selvom deres forbrugeradfærd er normal for deres segment. |
Overvåg betegnelser for at sikre, at de afspejler resultatet i den virkelige verden nøjagtigt. Udelad datapunkter, hvor betegnelser er tydeligt inkonsekvente eller subjektive. Sørg for, at segmenter, der er forkert repræsenteret, har tilstrækkelige eksempler med korrekte betegnelser. |
| Prøvetagning | Træningsdata er ikke forskellige nok til at repræsentere kunder eller anvendelsessituationer. En model, der forudsiger sandsynligheden for at købe overestimerer f.eks. engagement eller tilfredshedsscores. Da inaktive eller afbildede kunder er underrepræsenterede, har modellen ikke lært fra mindre aktive kundesegmenter. |
Overvåg uddannelsesdata for at identificere, hvilke segmenter af din kundebase eller anvendelsessituationer der er underrepræsenterede. Sammenlign også modelydeevne på tværs af forskellige segmenter for at identificere forskelle. |
