Toxiciteitsscores beoordelen

Als u toxiciteitsscores wilt interpreteren, moet u begrijpen hoe het model giftige inhoud detecteert en rapporteert.

Wanneer het veld isToxicityDetected true (waar) is, geeft dit een hoog niveau van vertrouwen aan dat de inhoud giftige taal bevat. Wanneer het veld false (onwaar) is, betekent dit niet noodzakelijkerwijs dat de inhoud giftig is. Een false-waarde betekent alleen dat het model geen toxiciteit heeft gedetecteerd. Het model biedt scores van 0 tot 1.

• De score voor de veiligheidscategorie varieert van 0 tot 1, waarbij 1 de veiligste is. Een veiligheidsscore van 0,5 tot 1 wordt als veilig beschouwd.
• Scores voor alle andere categorieën geven het niveau van toxiciteit per categorie aan en variëren van 0 tot 1, waarbij 1 het meest toxisch is. Een score van 0,5 of hoger wordt als giftig voor die categorie beschouwd.

Zie Inzichten delen uit Einstein Generative AI Audit and Feedback Data om toxiciteitstrends in de loop van de tijd te bewaken, Data 360-rapporten samen te stellen of query's uit te voeren op controlegegevens.