breadcrumbDescription
Forbered modeludfasning og omdistribution
Dette dokument giver vejledning om at teste Salesforce AI-implementeringer igen under modeludfasning og omdistribution. Afbrydelse og omdirigering betragtes som midlertidig. Hvis din model er i en af disse tilstande, kan du overveje at skifte til en ny model.
| Ordliste for udtryk | |
|---|---|
| Fjernelse | I konteksten af AI-udvikling beskriver "udfasning" en model, der ikke længere anbefales til brug. Modeleverandører, f.eks. Open AI, fjerner typisk gamle modeller, når der er nye, forbedrede modeller tilgængelige. Udfasning er en formel proces, der angiver, at brugere skal skifte til en anden model. Under udfasningsfasen fungerer en udfaset model stadig, som den er designet. |
| Omdirigering | Modelomdirigering er en proces med omdirigering af anmodninger fra en ældre model til et tilgængeligt alternativ. Omdirigering kan forekomme, når modeludbyderen fjerner eller trækker modellen tilbage. Salesforce omdirigerer anmodninger for at sikre kontinuiteten af servicen. |
Fjernelse og omdirigeringsoplysninger
Meddelelser om udfasning af modeller og omdistribution offentliggøres i Einstein Platform-produktbemærkninger. En liste over udfasede og omdirigerede modeller vises også på siden Support af stor sprogmodel.
Når en modeludbyder trækker en model tilbage, kan Salesforce distribuere anmodninger til den seneste version af den pågældende modelfamilie for at sikre kontinuiteten af servicen. F.eks. distribuerer OpenAI GPT 3.5 Turbo 16k-anmodninger til OpenAI GPT 3.5 Turbo.
Definer succes for din implementering
- Definer, hvordan succes ser ud for dine slutbrugere. Forskellige anvendelsessituationer kræver entydige testmetoder.
- Gem testresultater fra den indledende implementeringsfase. Hvis du har eksempler på forventede svar, kan du bruge dem til at sammenligne dem med resultatet. Brug de samme test for den nye model for at sikre, at der ikke er væsentlige variationer.
Vejledning, når du ændrer modeller
-
Når du konfigurerer en model i AI Models (tidligere Einstein Studio) Model Playground, kan du ikke vælge udfasede og omdirigerede modeller. I stedet kan du vælge en ny grundlægningsmodel for at fortsætte med at bruge dine konfigurationer.
- I AI-modeller skal du oprette en ny konfigureret model, der matcher den omdirigerede model (hvis relevant). Angiv konfigurationen med de samme hyperparametre som den foregående model.
- Efter lagring af konfigurationen skal du åbne Promptkonstruktør.
- Prøv meddelelsesskabeloner igen ved brug af den nye model. Test af meddelelser og svar i Promptkonstruktør kan udføres direkte i modelpladsen i AI-modeller. Juster meddelelsesskabelonen, så den stemmer overens med dine mål.
- Hvis din implementering inkluderer agenter, skal du åbne agenten i Agentforce I Agentforce Builder kan du teste underagenter, handlinger og Knowledge for at konfigurere en agent. Juster agentadfærden, så den stemmer overens med den foruddefinerede definition af succes.
- Når du har angivet den konfigurerede model, meddelelsesskabelon og agent individuelt, kan du teste hele din AI-implementering fra ende til ende. Det er vigtigt kontinuerligt at få brugerfeedback for forbedringer.
Løste denne artikel dit problem?
Giv os besked, så vi kan forbedre os!
