Kehotteen mallin eräkäsittely

Yleiskatsaus

Eräkäsittely luo suuren määrän kehotteiden vastauksia ei-synkronoidusti yhdessä pyynnössä. Tämä lähestymistapa auttaa sinua välttymään LLM-suhteiden rajoitusten ylittymiseltä ja käsittelee tehokkaasti raskaan sisällön luonnin.

Järjestelmä asettaa erätyösi jonoon, käsittelee kaikki kohteet ja tallentaa tulokset. Voit valvoa työn edistymistä ja noutaa valmiita vastauksia valmiina. Todellinen suoritusaika riippuu mallin tarjoajasta ja voi vaihdella.

Yleisiin käyttötarkoituksiin sisältyy:

• Henkilökohtaisten sähköpostikampanjoiden luominen tuhansille asiakkaille.
• Tuotekuvausten luominen katalogitiedoista.
• Suuren määrän tapausten huomautusten tai asiakaspalautteen yhteenveto.
• Sisällön kääntäminen useista tietueista.
• Joukkosisällön luomisen käynnistäminen aikataulun tai tietueiden muutosten perusteella.

Toteutusvaihtoehdot

Salesforce tarjoaa kaksi ensisijaista menetelmää eräkäsittelyn toteuttamiseen:

Kulku

Tämä lähestymistapa toimii useimmille käyttötarkoituksille, ja se soveltuu parhaiten Salesforce-pääkäyttäjille, jotka rakentavat ilman koodia käytettäviä ratkaisuja. Käytä Kehotteen malli (erän luonti) -toimintoa ajoitetusti käynnistetyssä tai tietueiden käynnistämässä kulussa luodaksesi erätöitä, jotka suoritetaan automaattisesti. Nämä kulut sisältävät valmiit- ja aikakatkaistut-polut, jotta voit käsitellä onnistuneen suorituksen ja aikakatkaisun skenaarioita eri tavalla.

Rajoitukset:

• Kulkujen erätöiden käsittely aloitetaan tavallisesti kahden tunnin kuluessa lähetyksestä.
• Vakiomalleille enintään 10 000 generointia per päivä.
• Jos käytät malleja, jotka tukevat natiiviin eräkäsittelyyn, enintään 50 000 generointia per päivä.
• Enintään 1 000 kohdetta tunnissa, kun käytät WebSearch Retrieverejä.

Apex

Tämä lähestymistapa tarjoaa mahdollisimman paljon joustavuutta mukautetussa integraatiossa ja automatisoinnissa. Käytä AiJobRun- ja AiJobRunItem-objekteja luodaksesi ja hallitaksesi erätöitä ohjelmallisesti. Apex on suositeltavaa, kun haluat:

• Laadi mukautettu käyttöliittymä. Esimerkiksi: painike, joka käynnistää työn, tai mittaristo, joka sisältää erätöitä.
• Hallitse erän kokoa dynaamisesti (kerää kohteita määrään tai aikakynnysarvoon asti ja aloita sitten).
• Käynnistä ulkoisista tapahtumista, jotka eivät ole tietueiden käynnistämää tai aikatauluihin perustuvaa.

Rajoitukset:

• Enintään 1 000 AiJobRunItems per AiJobRun.
• Jos käytät malleja, jotka tukevat natiivisten erien käsittelyä, AiJobRunItems-rajoitus on 10 000 per AiJobRun.
• Enintään 1 000 kohdetta tunnissa, kun käytät WebSearch Retrieverejä.
• Enintään 5 AiJobRun-objektia 24 tunnissa. Jos pyyntösi ylittävät päivittäisen rajoituksen, ne asetetaan jonoon, kunnes rajoitus nollataan.

Parhaat käytännöt

Valitse oikea malli:

• Käytä mallia, jonka otsikko on Erätuettu: Kyllä Kehotteiden rakentajassa nopeampaa käsittelyä varten.
• Vältä minimallien käyttämistä erissä, koska ne ovat merkittävästi hitaampia.

Eräsi koon muuttaminen:

• Suurempi on parempi. Työn määrä on rajoittava tekijä, ei kyseisten töiden kohteita. 200 ja 2 000 erän erät suoritetaan noin samalla ajanjaksolla.
• Yksi tai useampi epäonnistunut kohde ei estä muuta erää.

Valitse oikea toteutus: Kulku vs. Apex:

• Käytä kulkua, ellet tarvitse mukautettua käyttöliittymää töiden käynnistämiseen, dynaamisen erän koon määrittämiseen tai muihin kuin tietueisiin ja ajoittamattomiin käynnistimiin.

Suunnittele kulkusi:

• Suorita vain yksi erätoiminto per kulku. Ketjutetut erätoiminnot asetetaan jonoon ja nopeuttavat suoritusaikaa merkittävästi.
• Yhdistä kehotteet yhteen malliin, kun se on mahdollista.
• Määritä aikakatkaisuksi 1 päivä.

Työn edistymisen valvonta:

• Kysele AiJobRun ja AiJobRunItem nähdäksesi tilat, kohteiden määrät, virheet ja vastaukset.
• Tilaa AiJobRunStatusEvent tapahtumiin perustuville työnkuluille.

Rajoitukset ja huomioitavia asioita

Edellytykset

• Määritetyllä kehotteella täytyy olla aktiivinen versio.
• Kululle: Oletustyönkulkukäyttäjän täytyy olla määritetty prosessien automatisointiasetuksista.

Käsittelykäytäntö

• Työt suoritetaan kronologisessa järjestyksessä luontipäivän perusteella.
• Sekunteina toisistaan luodut työt eivät välttämättä noudata tiukkaa järjestystä.
• Kun käsittely on aloitettu, syötetyt arvot ja tietyt kentät pysyvät muuttumattomina.
• Työtilan muutokset ovat järjestelmän hallitsemia eikä niitä voi muuttaa manuaalisesti.
• Valmistumisaika riippuu mallin tarjoajasta ja voi vaihdella.

Sovellusalustassa huomioitavia asioita

• Eräkäsittely tapahtuu asynkronisesti eikä tuloksia löydy välittömästi.
• Määritä asiaankuuluvat aikakatkaisun pituudet. Kulkujen erätöille suositellaan päivää.
• Valvo töiden tilaa sovellusalustan tapahtumien kautta tai kyselemällä työtietueita.
• Suunnittele käsittelyaika, kun suunnittelet ajasta riippuvaisia työnkulkuja.
• Harkitse epäonnistuneiden tuotteiden varakäsittelyä erässä.