使用績效洞察評估提示
直接在提示詞產生器中分析模型產生度量和相關洞察,以瞭解測試提示範本時的效能、權杖用量和遮蔽資料。
必要版本
| 提供版本：Lightning Experience |
| 提供版本：具有 Einstein for Platform、適於銷售的 Einstein 或 Agentforce 或 Service 附加元件,或適用於 Agentforce Foundations 的 Enterprise、Performance 及 Unlimited Edition |
提示詞產生器包含集中化「效能洞察」面板,顯示提示的執行方式、權杖的計算方式,以及背景中發生的處理方式。
面板可與「預覽」設定一起存取,並將主要效能資料合併到一個位置。
效能洞察面板概觀
面板會呈現與提示預覽和產生相關聯的效能度量。執行預覽後,您可以檢視:
- 回應時間 (延遲)
- 權杖用量
- 遮蔽值
回應時間 (延遲)
「回應時間」會顯示完成產生的總時間。此區段包括:
- 取得提示中繼資料
- 取得必要資料 (例如物件與流程)
- 使用實際資料合併合併欄位
- 摘要 (如果提示超出模型的內容視窗)
- 遮罩敏感欄位
- 產生回應
- 其他 (在先前所列步驟之外的簡短處理時間帳戶)
瞭解回應時間的細目有助於識別效能瓶頸,例如過度的資料提取、瞭解模型選取如何影響產生速度,並瞭解背景處理,例如摘要。
權杖用量
權杖用量會顯示產生期間使用的權杖總數。權杖用量分為下列種類:
- 權杖總數:輸入與輸出權杖
- 輸入權杖:傳送至模型的所有內容
- 輸出權杖:模型產生的回應
重要 個別輸入元件會顯示為約略。權杖總計數來自 LLM Gateway,並反映帳單計算的值。當提示在「預覽」之外執行時,權杖計數會影響帳單。帳單是根據包含輸入和輸出的權杖總使用量進行計算。
遮蔽值
遮蔽的資料會顯示在「效能洞察」面板中。您可以在其中檢視遮蔽欄位的清單,並確認遮蔽的資料未傳送至模型。
- 在提示詞產生器中檢視效能洞察
直接在提示詞產生器中評估如回應時間、權杖用量和遮蔽值等主要產生度量,以瞭解提示的執行方式。
此文章是否解決您的問題？
請讓我們知道，以便我們改進！
