您在此处:
准备模型弃用和重新路由
本文档提供了在模型弃用和重新路由期间重新测试 Salesforce AI 实施的指导。弃用和重新路由被视为临时的。如果您的模型处于这些状态之一,请考虑切换到新模型。
| 术语表 | |
|---|---|
| 弃用 | 在 AI 开发中,“弃用”描述了不再推荐使用的模型。模型提供商,例如 Open AI,通常在新的改进模型可用时弃用旧模型。弃用是一个正式的过程,向用户指示要过渡到不同的模型。在弃用阶段,弃用的模型仍按设计工作。 |
| 重新路由 | 模型重定向是将请求从旧模型重定向到可用替代模型的过程。当模型提供商弃用或停用模型时,可能会发生重新路由。Salesforce 会重新路由请求,以确保服务的连续性。 |
弃用和重新路由信息
Einstein 平台发行说明中公布了模型弃用和重新路由通知。大语言模型支持页面也会列出已弃用和重新路由的模型列表。
当模型提供商停用模型时,Salesforce 可以将请求路由到该模型系列的最新版本,以确保服务的连续性。例如,OpenAI GPT 3.5 Turbo 16k 请求路由到 OpenAI GPT 3.5 Turbo。
更改模型时的指导
-
在 Einstein Studio Model Playground 中配置模型时,无法选择已弃用和重新路由的模型。 相反,您可以选择新的基础模型来继续使用您的配置。
- 在 Einstein Studio 中,创建与重新路由的模型匹配的新配置模型(如果适用)。使用与之前模型相同的超参数设置配置。
- 保存配置后,打开提示生成器。
- 使用新模型重新测试提示模板。在 Einstein Studio 的模型 Playground 中,可以直接在提示生成器中测试提示和响应。调整提示模板,使其与您的目标保持一致。
- 如果实施包含客服人员,请在 Agentforce Builder 中打开客服人员。在 Agentforce Builder 中,您可以测试主题、操作和 Knowledge 来配置客服人员。调整客服人员行为,使其符合成功的预定定义。
- 分别设置配置的模型、提示模板和客服人员后,端到端地测试整个 AI 实施。持续获得用户反馈进行改进非常重要。

