Usted está aquí:
Prepararse para la desaprobación y el reenrutamiento de modelos
Este documento proporciona directrices para volver a probar implementaciones de IA de Salesforce durante la desaprobación y el reenrutamiento del modelo. La desaprobación y el reenrutamiento se consideran temporales. Si su modelo está en uno de estos estados, considere cambiar a un nuevo modelo.
| Glosario de términos | |
|---|---|
| Depreciación | En el contexto del desarrollo de IA, “obsoleto” describe un modelo que ya no se recomienda su uso. Los proveedores de modelos, como Open AI, normalmente desaprueban modelos antiguos cuando hay modelos nuevos y mejorados disponibles. La obsolescencia es un proceso formal que indica a los usuarios que deben realizar la transición a un modelo diferente. Durante la fase de desaprobación, un modelo desaprobado sigue funcionando según lo diseñado. |
| Enrutamiento | El redireccionamiento de modelos es un proceso de redirigir solicitudes desde un modelo anterior a una alternativa disponible. El reenrutamiento puede producirse cuando el proveedor del modelo desusa o retira el modelo. Salesforce redirige las solicitudes para garantizar la continuidad del servicio. |
Información de desaprobación y reenrutamiento
Los avisos de desaprobación y reenrutamiento de modelos se publican en las notas de versión de Plataforma Einstein. Una lista de modelos desusados y redirigidos también se enumera en la página Admisión de modelo de idioma grande.
Cuando un proveedor de modelos retira un modelo, Salesforce puede enrutar solicitudes a la versión más reciente de esa familia de modelos para garantizar la continuidad del servicio. Por ejemplo, OpenAI GPT 3.5 Turbo 16k solicita el enrutamiento a OpenAI GPT 3.5 Turbo.
Definir el éxito para su implementación
- Defina el aspecto del éxito para sus usuarios finales. Los diferentes casos de uso requieren métodos de prueba exclusivos.
- Guarde los resultados de las pruebas desde la fase de implementación inicial. Si tiene ejemplos de respuestas esperadas, utilícelos para comparar con el resultado. Utilice las mismas pruebas para el nuevo modelo para asegurarse de que no hay variaciones significativas.
Directrices al cambiar modelos
-
Al configurar un modelo en Einstein Studio Model Playground, no se pueden seleccionar modelos desusados y redirigidos. En su lugar, puede seleccionar un nuevo modelo de base para continuar utilizando sus configuraciones.
Nota Revise la configuración del modelo en Model Builder. Consulte, Crear una configuración de modelo. - En Einstein Studio, cree un nuevo modelo configurado que coincida con el modelo redirigido (si procede). Establezca la configuración con los mismos hiperparámetros que el modelo anterior.
- Tras guardar la configuración, abra Generador de solicitudes.
- Vuelva a probar plantillas de solicitudes utilizando el nuevo modelo. Las solicitudes y respuestas de prueba en Generador de solicitudes se pueden realizar directamente en el Espacio de pruebas de modelos en Einstein Studio. Ajuste la plantilla de solicitud de modo que se alinee con sus objetivos.
- Si su implementación incluye agentes, abra el agente en Agentforce Builder. En Agentforce Builder, puede probar subagentes, acciones y Knowledge para configurar un agente. Ajuste el comportamiento del agente de modo que se alinee con la definición predeterminada de éxito.
- Tras establecer el modelo configurado, la plantilla de solicitud y el agente de forma individual, pruebe toda su implementación de IA de extremo a extremo. Es importante obtener continuamente comentarios de usuarios para mejoras.
