Compatibilidad de modelo de lenguaje grande

Modelos Agentforce

Esta página se centra en los LLM admitidos para funciones integradas, como Generador de solicitudes. Para opciones de modelo en Agentforce, consulte Seleccionar opción modelo Agentforce.

Modelos gestionados por Salesforce

Comience a trabajar rápidamente con funciones de IA generativa seleccionando un modelo gestionado por Salesforce. Funciones como Generador de solicitudes y la API de modelos le permiten personalizar implementaciones de IA con diferentes modelos y utilizarlas en sus aplicaciones. Los modelos gestionados por Salesforce están activados de forma predeterminada para acelerar el proceso de configuración.

Esta tabla enumera los modelos gestionados por Salesforce disponibles para funciones integradas, como Generador de solicitudes. Para Agentforce, consulte la sección Modelos Agentforce.

Nota Es posible que todos los modelos gestionados por Salesforce no estén disponibles en su organización.

• En Configuración, un administrador de Salesforce puede desactivar un proveedor de modelos. Consulte Gestionar acceso de proveedor de modelos.
• En Einstein Studio, un administrador de Salesforce puede ocultar la selección de una configuración LLM en Generador de solicitudes. Consulte Gestionar acceso de modelo de lenguaje grande (LLM) ocultando configuraciones.

Para obtener más detalles sobre Tipo de uso, consulte Uso y facturación de IA generativa y Agenteforce.

Para obtener más detalles acerca de estos modelos compatibles, consulte Modelos compatibles en la Guía del desarrollador Agentforce.

Perfiles de inferencia

Algunos modelos antrópicos son accesibles en regiones de AWS concretas solo como un perfil de inferencia entre regiones. Las solicitudes de inferencia entre regiones se mantienen en las regiones de AWS que forman parte de la geografía donde se origina la solicitud. Por ejemplo, una solicitud realizada en Estados Unidos a Claude Sonnet 4 se mantiene en las regiones de AWS en Estados Unidos. Una solicitud realizada en Japón puede ser atendida por cualquiera de los destinos en el perfil de inferencia APAC Claude Sonnet 4.

Para obtener más información, consulte Regiones admitidas y modelos para perfiles de inferencia y compatibilidad de modelo por Región de AWS en Amazon Bedrock. Para el enrutamiento para cada región de organización de Salesforce para Claude Sonnet 4, consulte Enrutamiento geoconsciente para Anthropic.

Límites de modelo

Para obtener información acerca de límites por modelo, como solicitudes por minuto (RPM) y límites de token, consulte Límites de modelo de idioma grande.

Modelos beta

Los modelos beta son nuevos modelos de proveedores de modelos que Salesforce está probando en fase beta. Los modelos beta suelen tener límites de frecuencia más bajos y pueden no estar disponibles en todas las regiones. Un modelo beta tiene (Beta) anexado a su nombre. Si los modelos beta no están activados, aparecen como (Desactivados) en Einstein Studio.

Nota Esta función es un servicio piloto o beta que está sujeto a las Condiciones de servicios beta en Acuerdos - Salesforce.com o un Acuerdo piloto unificado escrito si lo ejecuta el Cliente, y las condiciones aplicables en el Directorio de condiciones de productos. El uso de este piloto o servicio beta es bajo la única discreción del Cliente.

Antes de poder activar modelos de IA generativa beta, debe activar Data 360. Data 360 se aprovisiona automáticamente en cuanto se agrega una licencia de Data Cloud a su organización de Salesforce. Consulte Activar Datos 360.

Para activar modelos de IA generativa beta, vaya a Configuración de Einstein. Después de activar los modelos beta, puede verlos en Einstein Studio y utilizarlos como cualquier modelo gestionado por Salesforce.

Recomendamos que active modelos beta únicamente en organizaciones de sandbox o desarrollo.

Aportar su propio modelo de lenguaje grande (BYOLLM)

La plataforma Einstein le permite personalizar su experiencia de IA incorporando sus propios modelos en Salesforce. Puede incorporar su propio modelo utilizando Einstein Studio y redactar una plantilla de solicitud en Generador de solicitudes, que luego puede integrar en sus propias aplicaciones o agente. Algunas razones comunes por las que las compañías desean utilizar diferentes modelos con Einstein incluyen:

• Su compañía tiene un LLM ajustado a sus datos.
• Puede utilizar su cuenta de Azure, Bedrock, OpenAI o Vertex.

BYOLLM admite muchos de los modelos gestionados por Salesforce y estos modelos adicionales:

Para utilizar modelos y proveedores que no aparecen en esta página, consulte el Conector abierto LLM.

Nota Para BYOLLM y LLM Open Connector, Salesforce utiliza un conjunto de direcciones IP para comunicarse con un LLM que aloja usted mismo. Si su política de seguridad requiere una estricta Lista de control de acceso de red (ACL), asegúrese de agregar a sus listas de admisión las direcciones IP en la sección Modelos BYO y Direcciones IP de conector abierto de Salesforce Core Services - Direcciones IP y dominios para permitir.

Desarrollar soluciones LLM con la API Modelos

Los desarrolladores pueden utilizar la API Modelos para codificar soluciones personalizadas. Consulte la Guía del desarrollador de API de modelos.

Sostenibilidad

La sostenibilidad es un valor principal en Salesforce. Seleccionar el modelo apropiado es una de las formas más efectivas de reducir el consumo energético, el uso de agua y las emisiones de carbono. Compare el impacto medioambiental de estos modelos utilizando el Puntuaje de sostenibilidad relativo en la sección inferior derecha de la página Referencia de agencia en el sitio de Investigación de IA. Para obtener más detalles sobre el enfoque de Salesforce para la sostenibilidad de la IA, consulte Sostenibilidad en Salesforce.

Modelos desusados

El desuso de modelo es el proceso por el que un proveedor de modelo elimina gradualmente un modelo, normalmente a favor de un modelo nuevo y mejorado. Un modelo desusado puede redirigir a un modelo preferido para garantizar la continuidad del servicio. Para obtener más información, consulte Prepararse para el desuso y el redireccionamiento de modelos.

Le recomendamos empezar a migrar sus solicitudes en cuanto se anuncie el desuso. Durante la migración, actualice y pruebe cada parte de su aplicación con el modelo de sustitución que recomendamos.

Estos modelos están desusados o redirigidos.

Modelos redirigidos

Estos modelos se redirigen.

Anuncio de modelos nuevos y desusados

Los nuevos anuncios de modelo y los anuncios de desuso de modelo forman parte de las notas de versión mensuales de Einstein Platform.