Suporte para modelo de idioma grande

Modelos do Agentforce

Esta página se concentra em LLMs com suporte para recursos integrados, como Criador de prompts. Para obter opções de modelo no Agentforce, consulte Selecionar opção de modelo do Agentforce.

Modelos gerenciados pelo Salesforce

Comece rapidamente a usar recursos de IA generativa escolhendo um modelo gerenciado do Salesforce. Recursos como o Criador de prompts e a API de Modelos permitem que você personalize implementações de IA com diferentes modelos e os use em seus aplicativos. Os modelos gerenciados do Salesforce são habilitados por padrão para acelerar o processo de configuração.

Esta tabela lista os modelos gerenciados pelo Salesforce que estão disponíveis para recursos integrados, como Criador de prompts. Para Agentforce, consulte a seção Modelos do Agentforce.

Nota Todos os modelos gerenciados pelo Salesforce podem não estar disponíveis na sua organização.

• Em Configuração, um administrador do Salesforce pode desabilitar um provedor de modelo. Consulte Gerenciar acesso do provedor de modelo.
• No Einstein Studio, um administrador do Salesforce pode ocultar uma configuração de LLM de ser selecionada no Criador de prompts. Consulte Gerenciar o acesso ao Modelo de idioma grande (LLM) ocultando configurações.

Para obter mais detalhes sobre Tipo de uso, consulte Uso e cobrança de IA generativa e Agentforce.

Para obter mais detalhes sobre esses modelos com suporte, consulte Modelos com suporte no Guia do desenvolvedor do Agentforce.

Perfis de inferência

Alguns modelos Antropicos estão acessíveis, em particular as Regiões da AWS, apenas como um perfil de inferência entre regiões. As solicitações de inferência entre regiões são mantidas dentro das regiões da AWS que fazem parte da geografia em que a solicitação se origina. Por exemplo, uma solicitação feita nos Estados Unidos para Claude Sonnet 4 é mantida nas Regiões da AWS nos Estados Unidos. Uma solicitação feita no Japão pode ser atendida por qualquer um dos destinos no perfil de inferência Claude Sonnet 4 do APAC.

Para obter mais informações, consulte Regiões e modelos com suporte para perfis de inferência e suporte de modelo pela região da AWS no Amazon Bedrock. Para rotear para cada região da organização do Salesforce para Claude Sonnet 4, consulte Roteamento com conhecimento geográfico para Anthropic.

Limites do modelo

Para obter informações sobre limites por modelo, como solicitações por minuto (RPM) e limites de token, consulte Limites de modelo de idioma grande.

Modelos beta

Modelos beta são novos modelos de provedores de modelo que o Salesforce está testando em beta. Os modelos beta geralmente têm limites de taxa mais baixos e podem não estar disponíveis em todas as regiões. Um modelo beta tem (beta) anexado ao seu nome. Se os modelos beta não estiverem ativados, eles aparecerão como (Desabilitado) no Einstein Studio.

Nota Esse recurso é um serviço piloto ou beta que está sujeito aos Termos de serviços beta em Acordos - Salesforce.com ou um Acordo piloto unificado escrito, se executado pelo Cliente, e aos termos aplicáveis no Diretório de termos de produto. O uso desse serviço piloto ou beta fica a critério exclusivo do Cliente.

Antes de ativar modelos de IA generativa beta, você deve ativar o Data 360. O Data 360 é provisionado automaticamente assim que uma licença do Data Cloud é adicionada à sua organização do Salesforce. Consulte Ativar o Data 360.

Para ativar modelos de IA generativa beta, acesse Configuração do Einstein. Depois que os modelos beta forem habilitados, você poderá vê-los no Einstein Studio e usá-los como qualquer modelo gerenciado pelo Salesforce.

Recomendamos que você habilite modelos beta apenas em organizações de sandbox ou de desenvolvimento.

Traga seu próprio modelo de idioma grande (BYOLLM)

A plataforma Einstein permite que você personalize sua experiência de IA trazendo seus próprios modelos para o Salesforce. Você pode trazer seu próprio modelo usando o Einstein Studio e escrever um modelo de prompts no Criador de prompts, que você pode integrar em seus próprios aplicativos ou um agente. Algumas razões comuns pelas quais as empresas querem usar modelos diferentes com o Einstein incluem:

• Sua empresa tem um LLM ajustado aos seus dados.
• Você pode usar sua conta do Azure, Bedrock, OpenAI ou Vertex.

O BYOLLM oferece suporte a muitos dos modelos gerenciados pelo Salesforce e a estes modelos adicionais:

Para usar modelos e provedores não listados nesta página, consulte Conector aberto de LLM.

Nota Para BYOLLM e LLM Open Connector, o Salesforce usa um conjunto de endereços IP para se comunicar com um LLM que você mesmo hospeda. Se sua política de segurança exigir uma lista de controle de acesso de rede (ACL) rígida, adicione às listas de permissões os endereços IP na seção Modelos BYO e Endereços IP do conector aberto de Salesforce Core Services – Endereços IP e domínios a permitir.

Desenvolva soluções de LLM com a API de modelos

Os desenvolvedores podem usar a API de modelos para codificar soluções personalizadas. Consulte o Guia do desenvolvedor da API de modelos.

Sustentabilidade

A sustentabilidade é um valor essencial no Salesforce. Selecionar o modelo adequado é uma das maneiras mais eficazes de reduzir o consumo de energia, o uso de água e as emissões de carbono. Compare o impacto ambiental desses modelos usando a Pontuação de sustentabilidade relativa na seção inferior direita da página Agent Benchmark no site de Pesquisa de IA. Para obter mais detalhes sobre a abordagem da Salesforce para a sustentabilidade da IA, consulte Sustentabilidade no Salesforce.

Modelos descontinuados

A descontinuação do modelo é o processo pelo qual um provedor de modelo elimina gradualmente um modelo, geralmente em favor de um modelo novo e aprimorado. Um modelo descontinuado pode ser roteado novamente para um modelo preferencial para garantir a continuidade do serviço. Para saber mais, consulte Prepare-se para descontinuação e reencaminhamento de modelo.

Recomendamos que você comece a migrar seus aplicativos assim que a descontinuação for anunciada. Durante a migração, atualize e teste cada parte do seu aplicativo com o modelo de substituição que recomendamos.

Esses modelos foram descontinuados ou reencaminhados.

Modelos roteados novamente

Esses modelos são roteados novamente.

Anúncio de modelos novos e descontinuados

Novos anúncios de modelo e anúncios de descontinuação de modelo fazem parte das notas de lançamento mensais da Plataforma Einstein.