Loading
Agentforce 및 Einstein 생성형 AI
Einstein 생성형 AI 플랫폼에서 지리 인식 LLM 요청 라우팅

Einstein 생성형 AI 플랫폼에서 지리 인식 LLM 요청 라우팅

Einstein 생성형 AI 플랫폼은 대규모 언어 모델(LLM) 요청을 Einstein 생성형 AI 플랫폼 인스턴스가 위치한 가장 가까운 서버로 라우팅합니다. 지리 인식 라우팅에는 Einstein 생성형 AI 플랫폼을 사용하는 Einstein 생성형 AI 기능에 의해 이루어진 LLM API 요청이 포함됩니다.

필수 Edition

지원 제품: Einstein for Sales, Einstein for Platform, Einstein for Service, Einstein 1 Service 또는 Einstein GPT Service 추가 기능이 포함된 Enterprise, Performance무제한 Edition. 추가 기능을 구매하려면 Salesforce 계정 담당자에게 문의하십시오.

지원되는 모델

관련 지역에서 모델을 사용할 수 있는 경우 해당 모델에 지리 인식 라우팅을 사용할 수 있습니다.

  • OpenAI 모델(예: GPT-4 옴니). 해당 지역 인식 모델은 OpenAI 또는 Azure OpenAI를 사용하여 LLM 요청을 제공합니다. 동일한 기본 모델이 OpenAI 및 Azure OpenAI에서 사용됩니다. OpenAI 및 Azure OpenAI의 지오 인식 라우팅을 참조하십시오.
  • 인종형 모델(Amazon Bedrock에서 호스팅됨)
  • 쌍둥이 모델(Vertex AI에서 호스팅됨)

가용성

지리적 인 라우팅 지원 제품:

  • AI 에이전트
  • Einstein 생성형 AI 플랫폼을 통해 OpenAI, Anthropic, Gemini 모델을 사용하는 Salesforce 애플리케이션 및 기능
  • 모델 API 또는 프롬프트 빌더를 통해 OpenAI, Anthropic 및 Gemini 모델을 사용하는 고객

특정 Salesforce AI 기능에 대해 지리 인식 라우팅이 활성화되어 있는지 확인하려면 해당 문서를 참조하거나 Salesforce 계정 담당자에게 문의하십시오.

근접성 및 라우팅

가장 가까운 LLM 서버의 근접성은 Einstein 생성형 AI 플랫폼 인스턴스가 위치한 지역에 따라 결정됩니다. 2024년 6월 13일 이후에 Einstein 생성형 AI 플랫폼을 활성화한 경우 Einstein 생성형 AI 플랫폼 영역은 Data 360 영역과 동일합니다(Data 360: 데이터 센터 위치). 그렇지 않으면 Salesforce 계정 담당자에게 연락하여 프로비저닝되는 위치를 확인하십시오.

모델 API에서 라우팅

모델 API를 통해 직접 Einstein 생성형 AI 플랫폼을 사용하는 경우 지리 인식 모델에 모델 API 이름을 사용하는 것이 좋습니다.

사용자 의견 및 감사

LLM 요청이 라우팅되는 위치를 보려면 피드백 및 감사 기능을 참조하십시오.

기능별 지원

Einstein 기능이 지역 인식 LLM 요청 라우팅을 지원하는지 여부를 추적하려면 기능 설명서를 참조하십시오.

 
로드 중
Salesforce Help | Article