위치:
배치 모델
프롬프트 템플릿 배치 처리를 사용하여 프롬프트 템플릿에 대한 대량의 응답을 비동기식으로 생성합니다.
프롬프트 템플릿에 대한 대량의 응답을 비동기식으로 생성하려면 프롬프트 템플릿 배치 처리를 사용할 수 있습니다. 일괄 처리에 대한 자세한 내용은 플로 핵심 작업: Salesforce 도움말의 프롬프트 템플릿 작업 및 Agentforce 개발자 가이드의 프롬프트 템플릿 배치 처리
기본 배치 지원 모델
특정 Salesforce 관리 모델은 모델 공급자가 기본적으로 지원하는 배치 처리를 활성화합니다. 다음 모델은 네이티브 배치 처리를 지원합니다.
- GPT 4.1
- GPT 4.1 Mini
- GPT 4 옴니
- GPT 4 Omni Mini
- GPT 5
- GPT 5 Mini
- OpenAI GPT 4 Omni Mini
- Bedrock Claude Haiku 4.5
- 베드락 Claude Sonnet 4.5
기본 배치 제한
네이티브 배치 처리를 지원하는 모델을 사용할 경우 일일 항목이 50,000개로 제한됩니다. Apex 통해 작업당 항목이 10,000개로 제한되며, 24시간 내에 5개의 작업 실행을 시작할 수 있습니다. Apex를 통해 일괄 처리 요청을 처리하는 방법에 대한 자세한 내용은 프롬프트 템플릿 일괄 처리을 참조하십시오.
배치 모델 라우팅 동작
네이티브 공급자 배치 처리에 사용된 모델 공급자에 따라 라우팅 동작이 다릅니다.
Azure 배치 모델 라우팅 동작
Azure 네이티브 모델 공급자 배치 처리는 전역 모델 끝점을 사용합니다. 이러한 모델의 경우 비배치 LLM 요청이 지역 내 Azure 끝점으로 제한되는 경우에도 조직의 지역 외부 지역에서 배치 요청이 처리될 수 있습니다.
Azure의 전역 모델 끝점에 대한 자세한 내용은 배포 유형별 모델을 참조하십시오.
베드록 배치 모델 라우팅 동작
Bedrock의 인류 모델에 대한 기본 제공자 배치 요청은 조직의 지역 외부 지역으로 라우팅될 수 있습니다. 미국, 오스트레일리아, 스웨덴, 독일, 이탈리아, 아일랜드 또는 일본 외부의 기본 제공자 배치 요청은 다른 지역에서 처리될 수 있습니다.
