Trust 및 Agentforce
에이전트는 생성형 AI 기술과 관련된 위험을 완화할 수 있도록 설계되었으므로 Salesforce를 사용하면 안전한 AI 에이전트를 쉽게 구축할 수 있습니다.
필수 Edition
| 지원 제품: Lightning Experience |
| 지원 제품: Enterprise, Performance, Unlimited및 Developer Edition 필수 추가 기능 라이센스는 에이전트 유형에 따라 다릅니다. |
Agentforce 플랫폼은 Einstein 트러스트 레이어와 통합되며 이 기능에는 AI 가드레일이 포함되어 있습니다. 에이전트는 표준 Salesforce 액세스 제어도 준수합니다.
Einstein 트러스트 레이어
Agentforce Salesforce에 기본적으로 구축된 보안 AI 아키텍처인 Einstein Trust 계층과 통합되어 있습니다.
엔터프라이즈 보안 표준에 맞게 설계된 Trust Layer를 사용하면 고객 데이터를 손상하지 않고 생성형 AI를 활용할 수 있습니다. 또한 신뢰할 수 있는 데이터를 사용하여 생성형 AI 응답을 개선할 수 있습니다.
| Einstein Trust Layer 서비스 | 상세 설명 |
|---|---|
| 데이터 보존 제로 정책 | Einstein Trust Layer는 제로 데이터 보존 정책을 사용하므로 타사 LLM에서 모델 교육에 데이터를 저장하거나 사용하지 않습니다. 고객이 에이전트를 포함한 기타 기능을 사용하면 데이터가 저장될 수 있습니다. 자세한 정보는 Salesforce 계정 담당자에게 문의하십시오. |
| 안전한 데이터 검색을 통한 동적 그라운딩 | 신뢰할 수 있는 회사 데이터, Knowledge 자료 또는 구성하는 다른 소스의 관련 정보가 질문에 답변하는 데 사용됩니다. |
| 프롬프트 방어(시스템 정책 및 프롬프트 주입 감지) | 시스템 정책을 사용하면 환각을 제한하고 LLM에서 의도하지 않거나 유해한 출력이 발생할 가능성을 줄일 수 있습니다. |
| 유해성 감지 | 잠재적으로 유해한 LLM 응답이 감지되고 플래그가 지정됩니다. |
| 감사 및 피드백 | 프롬프트, 응답 및 Trust 신호는 Data 360에 기록되어 저장되어 각 사용자 상호 작용의 결과를 확인할 수 있습니다. 사용자 의견은 지침, 프롬프트 템플릿 등을 개선하는 데 사용할 수 있습니다. |
Einstein 트러스트 레이어를 통한 데이터 마스킹이 비활성화되어 에이전트의 성능과 정확성을 향상합니다. 개인 식별 정보(PII)를 포함하여 에이전트가 액세스하는 모든 데이터는 전송 시 보호되며, 엄격한 제로 데이터 보존 정책의 일환으로 외부 LLM 공급자가 교육 목적으로 저장하거나 사용하지 않습니다. Agentforce의 데이터 마스킹 제한 사항을 참조하십시오.
AI 가드레일
Agentforce 플랫폼에는 AI 환각을 최소화하는 윤리적 가드레일과 프롬프트 주입과 같은 위협 및 악성 공격을 방지하는 보안 가드레일이 포함되어 있습니다.
보다 세분화된 제어를 위해 에이전트 하위 에이전트 지침을 사용하여 경계를 만들고, 컨텍스트를 설정하고, 에이전트 동작을 정의합니다. 표준 에이전트 하위 에이전트에 대한 지침을 수정하거나 사용자 정의 하위 에이전트를 처음부터 만들 수 있습니다. 명령 준수 를 사용하여 에이전트가 하위 에이전트 지침을 얼마나 잘 해석하고 따르는지 확인합니다.
에이전트 유형에 따라 자체 설정 및 가드레일이 있어 에이전트 동작을 정의할 수 있습니다. 예를 들어 Agentforce 서비스 에이전트 템플릿은 하위 에이전트 지침을 사용하여 에이전트에서 서비스 담당자에게 대화를 에스컬레이션할 시점을 결정합니다. SDR 에이전트 유형에는 에이전트가 리드에 대한 작업을 시작할 수 있는 조건과 에이전트가 이메일을 보낼 수 있는 방법 및 시기에 대한 관리자 정의 참여 규칙이 존재합니다.
권한 및 액세스
AI 에이전트는 라이센스, 권한, 필드 수준 보안 및 공유 설정과 같은 표준 Salesforce 액세스 제어를 준수하므로 에이전트가 항상 안전하게 조작합니다.
- 에이전트 유형: 기본 Agentforce 에이전트는 관리자 및 Agentforce 기본 권한 집합을 보유한 사용자가 사용할 수 있습니다. 일부 에이전트 유형은 특정 클라우드 또는 라이센스로 작동하도록 구축되므로 다른 라이센스가 필요합니다.
- 표준 에이전트 하위 에이전트: 기본 Agentforce 에이전트에 액세스할 수 있는 권한이 있는 모든 사용자가 여러 가지 표준 하위 에이전트를 사용할 수 있습니다.
- 표준 에이전트 작업: 기본 Agentforce에 액세스할 권한이 있는 모든 사용자는 다양한 표준 작업을 사용할 수 있습니다. 일부 표준 작업은 특정 클라우드 또는 제품에서 작동하도록 구축되므로 다른 라이센스 또는 권한이 필요합니다.
- 사용자 정의 에이전트 작업: 사용자 정의 작업에 대한 액세스는 작업이 참조하는 Apex 클래스, 플로 또는 프롬프트 템플릿에 따라 다릅니다. 예를 들어 사용자 정의 작업이 플로를 사용하여 구축된 경우 사용자 정의 작업은 플로에 구성된 권한, 필드 수준 보안, 공유 설정을 준수합니다.
신뢰할 수 있는 URL
Agentforce 비즈니스의 신뢰할 수 있는 URL 허용 목록을 적용합니다. 이렇게 하면 에이전트가 악의적인 링크를 전화를 걸거나 생성하지 못하고 중요한 데이터를 안전하게 보호할 수 있습니다.
에이전트가 응답에 승인되지 않은 URL을 포함하려고 시도하면 승인되지 않은 URL이 “URL_Redacted”로 대체됩니다. 또한 에이전트가 승인되지 않은 URL을 호출하거나 생성하려고 하면 플랜 캔버스에 오류 메시지가 표시되므로 차단된 URL을 허용 목록으로 지정할지 아니면 에이전트의 구성에서 제거할지 여부를 평가할 수 있습니다.
에이전트에 대해 따옴표를 구성하면 신뢰할 수 있는 URL에 도메인이 포함되어 있지 않더라도 에이전트 대화에 에이전트 응답을 생성하는 데 사용되는 소스 URL이 표시됩니다.
에이전트와 함께 URL을 사용하려면 신뢰할 수 있는 URL에 URL을 추가하십시오.
에이전트 규정 준수
Agentforce는 Einstein 플랫폼과 Agentforce SOC 2 및 SOC 3 보고서에서 적용 대상 서비스로 포함됩니다. Agentforce는 HIPAA 규정을 준수하고 Salesforce Business Associate Addendum Restrictions에 적용받고 있으며 ISO 27001, 27017 및 27018 인증도 취득했습니다.
- Agentforce 데이터 마스킹 제한 사항
Einstein Trust Layer에서 대규모 언어 모델(LLM)에 대한 패턴 기반 및 필드 기반 데이터 마스킹이 에이전트에 대해 비활성화됩니다.
