위치:
안전 및 보안 - 프롬프트 주사 감지
사용자가 시스템 지침을 덮어쓰고 AI를 의도하지 않은 행동 또는 악의적인 행동으로 강제 적용하도록 시도하는 신속한 주입 공격을 감지하고 완화합니다.
제어 이름
Einstein Trust Layer - 신속한 주입 감지
제어 개요
사용자가 시스템 지침을 덮어쓰고 AI를 의도하지 않은 행동 또는 악의적인 행동으로 강제 적용하도록 시도하는 신속한 주입 공격을 감지하고 완화합니다.
상세 설명
프롬프트 여정을 모니터링하여 "이전 지침 무시" 또는 "시스템 재정의" 명령과 같은 상충 패턴을 식별하고 LLM에 도달하기 전에 요청을 차단하거나 플래그를 지정합니다.
권장 구성
Einstein Trust 레이어 설정에서 "빠른 주입 감지"를 활성화합니다. Einstein 감사 내역이 삽입 시도 이벤트를 기록하는 데 활성화되어 있는지 확인합니다.
보안 영향
내부 데이터를 누출하거나, 금지된 콘텐츠를 생성하거나, 프롬프트 템플릿에 설정된 윤리적 경계를 우회하기 위해 사용자가 AI를 다시 프로그래밍하지 않도록 합니다.
비즈니스 영향
AI 기반 비즈니스 프로세스의 무결성을 유지하고 개인 또는 악의적인 이익을 위해 AI 논리를 조작하는 사용자가 유발하는 운영 중단을 방지합니다.
구성되지 않은 경우 보안 위험
LLM은 시스템 프롬프트를 통해 악성 사용자 지침에 따라 무단 데이터 공개, 소셜 엔지니어링 또는 무단 워크플로 실행이 발생할 수 있습니다.
위협 시나리오
프롬프트 주입: 사용자가 원치 않는 작업을 수행하도록 AI를 속여 데이터 누출을 유발합니다.
예상 CVSS 점수 범위
중요(9.0~10.0)
위험 영향 고려 사항
AI가 사용자 프롬프트를 기반으로 작업(예: 레코드 업데이트 또는 이메일 보내기)을 실행할 수 있는 에이전트 워크플로에 대한 위험이 극도로 높습니다.
위험이 높은 경우
Salesforce Trust Layer 중개자를 사용하지 않고 외부/타사 LLM을 사용하거나 프롬프트 템플릿이 최소한의 컨텍스트로 구성되지 않은 경우
낮은 위험 시기
프롬프트 injection 감지가 활성 상태이고, 조직에서 Salesforce에서 호스팅하는 모델(포함 방어 기능 포함)을 사용하며, AI의 데이터 액세스에 최소 권한이 적용됩니다.
비즈니스 및 통합 고려 사항
엄격한 감지는 복잡하고 합법적인 사용자 프롬프트에 적대적인 플래그를 지정할 수 있습니다. 관리자는 Einstein Trust Layer 감사 피드백 데이터를 모니터링하여 민감도를 미세 조정해야 합니다.
보안 상태 검토 지침
보안 상태 검토는 Einstein Trust 계층 설정이 활성화되어 있는지 확인합니다.
영향을 받는 사람
보안 팀, AI 아키텍처, 개발자 및 프롬프트 빌더 또는 Agentforce 에이전트와 상호 작용하는 최종 사용자
