Sie befinden sich hier:
Sicherheit – Erkennung der Eingabeaufforderung
Erkennt und mindert Angriffe auf Eingabeaufforderungen, bei denen Benutzer versuchen, Systemanweisungen zu überschreiben, um die AI zu unerwünschtem oder bösartigem Verhalten zu zwingen.
Steuerelementname
Einstein Trust Layer – Erkennung der Eingabeaufforderung
Steuerelementübersicht
Erkennt und mindert Angriffe auf Eingabeaufforderungen, bei denen Benutzer versuchen, Systemanweisungen zu überschreiben, um die AI zu unerwünschtem oder bösartigem Verhalten zu zwingen.
Beschreibung
Überwacht die Aufforderungs-Journey, um kontradiktorische Muster zu identifizieren, beispielsweise "Vorherige Anweisungen ignorieren" oder "Systemüberschreibung"-Befehle, wodurch die Anforderung blockiert oder gekennzeichnet wird, bevor sie die LLM erreicht.
Empfohlene Konfiguration
Aktivieren Sie "Eingabeaufforderungserkennung" in den Einstellungen der Einstein Trust Layer. Stellen Sie sicher, dass der Einstein Audit Trail aktiviert ist, um Ereignisse für Injektionsversuche zu protokollieren.
Sicherheitsauswirkung
Verhindert, dass die AI von einem Benutzer neu programmiert wird, um interne Daten zu verlieren, verbotene Inhalte zu generieren oder die in der Aufforderungsvorlage festgelegten ethischen Grenzen zu umgehen.
Geschäftsauswirkungen
Bewahrt die Integrität von AI-gestützten Geschäftsprozessen auf und verhindert Betriebsunterbrechungen, die durch Benutzer verursacht werden, die AI-Logik für persönliche oder böswillige Zwecke manipulieren.
Sicherheitsrisiko, wenn nicht konfiguriert
Die LLM kann bösartigen Benutzeranweisungen über die Systemaufforderung folgen, was zu einer nicht autorisierten Offenlegung von Daten, Social Engineering oder der Ausführung nicht autorisierter Workflows führt.
Bedrohungsszenarien
Eingabeaufforderung: Ein Benutzer trickst die AI aus, um unerwünschte Aktionen auszuführen, was zu Datenlecks führt.
Geschätzter CVSS-Bewertungsbereich
Kritisch (9.0–10.0).
Überlegungen zu Risikoauswirkungen
Extremes Risiko für Agenten-Workflows, bei denen die AI Aktionen (beispielsweise das Aktualisieren von Datensätzen oder das Senden von E-Mails) anhand von Benutzeraufforderungen ausführen kann.
Höheres Risiko, wenn
Verwenden von externen LLMs/Drittanbieter-LLMs ohne Salesforce Trust Layer-Intermediär oder wenn Eingabeaufforderungsvorlagen schlecht und kontextarm erstellt sind.
Geringes Risiko, wenn
Die Eingabeaufforderungserkennung ist aktiv, die Organisation verwendet von Salesforce gehostete Modelle (mit integrierter Verteidigung) und "Least Privilege" (Least-Berechtigungen) wird auf den Datenzugriff der AI angewendet.
Überlegungen zu Unternehmen und Integration
Die strenge Erkennung kann komplexe, legitime Benutzeraufforderungen gelegentlich als kontradiktorisch kennzeichnen. Administratoren sollten die Feedback-Daten zur Einstein Trust Layer-Überprüfung überwachen, um die Sensibilität zu optimieren.
Anleitung zur Sicherheitsintegritätsprüfung
Die Sicherheitsintegritätsprüfung überprüft das Setup der Einstein Trust Layer, um zu bestätigen, dass die sofortige Injektionserkennung aktiviert ist.
Wer ist betroffen?
Sicherheitsteams, AI-Architekten, Entwickler und Endbenutzer, die mit Eingabeaufforderungsgenerator oder Agentforce interagieren.
