生成 AI の基盤プラットフォームセキュリティ

生成 AI の基盤プラットフォームセキュリティについて説明します。

• LLM データマスキング (Agentforce 以外の生成 AI で使用可能)
  プロンプト内の機密データ (PII、PCI など) を、外部の大規模言語モデル (LLM) に転送する前に自動的に識別してマスキングします。
• 安全性とセキュリティ - 有害性検出
  AI プロンプトと生成された応答を自動的にスキャンし、複数のカテゴリで有害な言語 (ヘイトスピーチ、暴力、冒涜など) を特定してフラグを設定し、スコアを付けます。
• 安全性とセキュリティ - プロンプトインジェクション検出
  ユーザーがシステム命令を上書きして AI を意図しない動作や悪意のある動作に強制しようとするプロンプトインジェクション攻撃を検出して軽減します。
• Einstein 監査、分析、監視の設定
  生成 AI プロンプト、LLM 応答、ユーザーフィードバックの Data Cloud へのログを一元化して、コンプライアンス、監査、モデルの最適化を実現します。
• プロンプトビルダーの使用状況とフィードバック評価指標
  生成数とユーザーが送信したフィードバックを追跡して、特定の Einstein プロンプトテンプレートの採用と品質を監視します。
• Einstein - Agent Analytics
  自律エージェントインタラクションの継続的な収集と視覚化を有効化し、パフォーマンス追跡と ROI 測定を可能にします。
• Einstein 監査および監視 - Agentforce セッション追跡
  各インタラクションの自律エージェントのステップごとのロジック、思考プロセス、ツールコール順序を記録します。