Loading
メールアドレスがデフォルトのログイン方式となります 続きを読む
Agentforce および Einstein 生成 AI
Observability ツールの作成とテスト

Observability ツールの作成とテスト

ビルドツールとテストツールを使用すると、本番トラフィックが存在する前に開発中のエージェントの動作を確認できます。Agentforce Builderでのテストでは個々の会話をすばやく反復でき、テストセンターでは大規模なテストを自動化できます。

必要なエディション

使用可能なインターフェース: Lightning Experience
使用可能なエディション: Enterprise Edition、Performance Edition、Unlimited Edition、および Developer Edition。必要なアドオンライセンスはエージェント種別によって異なります。

ビルド & テストツールを使用すると、本番トラフィックが存在する前に開発中のエージェントの動作を確認できます。ビルダーでのテストにより、個々の会話をすばやく反復できます。また、テストセンターでは、大規模かつさまざまな入力でのテストが自動化されます。

Agentforce Builder

Agentforce Builderは、広範なテストやリリースの準備ができる前にエージェントを開発および反復する場所です。[プレビュー] では、テスト会話をリアルタイムで実行し、エージェントの応答を正確に確認できます。会話をシミュレーションモードまたはライブテストモードでプレビューできます。

  • データを記述または変更することなく、基本的なエージェントの会話動作をシミュレートします。これを使用して、ライブレコードに触れずにクイック調整を検証します。
  • Live Test は、実際のデータに対してエンドツーエンドでアクションを実行します。アクションが正常に起動し、レコードが期待どおりに更新されることを確認する必要がある場合に使用します。このモードでは、エージェントの実際の行動を最も包括的に把握できます。

Builder には、プレビュー会話ごとに何が起きたかを調査するツールがいくつか用意されています。結果はセッションレベルで、テスト中の会話のサブエージェントルーティング、アクションの実行、応答品質などが含まれます。インタラクション概要から開始し、必要に応じてさらに掘り下げます。

インタラクション概要

プレビュー調査の開始点。会話中の会話のターンごとに使用でき、完了するまで待つ必要はありません。エージェントが応答を生成するために実行した手順の概要 (それぞれの結果を含む) が表示されます。ステップにマウスポインターを置くと、詳細が表示されます。また、エージェントのプロセスに関する AI 生成の説明も含まれ、手順を状況に合わせて進めるのに役立ちます。結果の意味が不明な場合は、Agentforce でエージェントの動作を説明したり、次のステップを提案したり、エージェントを修正したりできます。ここで問題が発生した場合、[追跡] タブに詳細が表示されます。

[トレース] タブ

各エージェントイベント、経過時間、技術的な詳細を含む、そのステップの完全な追跡データが表示されます。エージェントイベントにドリルダウンすると、システムプロンプトを含むエージェントの完全な LLM プロンプトの JSON ビューが開きます。

Agentforce Builder でエージェントをプレビューしてテストするには、「Agentforce Builder テスト」を参照してください。

テストセンターとスコアラー

テストセンターでは、オブザーバビリティループのリリース前側が形成されます。ここでは、顧客が関与する前にエージェントが大規模にパフォーマンスを行うことを確認し、本番シグナルを比較する品質とパフォーマンスのベースラインを確立し、リリース後に Analytics に継承されるスコアラーを定義して、リリース前とリリース後のデータシグナル間のループを閉じます。

テストセンターでは、サブエージェントの動作、アクションの実行、Knowledge 取得、プロンプトテンプレート、および要件に固有のカスタム条件をテストできます。テスト結果では、テストケースごとに応答品質、サブエージェントとアクションの正確性、命令の遵守、遅延がすべてリリース前に明らかにされます。

スコアラー

スコアは、テストセンターでエージェントの出力を評価するために使用される評価基準です。多くの場合、Agent Analytics で監視する評価指標に直接対応付けられ、カスタムスコアラー設定はリリース後に本番 KPI として継承されます。

ランク スコアラー 評価する内容
デフォルト レスポンススコアラー、サブエージェントアサーション、アクションアサーション 適切なサブエージェントが選択され、適切なアクションが実行され、応答が受け入れられたかどうか。
品質 完全性、一貫性、簡潔性、遅延、命令遵守 合格したかどうかだけでなく、反応がどれだけ良かったか。これには、一貫性、完全性、簡潔性、遅延、命令遵守が個別のディメンションとして含まれます。
カスタム リリースの条件では、ブランドの姿勢、ドメインの精度、語調、使用事例固有のコンプライアンスなど、デフォルトのスコアラーではカバーできないことが求められます。
ユーザー定義の表示ラベル 定義したリストから値を返します。分類、列挙形式の出力、またはブランド音声の合否、承認済み応答カテゴリなどのコンプライアンス表示ラベルに使用します。
ユーザー定義のオープン 制約のない出力、テキスト、数値、URL を返します。固定リストでは取得できない、より豊富な結果や探索的な結果が必要な場合に使用します。
プロンプトテンプレート 一貫性、簡潔性、完全性、結果性、命令フォロー、応答一致 プロンプトテンプレートテスト実行の出力品質 (結果、応答の一致、テンプレート出力に適用される標準品質ディメンションなど)。

テストセンターでテストを設定して実行するには、「Agentforce Studio でのテストの設定と実行 (ベータ)」を参照してください。

 
読み込み中
Salesforce Help | Article