このドキュメントは AI によって自動翻訳されています。不正確な部分がある場合は、英語版 を参照してください。
Alibaba Cloud Monitor とは
Alibaba Cloud は、Dify アプリケーションのワンクリック監視、トレース、評価を可能にする、フルマネージドかつメンテナンス不要のオブザーバビリティプラットフォームを提供します。
Alibaba Cloud Monitor は、LoongSuite エージェントやオープンソースの OpenTelemetry エージェントを通じて、Python/Golang/Java アプリケーションをネイティブにサポートします。Dify LLM アプリケーションのワンクリック監視に加え、非侵入型エージェントによる Dify コンポーネントおよびその上下流依存関係のエンドツーエンドの可観測性もサポートします。詳細は Cloud Monitor ドキュメント をご参照ください。 Alibaba Cloud Monitor の設定方法
1. Alibaba Cloud のエンドポイントとライセンスキーの取得
- ARMS コンソールにログインし、左側のナビゲーションバーで Integration Center をクリックします。
- Server-side Applications エリアで OpenTelemetry カードをクリックします。
- 表示された OpenTelemetry パネルで、エクスポートプロトコルとして gRPC を選択し、実際のデプロイに応じて接続方法とリージョンを選択します。
- Public Endpoint と Authentication Token (License Key) を保存します。
エンドポイントにはポート番号が含まれていません（例：http://tracing-cn-heyuan.arms.aliyun.com）。
2. Dify で Cloud Monitor を設定
- Dify コンソールにログインし、監視したいアプリケーションに移動します。
- 左側のナビゲーションバーで Monitoring を開きます。
- Tracing app performance をクリックし、Cloud Monitor エリアで Configure をクリックします。
- 表示されたダイアログで、手順 1 で取得した License Key と Endpoint を入力し、App Name（ARMS コンソールに表示されるアプリケーション名）をカスタマイズして Save & Enable をクリックします。
Alibaba Cloud Monitor での監視データの表示
設定後、Dify のアプリケーションからのデバッグまたは本番データは Cloud Monitor で監視できます。
方法 1: Dify アプリケーションから ARMS コンソールにジャンプ
Dify コンソールでトレースが有効になっているアプリケーションを選択し、Tracing Configuration に移動して、Cloud Monitor エリアの View をクリックします。
方法 2: ARMS コンソールで直接表示
ARMS コンソールの LLM Application Monitoring > Application List ページで、対応する Dify アプリケーションに移動します。
より多くのデータにアクセス
Cloud Monitor は、Dify クラスターのさまざまなコンポーネントにアクセスしてエンドツーエンドのトレースを実現するマルチランゲージの非侵入型エージェントを提供します。
| Dify コンポーネント | エージェント | 詳細 |
|---|
| Nginx | OpenTelemetry Agent | Nginx トレースに OpenTelemetry を使用 |
| API | LoongSuite-Python Agent | loongsuite-python-agent |
| Sandbox | LoongSuite-Go Agent | loongsuite-go-agent |
| Worker | OpenTelemetry Agent | OpenTelemetry を介して Python アプリケーションデータを送信 |
| Plugin-Daemon | LoongSuite-Go Agent | loongsuite-go-agent |
監視データリスト
Cloud Monitor は、Dify の Workflow/Chatflow/Chat/Agent アプリケーションからデータを収集することをサポートしており、ワークフローおよびワークフローノードの実行詳細、モデル呼び出し、ツール呼び出し、知識取得、さまざまなプロセスノードの実行詳細、会話やユーザー情報などのメタデータをカバーしています。
ワークフロー/Chatflow トレース情報
| Workflow | Alibaba Cloud Monitor Trace |
|---|
| workflow_id | ワークフローの一意の識別子 |
| conversation_id | 会話 ID |
| workflow_run_id | この実行の ID |
| tenant_id | テナント ID |
| elapsed_time | この実行の所要時間 |
| status | 実行ステータス |
| version | ワークフローのバージョン |
| total_tokens | この実行で使用されたトークンの総数 |
| file_list | 処理されたファイルのリスト |
| triggered_from | この実行をトリガーしたソース |
| workflow_run_inputs | この実行の入力データ |
| workflow_run_outputs | この実行の出力データ |
| error | この実行中に発生したエラー |
| query | 実行時に使用されたクエリ |
| workflow_app_log_id | ワークフローアプリケーションログ ID |
| message_id | 関連するメッセージ ID |
| start_time | 実行開始時刻 |
| end_time | 実行終了時刻 |
ワークフロートレースメタデータ
- workflow_id - ワークフローの一意の識別子
- conversation_id - 会話 ID
- workflow_run_id - この実行の ID
- tenant_id - テナント ID
- elapsed_time - この実行の所要時間
- status - 実行ステータス
- version - ワークフローのバージョン
- total_tokens - この実行で使用されたトークンの総数
- file_list - 処理されたファイルのリスト
- triggered_from - トリガーソース
メッセージトレース情報
| Message | Alibaba Cloud Monitor Trace |
|---|
| message_id | メッセージ ID |
| message_data | メッセージデータ |
| user_session_id | ユーザーの session_id |
| conversation_model | 会話モデル |
| message_tokens | メッセージ内のトークン数 |
| answer_tokens | 回答内のトークン数 |
| total_tokens | メッセージと回答のトークンの総数 |
| error | エラー情報 |
| inputs | 入力データ |
| outputs | 出力データ |
| file_list | 処理されたファイルのリスト |
| start_time | 開始時刻 |
| end_time | 終了時刻 |
| message_file_data | メッセージに関連するファイルデータ |
| conversation_mode | 会話モード |
メッセージトレースメタデータ
- conversation_id - メッセージが属する会話の ID
- ls_provider - モデルプロバイダー
- ls_model_name - モデル ID
- status - メッセージステータス
- from_end_user_id - 送信ユーザーの ID
- from_account_id - 送信アカウントの ID
- agent_based - エージェントベースかどうか
- workflow_run_id - ワークフロー実行 ID
- from_source - メッセージソース
- message_id - メッセージ ID
データセット取得トレース情報
| Dataset Retrieval | Alibaba Cloud Monitor Trace |
|---|
| message_id | メッセージ ID |
| inputs | 入力コンテンツ |
| documents | ドキュメントデータ |
| start_time | 開始時刻 |
| end_time | 終了時刻 |
| message_data | メッセージデータ |
データセット取得トレースメタデータ
- message_id - メッセージ ID
- ls_provider - モデルプロバイダー
- ls_model_name - モデル ID
- status - メッセージステータス
- from_end_user_id - 送信ユーザーの ID
- from_account_id - 送信アカウントの ID
- agent_based - エージェントベースかどうか
- workflow_run_id - ワークフロー実行 ID
- from_source - メッセージソース
ツールトレース情報
| Tool | Alibaba Cloud Monitor Trace |
|---|
| message_id | メッセージ ID |
| tool_name | ツール名 |
| start_time | 開始時刻 |
| end_time | 終了時刻 |
| tool_inputs | ツール入力 |
| tool_outputs | ツール出力 |
| message_data | メッセージデータ |
| error | エラー情報（該当する場合） |
| inputs | メッセージの入力コンテンツ |
| outputs | メッセージの回答コンテンツ |
| tool_config | ツール設定 |
| time_cost | コスト時間 |
| tool_parameters | ツールパラメータ |
| file_url | 関連ファイルの URL |
ツールトレースメタデータ
- message_id - メッセージ ID
- tool_name - ツール名
- tool_inputs - ツール入力
- tool_outputs - ツール出力
- tool_config - ツール設定
- time_cost - コスト時間
- error - エラー情報
- tool_parameters - ツールパラメータ
- message_file_id - メッセージファイル ID
- created_by_role - 作成者の役割
- created_user_id - 作成者のユーザーID
