Cloud Service
内容審査拡張を例にとって、以下の手順を説明します:
Cloud Service
を追加するには、api/core/moderation
ディレクトリ内に関連するディレクトリとファイルを新規作成します。
schema.json
ここでは、フロントエンドコンポーネントの規格を定義しています。cloud_service.py
のコードテンプレートです。ここで具体的なビジネスロジックを実装できます。
クラウドサービス
内容審査拡張タイプを選択してデバッグすることができます。
schema.json
フォーム検証方法、ユーザーが「公開」をクリックして設定を保存するときに呼び出される
config
フォームパラメータ
{{variable}}
フォームカスタム変数inputs_config
入力検証プリセット応答
enabled
有効化preset_response
入力プリセット応答outputs_config
出力検証プリセット応答
enabled
有効化preset_response
出力プリセット応答inputs
:エンドユーザーによって渡された変数値query
:エンドユーザーが現在入力している内容、対話型アプリケーションの固定パラメータ。ModerationInputsResult
flagged
検証ルールに違反しているかどうかaction
実行動作
direct_output
プリセット応答を直接出力overridden
渡された変数値を上書きpreset_response
プリセット応答(action=direct_outputの場合のみ返される)inputs
エンドユーザーによって渡された変数値、キーは変数名、値は変数値(action=overriddenの場合のみ返される)query
上書きされたエンドユーザーの現在の入力内容、対話型アプリケーションの固定パラメータ(action=overriddenの場合のみ返される)text
:内容moderation_for_outputs
:出力検証関数
text
:LLM回答内容。LLMの出力がの場合、これは100文字ごとの分割内容である。ModerationOutputsResult
flagged
検証ルールに違反しているかどうかaction
実行動作
direct_output
プリセット応答を直接出力overridden
渡された変数値を上書きpreset_response
プリセット応答(action=direct_outputの場合のみ返される)text
上書きされたLLM回答内容(action=overriddenの場合のみ返される)