特性と技術仕様

大規模言語モデル(LLM)の応用技術スタックに精通している技術者にとって、このドキュメントはDifyのユニークな利点を理解するための近道となります。賢明な比較と選択ができ、さらには同僚や友人にも推薦することができるでしょう。

Difyでは、透明な製品特性と技術仕様ポリシーを採用しており、私たちの製品を全面的に理解した上で意思決定できるようにしています。この透明性は、技術選定に有益であるだけでなく、コミュニティメンバーが製品を深く理解し、積極的に貢献することを促進します。

プロジェクトの基本情報

プロジェクト設立

2023年3月

オープンソースライセンス

公式開発チーム

10名以上のフルタイム社員

コミュニティ貢献者

バックエンド技術

Python/Flask/PostgreSQL

フロントエンド技術

Next.js

コード行数

13万行以上

リリースサイクル

平均して週に1回

技術特性

大規模言語モデル推理エンジン

Dify Runtime (v0.4以降はLangChainを除去)

商業モデルサポート

10社以上、OpenAIとAnthropicを含む

新しい主流モデルは通常48時間以内に接続完了

MaaSサプライヤーサポート

7社、Hugging Face、Replicate、AWS Bedrock、NVIDIA、GroqCloud、together.ai、OpenRouter

ローカルモデル推理Runtimeサポート

6、Xoribits(推奨)、OpenLLM、LocalAI、ChatGLM、Ollama、NVIDIA TIS

OpenAIインターフェース標準モデル接続サポート

∞社

多モーダル技術

自動音声認識(ASR)モデル

GPT-4V規格のリッチテキストモデル

プリセットアプリケーションタイプ

対話型アプリケーション

テキスト生成アプリケーション(近日終了予定) エージェント ワークフロー グループ(Q2でリリース予定)

プロンプト即サービス編成

高評価のビジュアル化されたプロンプト編成インターフェース、同じインターフェースでプロンプトを編集し、効果をプレビュー可能

編成モード

  • 簡単編成モード

  • アシスタントモード編成

  • フローモード編成

  • マルチエージェントモード(Q2でリリース予定)

プロンプト変数タイプ

  • 文字列

  • 単一選択列挙

  • 外部API

  • ファイル(Q2でリリース予定)

エージェントワークフロー特性

業界をリードするビジュアル化されたフローチャート編成インターフェース、見たまま編集できるノードデバッグ、プラグイン可能なDSL、ネイティブなコードランタイムにより、より複雑で信頼性が高く安定したLLMアプリケーションを構築可能。

サポートノード

  • LLM

  • 知識ベース検索

  • 問題分類

  • 条件分岐

  • コード実行

  • テンプレート変換

  • HTTPリクエスト

  • ツール

RAG特性

画期的なビジュアル化された知識ベース管理インターフェース、セグメントプレビューとリコール効果テストをサポート。 インデックス方式

  • キーワード

  • テキストベクトル

  • LLM支援の問題-セグメント方式

検索方式

  • キーワード

  • テキスト類似度マッチング

  • ハイブリッド検索

  • N選1方式

  • マルチリコール

リコール最適化技術

  • ReRankモデルを使用

ETL技術

TXT、Markdown、PDF、HTML、DOC、CSVなどの形式のファイルを自動的にクリーニングすることをサポート。組み込みのUnstructuredサービスを有効にすると最大限のサポートが得られます。

Notionからのドキュメントを知識ベースとして同期することをサポート。

ベクトルデータベースサポート

Qdrant(推奨)、Weaviate、Zilliz

エージェント技術

ReAct、ファンクションコール

ツールサポート

  • OpenAIプラグイン標準のツールを呼び出し可能

  • OpenAPI SpecificationのAPIを直接ロードしてツールとして使用可能

内蔵ツール

  • 30種類以上(2024年Q1時点)

ログ

サポート、ログに基づいてアノテーション可能

アノテーション返信

人間がアノテートしたQ&Aペアに基づき、類似度比較応答を作成可能 モデルの微調整段階で使用するデータ形式としてエクスポート可能

コンテンツ審査メカニズム

OpenAI Moderationまたは外部API

チーム協働

ワークスペースおよび複数メンバー管理サポート

API仕様

RESTful、ほとんどの機能をカバー

デプロイ方法

Docker、Helm

Last updated