特性与技术规格

对于已经熟悉 LLM 应用技术栈的技术人士来说,这份文档将是您了解 Dify 独特优势的捷径。让您能够明智地比较和选择,甚至向同事和朋友推荐。

在 Dify,我们采用透明化的产品特性和技术规格政策,确保您在全面了解我们产品的基础上做出决策。这种透明度不仅有利于您的技术选型,也促进了社区成员对产品的深入理解和积极贡献。

项目基础信息

项目设立

2023 年 3 月

开源协议

官方研发团队

超过 15 名全职员工

社区贡献者

超过 290 人 (截止 2024 Q2)

后端技术

Python/Flask/PostgreSQL

前端技术

Next.js

代码行数

超过 13 万行

发版周期

平均每周一次

技术特性

LLM 推理引擎

Dify Runtime ( 自 v0.4 起移除了 LangChain)

商业模型支持

10+ 家,包括 OpenAI 与 Anthropic

新的主流模型通常在 48 小时内完成接入

MaaS 供应商支持

7 家,Hugging Face,Replicate,AWS Bedrock,NVIDIA,GroqCloud,together.ai,OpenRouter

本地模型推理 Runtime 支持

6 ,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM,Ollama,NVIDIA TIS

OpenAI 接口标准模型接入支持

∞ 家

多模态技术

ASR 模型

GPT-4o 规格的富文本模型

预置应用类型

对话型应用

文本生成应用 Agent 工作流

Prompt 即服务编排

广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果

编排模式

  • 简易模式编排

  • Assistant 模式编排

  • Flow 模式编排

Prompt 变量类型

  • 字符串

  • 单选枚举

  • 外部 API

  • 文件(Q3 即将推出)

Agentic Workflow 特性

行业领先的可视化流程编排界面,所见即所得的节点调试,可插拔的 DSL,原生的代码运行时,构建更复杂、可靠、稳定的 LLM 应用。

支持节点

  • LLM

  • 知识库检索

  • 问题分类

  • 条件分支

  • 代码执行

  • 模板转换

  • HTTP 请求

  • 工具

RAG 特性

首创的可视化的知识库管理界面,支持分段预览和召回效果测试。 索引方式

  • 关键词

  • 文本向量

  • 由 LLM 辅助的问题-分段模式

检索方式

  • 关键词

  • 文本相似度匹配

  • 混合检索

  • N 选 1 模式(即将下线)

  • 多路召回

召回优化技术

  • 使用 ReRank 模型

ETL 技术

支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后可获得最大化支持。

支持同步来自 Notion 的文档为知识库。 支持同步网页为知识库。

向量数据库支持

Qdrant(推荐),Weaviate,Zilliz/Milvus,Pgvector,Pgvector-rs,Chroma,OpenSearch,TiDB,Tencent Vector,Oracle,Relyt,Analyticdb

Agent 技术

ReAct,Function Call

工具支持

  • 可调用 OpenAI Plugin 标准的工具

  • 可直接加载 OpenAPI Specification 的 API 作为工具

内置工具

  • 40+ 款(截止 2024 Q2)

日志

支持,可基于日志进行标注

标注回复

基于经人类标注的 Q&A 对,可用于相似度对比回复 可导出为供模型微调环节使用的数据格式

内容审查机制

OpenAI Moderation 或外部 API

团队协同

工作空间与多成员管理支持

API 规格

RESTful,已覆盖大部分功能

部署方式

Docker,Helm

Last updated