特性与技术规格
对于已经熟悉 LLM 应用技术栈的技术人士来说,这份文档将是你了解 Dify 独特优势的捷径。让你能够明智地比较和选择,甚至向同事和朋友推荐。
在 Dify,我们采用透明化的产品特性和技术规格政策,确保你在全面了解我们产品的基础上做出决策。这种透明度不仅有利于你的技术选型,也促进了社区成员对产品的深入理解和积极贡献。
项目基础信息
项目设立
2023 年 3 月
官方研发团队
超过 15 名全职员工
社区贡献者
超过 290 人 (截止 2024 Q2)
后端技术
Python/Flask/PostgreSQL
前端技术
Next.js
代码行数
超过 13 万行
发版周期
平均每周一次
技术特性
LLM 推理引擎
Dify Runtime ( 自 v0.4 起移除了 LangChain)
商业模型支持
10+ 家,包括 OpenAI 与 Anthropic
新的主流模型通常在 48 小时内完成接入
MaaS 供应商支持
7 家,Hugging Face,Replicate,AWS Bedrock,NVIDIA,GroqCloud,together.ai,OpenRouter
本地模型推理 Runtime 支持
6 家,Xoribits(推荐),OpenLLM,LocalAI,ChatGLM,Ollama,NVIDIA TIS
OpenAI 接口标准模型接入支持
∞ 家
多模态技术
ASR 模型
GPT-4o 规格的富文本模型
预置应用类型
对话型应用
文本生成应用 Agent 工作流
Prompt 即服务编排
广受好评的可视化的 Prompt 编排界面,在同一个界面中修改 Prompt 并预览效果
编排模式
简易模式编排
Assistant 模式编排
Flow 模式编排
Prompt 变量类型
字符串
单选枚举
外部 API
文件(Q3 即将推出)
Agentic Workflow 特性
行业领先的可视化流程编排界面,所见即所得的节点调试,可插拔的 DSL,原生的代码运行时,构建更复杂、可靠、稳定的 LLM 应用。
支持节点
LLM
知识库检索
问题分类
条件分支
代码执行
模板转换
HTTP 请求
工具
RAG 特性
首创的可视化的知识库管理界面,支持分段预览和召回效果测试。 索引方式
关键词
文本向量
由 LLM 辅助的问题-分段模式
检索方式
关键词
文本相似度匹配
混合检索
N 选 1 模式(即将下线)
多路召回
召回优化技术
使用 ReRank 模型
ETL 技术
支持对 TXT、Markdown、PDF、HTML、DOC、CSV 等格式文件进行自动清洗,内置的 Unstructured 服务开启后可获得最大化支持。
支持同步来自 Notion 的文档为知识库。 支持同步网页为知识库。
向量数据库支持
Qdrant(推荐),Weaviate,Zilliz/Milvus,Pgvector,Pgvector-rs,Chroma,OpenSearch,TiDB,Tencent Vector,Oracle,Relyt,Analyticdb, Couchbase
Agent 技术
ReAct,Function Call
工具支持
可调用 OpenAI Plugin 标准的工具
可直接加载 OpenAPI Specification 的 API 作为工具
内置工具
40+ 款(截止 2024 Q2)
日志
支持,可基于日志进行标注
标注回复
基于经人类标注的 Q&A 对,可用于相似度对比回复 可导出为供模型微调环节使用的数据格式
内容审查机制
OpenAI Moderation 或外部 API
团队协同
工作空间与多成员管理支持
API 规格
RESTful,已覆盖大部分功能
部署方式
Docker,Helm
Last updated