本文档由 AI 自动翻译。如有任何不准确之处,请参考 英文原版。模型插件通过两个实体描述自身:Provider 负责认证并列出所支持的模型,每个模型对应一个 AIModelEntity,用于声明其类型、特性和参数。
下文所有实体均为
dify_plugin.entities.model 模块中的 Pydantic BaseModel 子类。快速决策
仅需认证:预定义模型
用户粘贴 API key 即可获得你的完整模型列表。设置
configurate_methods: [predefined-model],并在 YAML 中定义每个模型的 AIModelEntity。用户自备模型
用户自行配置模型名称和 base URL(OpenAI 兼容端点、自定义部署)。设置
configurate_methods: [customizable-model],详见 自定义模型。混合
内置目录加上用户添加的自定义模型。同时使用两种
configurate_methods 取值。完整示例
完整的端到端示例,详见 创建新模型供应商。
Provider
AIModelEntity
模型属性。
ModelType
ConfigurateMethod
ModelFeature
FetchFrom
LLMMode
ParameterRule
预定义了 5 个参数模板:temperaturetop_pfrequency_penaltypresence_penaltymax_tokens
use_template 中设置上述名称之一,即可继承 entities.defaults.PARAMETER_RULE_TEMPLATE 中的默认配置,此时只需提供 name 和 use_template。你设置的任何额外参数都会覆盖模板默认值。参见 openai/llm/gpt-3.5-turbo.yaml 以及 创建新模型供应商 中的示例。