⚠️ 本文档由 AI 自动翻译。如有任何不准确之处,请参考英文原版。
- 模型供应商规则基于 Provider 实体。
- 模型规则基于 AIModelEntity 实体。
以下所有实体均基于Pydantic BaseModel,可在entities模块中找到。
Provider
供应商标识符,例如:
openai背景颜色值,例如:#FFFFFF,若为空,将显示前端默认颜色值
支持的模型类型
配置方法
供应商凭据规范
模型凭据规范
AIModelEntity
模型标识符,例如:
gpt-3.5-turbo模型类型
支持的特性列表
模型属性
模式(适用于模型类型
llm)上下文大小(适用于模型类型
llm 和 text-embedding)最大分块数(适用于模型类型
text-embedding 和 moderation)最大文件上传限制,单位:MB(适用于模型类型
speech2text)支持的文件扩展名格式,例如:mp3,mp4(适用于模型类型
speech2text)默认语音,必填项:alloy,echo,fable,onyx,nova,shimmer(适用于模型类型
tts)单次转换的字数限制,默认按段落分割(适用于模型类型
tts)支持的音频文件扩展名格式,例如:mp3,wav(适用于模型类型
tts)文字转音频转换支持的并发任务数(适用于模型类型
tts)每个分块的最大字符数(适用于模型类型
moderation)模型调用参数规则
价格信息
是否已弃用。若已弃用,模型列表将不再显示该模型,但已配置的仍可继续使用。默认为 False。
ModelType
文本生成模型
文本嵌入模型
重排序模型
语音转文字
文字转语音
内容审核
ConfigurateMethod
预定义模型 - 表示用户只需配置统一的供应商凭据即可使用该供应商下的预定义模型。
自定义模型 - 用户需要为每个模型添加凭据配置。
从远程获取 - 与
predefined-model 配置方法类似,只需统一的供应商凭据,但模型是使用凭据信息从供应商获取的。ModelFeature
智能体推理,通常 70B 以上的模型具有思维链能力。
视觉,即:图像理解。
工具调用
多工具调用
流式工具调用
FetchFrom
预定义模型
远程模型
LLMMode
文本补全
对话
ParameterRule
模型调用的实际参数名称
使用模板
有关使用模板的详细信息,可参考创建新模型供应商中的示例。默认有 5 个预配置的变量内容模板:
temperaturetop_pfrequency_penaltypresence_penaltymax_tokens
use_template 中设置模板变量名,这将使用 entities.defaults.PARAMETER_RULE_TEMPLATE 中的默认配置,无需设置除 name 和 use_template 之外的任何参数。如果设置了额外的配置参数,它们将覆盖默认配置。可参考 openai/llm/gpt-3.5-turbo.yaml 中的示例。
是否必填,默认为 False
默认值
最小值,仅适用于数值类型
最大值,仅适用于数值类型
精度,保留的小数位数,仅适用于数值类型
下拉选项值,仅当
type 为 string 时适用,若未设置或为 null,则不限制选项值PriceConfig
输入单价,即提示词单价
输出单价,即返回内容单价
价格单位,例如,若按每 1M 令牌计价,则单价对应的单位令牌数为
0.000001货币单位
ProviderCredentialSchema
凭据表单规范
ModelCredentialSchema
凭据表单规范
CredentialFormSchema
表单项变量名
表单项类型
是否必填
默认值
select 或 radio 特有的表单项属性,定义下拉内容text-input 特有的表单项属性,定义最大输入长度,0 表示无限制当其他表单项值满足条件时显示,为空表示始终显示
FormType
文本输入组件
密码输入组件
单选下拉框
单选按钮组件
开关组件,仅支持
true 和 falseFormOption
下拉选项值
当其他表单项值满足条件时显示,为空表示始终显示
FormShowOnObject
其他表单项变量名
其他表单项变量值
相关资源
编辑此页面 | 报告问题