跳转到主要内容

介绍

你可以为模型供应商的预定义模型和自定义模型添加多个凭据,并轻松进行切换、删除、修改等操作。 在以下场景中,推荐添加多个模型凭据:
  • 环境隔离:为开发、测试、生产等不同环境配置独立的模型凭据。例如,在开发环境中选择有速率限制的凭据用于功能调试,在生产环境中选择性能稳定、配额充足的付费凭据以保障服务质量。
  • 成本优化:通过添加和切换来自不同账户或模型供应商的多个凭据,最大限度地利用免费或低成本额度,降低应用开发与运营成本。
  • 模型实验:在模型微调或迭代过程中,可能会产出多个模型版本。通过添加不同模型版本的凭据,快速切换并测试其应用效果。
你可以使用多个凭据为模型配置负载均衡。更多信息,请阅读 配置负载均衡

步骤

  • 预定义模型
  • 自定义模型
安装模型供应商并配置首个凭据后,点击供应商面板右上角的 配置,可进行以下操作:
  • 添加新凭据
  • 选择任一凭据作为所有预定义模型的默认凭据
  • 修改凭据
  • 删除凭据
若默认凭据被删除,需手动指定新的默认凭据。
Manage credentials for predefined models