モデルの認証情報を管理

​

はじめに

• 環境の分離: 開発、テスト、本番など、環境ごとに別々のモデル認証情報を設定します。例えば、開発環境ではデバッグ用にレート制限のある認証情報を使用し、本番環境ではサービスの品質を確保するために、安定したパフォーマンスと十分なクォータを持つ有料の認証情報を使用します。
• コストの最適化: 異なるアカウントやモデルプロバイダーから複数の認証情報を追加して切り替えることで、無料または低コストのクォータを最大限に活用し、アプリケーションの開発・運用コストを削減します。
• モデルのテスト: モデルのファインチューニングやイテレーションの過程で、複数のモデルバージョンを作成することがあります。これらの異なるバージョンの認証情報を追加することで、素早く切り替えてパフォーマンスのテストや評価を行うことができます。

​

手順

• 定義済みモデル
• カスタムモデル

モデルプロバイダーをインストールして最初の認証情報を設定した後、右上の コンフィグ をクリックして、以下の操作を実行します。

• 新しい認証情報を追加する
• すべての定義済みモデルのデフォルトとして認証情報を選択する
• 認証情報を編集する
• 認証情報を削除する

デフォルトの認証情報を削除した場合は、手動で新しい認証情報を指定する必要があります。

​

個別のカスタムモデルの認証情報を管理する

モデルプロバイダーをインストールし、カスタムモデルを追加したら、以下の手順に従います。

1. モデルリストで、対応する コンフィグ をクリックします。
2. モデルの資格情報を指定してください パネルで、デフォルトの認証情報をクリックして認証情報リストを開き、次の操作を行います。
   • 新しい認証情報を追加する
   • 認証情報をそのカスタムモデルのデフォルトとして選択する
   • 認証情報を編集する
   • 認証情報を削除する

カスタムモデルの唯一の認証情報を削除すると、そのモデルも削除されます。

既存のカスタムモデルと名前およびタイプが同一の新しいカスタムモデルを追加しようとすると、システムは重複したモデルを作成する代わりに、その既存モデルに新しい認証情報を追加します。

​

すべてのカスタムモデルの認証情報を管理する

Manage Credentials をクリックすると、すべてのカスタムモデルの認証情報を表示、編集、または削除できます。カスタムモデルを削除した後も、その認証情報は Manage Credentials リストに残ります。モデルの追加 をクリックすると、認証情報が残っている削除済みのカスタムモデルがすべて表示され、それらをすばやく再追加できます。削除したカスタムモデルの認証情報をすべて Manage Credentials リストから削除した場合、そのモデルは モデルの追加 をクリックしても表示されなくなります。