LocalAIでデプロイしたローカルモデルを統合

​

LocalAIのデプロイ

​

使用前の注意事項

​

デプロイ開始

1. まず、LocalAIのコードリポジトリをクローンし、指定のディレクトリに移動します
   Copy

   Ask AI

   $ git clone https://github.com/go-skynet/LocalAI
   $ cd LocalAI/examples/langchain-chroma
   

2. サンプルのLLMと埋め込みモデルをダウンロードします
   Copy

   Ask AI

   $ wget https://huggingface.co/skeskinen/ggml/resolve/main/all-MiniLM-L6-v2/ggml-model-q4_0.bin -O models/bert
   $ wget https://gpt4all.io/models/ggml-gpt4all-j.bin -O models/ggml-gpt4all-j
   

   ここでは、小型で全プラットフォーム対応の2つのモデルを選んでいます。ggml-gpt4all-jがデフォルトのLLMモデルとして、all-MiniLM-L6-v2がデフォルトの埋め込みモデルとして使用され、ローカルで迅速にデプロイすることができます。
3. .envファイルを設定します
   Copy

   Ask AI

   $ mv .env.example .env
   

   注意点：.env内のTHREADS変数の値が、あなたのマシンのCPUコア数を超えないことを確認してください。
4. LocalAIを起動します
   Copy

   Ask AI

   # docker-composeを使用して起動
   $ docker-compose up -d --build
   
   # ログを追跡し、ビルドが完了するまで待つ
   $ docker logs -f langchain-chroma-api-1
   7:16AM INF Starting LocalAI using 4 threads, with models path: /models
   7:16AM INF LocalAI version: v1.24.1 (9cc8d9086580bd2a96f5c96a6b873242879c70bc)
   
    ┌───────────────────────────────────────────────────┐ 
    │                   Fiber v2.48.0                   │ 
    │               http://127.0.0.1:8080               │ 
    │       (bound on host 0.0.0.0 and port 8080)       │ 
    │                                                   │ 
    │ Handlers ............ 55  Processes ........... 1 │ 
    │ Prefork ....... Disabled  PID ................ 14 │ 
    └───────────────────────────────────────────────────┘ 
   

   ローカルのhttp://127.0.0.1:8080がLocalAIのAPIリクエストのエンドポイントとして開放されます。 そして、以下の2つのモデルが提供されます：
   • LLMモデル：ggml-gpt4all-j 外部アクセス名：gpt-3.5-turbo（この名前はmodels/gpt-3.5-turbo.yamlでカスタマイズ可能です）
   • 埋め込みモデル：all-MiniLM-L6-v2 外部アクセス名：text-embedding-ada-002（この名前はmodels/embeddings.yamlでカスタマイズ可能です）

   DifyをDockerでデプロイする場合、ネットワーク設定に注意し、DifyコンテナがXinferenceのエンドポイントにアクセスできることを確認してください。Difyコンテナ内からはlocalhostにアクセスできないため、ホストのIPアドレスを使用する必要があります。

5. LocalAI APIサービスがデプロイ完了したら、Difyでモデルを使用します 設定 > モデル供給者 > LocalAIに以下を入力します： モデル1：ggml-gpt4all-j
   • モデルタイプ：テキスト生成
   • モデル名：gpt-3.5-turbo
   • サーバーURL：http://127.0.0.1:8080 Difyがdockerデプロイの場合、ホストのドメイン名：http://<your-LocalAI-endpoint-domain>:8080を入力してください。例えば、局域網のIPアドレス：http://192.168.1.100:8080
   “保存”後、アプリケーション内でこのモデルを使用できます。 モデル2：all-MiniLM-L6-v2
   • モデルタイプ：埋め込み
   • モデル名：text-embedding-ada-002
   • サーバーURL：http://127.0.0.1:8080

     Difyがdockerデプロイの場合、ホストのドメイン名：http://<your-LocalAI-endpoint-domain>:8080を入力してください。例えば、局域網のIPアドレス：http://192.168.1.100:8080

   “保存”後、アプリケーション内でこのモデルを使用できます。