コンテンツへスキップ
開発者向けリソース
開発者向けリソース

LibreChat

RunAPI用のLibreChatカスタムエンドポイントを設定し、そのYAMLをDockerにマウントし、再起動してチャットを確認します。

LibreChatのカスタムエンドポイントはデプロイ設定であり、ユーザーごとの接続フォームではありません。LibreChatのデプロイファイルへのアクセスと、認証ガイドで取得した標準RunAPI APIキーが必要です。

LibreChat のインストール

公式ローカルセットアップを使用して LibreChat をインストールするか、既存のデプロイメントを使用します。カスタムエンドポイントを追加する前にインストールを完了してください。

RunAPI エンドポイントを追加

LibreChatのデploymentディレクトリにlibrechat.yamlを作成または更新します。 YOUR_RUNAPI_MODEL_IDモデルカタログの現在の識別子に置き換えてください。

YAML
version: 1.3.13
endpoints:
  custom:
    - name: "RunAPI"
      apiKey: "${RUNAPI_API_KEY}"
      baseURL: "https://runapi.ai/v1"
      models:
        default: ["YOUR_RUNAPI_MODEL_ID"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "RunAPI"

キーはYAMLファイルに直接記述せず、.envに保存してください:

SHELL
RUNAPI_API_KEY=YOUR_RUNAPI_API_TOKEN

Docker Composeの場合、docker-compose.override.ymlが設定ファイルをマウントしていることを確認してください:

YAML
services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml

これらのファイルを変更した後、LibreChatのデプロイメントを再起動してください。

モデルを選択する

models.default は少なくとも1つの既知のモデルを保証します。models.fetch: true を指定すると、LibreChatは現在のモデルインベントリも取得します。ディスカバリーが有効な場合でも、ディスカバリーが一時的に利用できないときにエンドポイントを使用可能な状態に保つため、有効なデフォルト識別子を常に設定しておいてください。

接続を確認する

再起動後、エンドポイントセレクターから RunAPI を選択し、設定済みのモデルを選択して Reply with the word connected. を送信します。正常なレスポンスが返れば、デプロイ設定とモデルリクエストの両方が正しく機能していることを確認できます。

トラブルシューティング

  • RunAPI がエンドポイントセレクターに表示されない: YAML のインデントを確認し、docker-compose.override.yml がファイルをマウントしていることを確認し、API コンテナを再起動してください。
  • エンドポイントは読み込まれるが認証に失敗する: .env が API コンテナに RUNAPI_API_KEY を定義していることを確認し、環境が古くなっている場合はコンテナを再作成してください。
  • 取得したモデルが表示されない: models.default に現在の識別子を 1 つ保持し、baseURL/v1 で終わっていることを確認し、API コンテナのログを確認してください。
  • LibreChat が編集した YAML を無視する: ボリュームマウントのホストパスとコンテナパスが変更したファイルを指していることを確認してください。

共通のプロトコル動作については、LLM API クイックスタートを参照してください。リクエストおよびレスポンスのフィールドについては、Chat Completions API リファレンスを参照してください。