跳到主要內容
開發者資源
開發者資源

LibreChat

為 RunAPI 設定 LibreChat 自訂端點,在 Docker 中掛載其 YAML 設定檔,重新啟動後驗證對話。

LibreChat 自訂端點屬於部署設定,而非每位使用者的連線表單。您需要存取 LibreChat 的部署檔案,以及從身分驗證指南取得的標準 RunAPI API 金鑰。

安裝 LibreChat

使用官方本機設定安裝 LibreChat,或使用您現有的部署。請在新增自訂端點前完成安裝。

新增 RunAPI 端點

在 LibreChat 部署目錄中建立或更新 librechat.yaml。 將 YOUR_RUNAPI_MODEL_ID 替換為來自模型 目錄的最新識別碼。

YAML
version: 1.3.13
endpoints:
  custom:
    - name: "RunAPI"
      apiKey: "${RUNAPI_API_KEY}"
      baseURL: "https://runapi.ai/v1"
      models:
        default: ["YOUR_RUNAPI_MODEL_ID"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "RunAPI"

將金鑰存放於 .env 中,而非直接寫入 YAML 檔案:

SHELL
RUNAPI_API_KEY=YOUR_RUNAPI_API_TOKEN

對於 Docker Compose,請確保 docker-compose.override.yml 掛載了 設定檔:

YAML
services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml

變更上述任何檔案後,請重新啟動 LibreChat 部署。

選取模型

models.default 保證至少有一個已知的模型。啟用 models.fetch: true 時,LibreChat 也會請求目前的模型清單。即使啟用了探索功能,也請保留有效的預設識別碼,以便在探索功能暫時無法使用時,端點仍可正常運作。

驗證連線

重新啟動後,從端點選擇器中選取 RunAPI,選擇已設定的模型,並傳送 Reply with the word connected.。收到正常回應即確認部署設定與模型請求均正確無誤。

疑難排解

  • RunAPI 未出現在端點選擇器中: 請驗證 YAML 縮排是否正確,確認 docker-compose.override.yml 已掛載該檔案,然後重新啟動 API 容器。
  • 端點已載入但身分驗證失敗: 請確認 .env 已為 API 容器定義 RUNAPI_API_KEY,若其環境已過時,請重新建立容器。
  • 沒有顯示任何已擷取的模型: 請在 models.default 中保留至少一個目前的識別碼,確認 baseURL/v1 結尾,並檢查 API 容器日誌。
  • LibreChat 忽略已編輯的 YAML: 請確認磁碟區掛載點中的主機路徑與容器路徑均指向您所修改的檔案。

如需共用協定行為,請參閱 LLM API 快速入門。如需請求與回應欄位,請參閱 Chat Completions API 參考