Entwickler-Ressourcen

LibreChat

Einen benutzerdefinierten LibreChat-Endpunkt für RunAPI konfigurieren, dessen YAML in Docker einbinden, neu starten und einen Chat überprüfen.

Markdown anzeigen

Benutzerdefinierte LibreChat-Endpunkte sind Deployment-Konfigurationen, keine benutzerbezogenen Verbindungsformulare. Sie benötigen Zugriff auf die LibreChat-Deployment-Dateien und einen Standard-RunAPI-API-Schlüssel aus dem Authentifizierungsleitfaden.

LibreChat installieren

Installieren Sie LibreChat mit dem offiziellen lokalen Setup oder verwenden Sie Ihre bestehende Bereitstellung. Schließen Sie die Installation ab, bevor Sie den benutzerdefinierten Endpunkt hinzufügen.

RunAPI-Endpunkt hinzufügen

Erstellen oder aktualisieren Sie librechat.yaml im LibreChat-Bereitstellungsverzeichnis. Ersetzen Sie YOUR_RUNAPI_MODEL_ID durch einen aktuellen Bezeichner aus dem Modellkatalog.

YAML

version: 1.3.13
endpoints:
  custom:
    - name: "RunAPI"
      apiKey: "${RUNAPI_API_KEY}"
      baseURL: "https://runapi.ai/v1"
      models:
        default: ["YOUR_RUNAPI_MODEL_ID"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "RunAPI"

Speichern Sie den Schlüssel in .env, nicht direkt in der YAML-Datei:

SHELL

RUNAPI_API_KEY=YOUR_RUNAPI_API_TOKEN

Stellen Sie bei Docker Compose sicher, dass docker-compose.override.yml die Konfigurationsdatei einbindet:

YAML

services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml

Starten Sie das LibreChat-Deployment neu, nachdem Sie eine dieser Dateien geändert haben.

Ein Modell auswählen

models.default garantiert mindestens ein bekanntes Modell. Mit models.fetch: true ruft LibreChat außerdem das aktuelle Modell- Inventar ab. Behalten Sie einen gültigen Standard-Bezeichner auch dann bei, wenn Discovery aktiviert ist, damit der Endpunkt weiterhin nutzbar bleibt, falls Discovery vorübergehend nicht verfügbar ist.

Verbindung überprüfen

Wählen Sie nach dem Neustart RunAPI aus dem Endpunktauswähler, wählen Sie das konfigurierte Modell und senden Sie Reply with the word connected. Eine normale Antwort bestätigt sowohl die Deployment-Konfiguration als auch die Modellanfrage.

Fehlerbehebung

RunAPI fehlt im Endpunkt-Selektor: Überprüfen Sie die YAML-Einrückung, vergewissern Sie sich, dass docker-compose.override.yml die Datei einbindet, und starten Sie den API-Container neu.
Der Endpunkt lädt, aber die Authentifizierung schlägt fehl: Vergewissern Sie sich, dass .env RUNAPI_API_KEY für den API-Container definiert, und erstellen Sie den Container neu, falls seine Umgebung veraltet ist.
Es werden keine abgerufenen Modelle angezeigt: Behalten Sie eine aktuelle Kennung in models.default, vergewissern Sie sich, dass baseURL auf /v1 endet, und prüfen Sie die API-Container-Logs.
LibreChat ignoriert bearbeitetes YAML: Überprüfen Sie, ob der Host-Pfad und der Container-Pfad im Volume-Mount auf die geänderte Datei zeigen.

Für das gemeinsame Protokollverhalten verwenden Sie den LLM API Quickstart. Für Anfrage- und Antwortfelder verwenden Sie die Chat Completions API Referenz.