Risorse per sviluppatori

LibreChat

Configura un endpoint personalizzato LibreChat per RunAPI, monta il suo YAML in Docker, riavvia e verifica una chat.

Gli endpoint personalizzati di LibreChat sono configurazione di distribuzione, non un modulo di connessione per utente. È necessario l’accesso ai file di distribuzione di LibreChat e una Chiave API RunAPI standard dalla Guida all’Autenticazione.

Installa LibreChat

Installa LibreChat con la configurazione locale ufficiale o utilizza il tuo deployment esistente. Completa l’installazione prima di aggiungere l’endpoint personalizzato.

Aggiungi l'endpoint RunAPI

Crea o aggiorna librechat.yaml nella directory di distribuzione di LibreChat. Sostituisci YOUR_RUNAPI_MODEL_ID con un identificatore corrente dal Catalogo Modelli.

YAML

version: 1.3.13
endpoints:
  custom:
    - name: "RunAPI"
      apiKey: "${RUNAPI_API_KEY}"
      baseURL: "https://runapi.ai/v1"
      models:
        default: ["YOUR_RUNAPI_MODEL_ID"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "RunAPI"

Conserva la chiave in .env, non direttamente nel file YAML:

SHELL

RUNAPI_API_KEY=YOUR_RUNAPI_API_TOKEN

Per Docker Compose, assicurati che docker-compose.override.yml monti il file di configurazione:

YAML

services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml

Riavvia il deployment di LibreChat dopo aver modificato uno qualsiasi di questi file.

Seleziona un modello

models.default garantisce almeno un modello noto. Con models.fetch: true, LibreChat richiede anche l’inventario dei modelli corrente. Mantenere un identificatore predefinito valido anche quando il rilevamento è abilitato, in modo che l’endpoint rimanga utilizzabile qualora il rilevamento fosse temporaneamente non disponibile.

Verifica la connessione

Dopo il riavvio, seleziona RunAPI dal selettore di endpoint, scegli il modello configurato e invia Reply with the word connected. Una risposta normale conferma sia la configurazione del deployment che la richiesta al modello.

Risoluzione dei problemi

RunAPI è assente dal selettore di endpoint: valida l’indentazione YAML, conferma che docker-compose.override.yml monti il file e riavvia il container API.
L’endpoint si carica ma l’autenticazione non riesce: conferma che .env definisca RUNAPI_API_KEY per il container API e ricrea il container se il suo ambiente è obsoleto.
Non compare nessun modello recuperato: mantieni un identificatore aggiornato in models.default, conferma che baseURL termini con /v1 e ispeziona i log del container API.
LibreChat ignora il YAML modificato: verifica che il percorso host e il percorso container nel punto di montaggio del volume puntino al file che hai modificato.

Per il comportamento del protocollo condiviso, utilizza la Guida introduttiva all’API LLM. Per i campi di richiesta e risposta, utilizza il Riferimento API Chat Completions.