Developer Resources

LibreChat

Configureer een aangepast LibreChat-eindpunt voor RunAPI, koppel het YAML-bestand in Docker, herstart en verifieer een chat.

Markdown bekijken

LibreChat aangepaste eindpunten zijn implementatieconfiguratie, geen verbindingsformulier per gebruiker. U hebt toegang nodig tot de LibreChat-implementatiebestanden en een standaard RunAPI API-sleutel uit de Authenticatiehandleiding.

LibreChat installeren

Installeer LibreChat met de officiële lokale installatie of gebruik uw bestaande implementatie. Voltooi de installatie voordat u het aangepaste eindpunt toevoegt.

Het RunAPI-eindpunt toevoegen

Maak librechat.yaml aan of werk het bij in de LibreChat-implementatiemap. Vervang YOUR_RUNAPI_MODEL_ID door een actuele identifier uit de Modelcatalogus.

YAML

version: 1.3.13
endpoints:
  custom:
    - name: "RunAPI"
      apiKey: "${RUNAPI_API_KEY}"
      baseURL: "https://runapi.ai/v1"
      models:
        default: ["YOUR_RUNAPI_MODEL_ID"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "RunAPI"

Sla de sleutel op in .env, niet rechtstreeks in het YAML-bestand:

SHELL

RUNAPI_API_KEY=YOUR_RUNAPI_API_TOKEN

Voor Docker Compose zorgt u ervoor dat docker-compose.override.yml het configuratibestand koppelt:

YAML

services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml

Start de LibreChat-implementatie opnieuw op nadat u een van deze bestanden hebt gewijzigd.

Een model selecteren

models.default garandeert ten minste één bekend model. Met models.fetch: true vraagt LibreChat ook de huidige modelinventaris op. Houd een geldig standaard-id bij, zelfs wanneer detectie is ingeschakeld, zodat het eindpunt bruikbaar blijft als detectie tijdelijk niet beschikbaar is.

De verbinding verifiëren

Selecteer na het opnieuw opstarten RunAPI uit de eindpuntselector, kies het geconfigureerde model en stuur Reply with the word connected. Een normale reactie bevestigt zowel de implementatieconfiguratie als het modelverzoek.

Probleemoplossing

RunAPI ontbreekt in de eindpuntselector: valideer de YAML-inspringing, controleer of docker-compose.override.yml het bestand koppelt en herstart de API-container.
Het eindpunt laadt maar authenticatie mislukt: controleer of .env RUNAPI_API_KEY definieert voor de API-container en maak de container opnieuw aan als de omgeving verouderd is.
Er verschijnen geen opgehaalde modellen: houd één actuele identificator in models.default, controleer of baseURL eindigt op /v1 en raadpleeg de logboeken van de API-container.
LibreChat negeert bewerkte YAML: controleer het hostpad en het containerpad in de volumekoppeling om te bevestigen dat ze verwijzen naar het gewijzigde bestand.

Gebruik de LLM API-snelstart voor het gedeelde protocolgedrag. Gebruik de Chat Completions API-referentie voor aanvraag- en antwoordvelden.