Zasoby dla deweloperów

LibreChat

Konfiguracja niestandardowego endpointu LibreChat dla RunAPI, montowanie jego YAML w Docker, ponowne uruchomienie i weryfikacja czatu.

Zobacz Markdown

Niestandardowe punkty końcowe LibreChat są konfiguracją wdrożenia, a nie formularzem połączenia dla poszczególnych użytkowników. Potrzebujesz dostępu do plików wdrożenia LibreChat oraz standardowego klucza API RunAPI z Przewodnika po uwierzytelnianiu.

Instalacja LibreChat

Zainstaluj LibreChat za pomocą oficjalnej lokalnej konfiguracji lub użyj istniejącego wdrożenia. Ukończ instalację przed dodaniem niestandardowego punktu końcowego.

Dodaj punkt końcowy RunAPI

Utwórz lub zaktualizuj plik librechat.yaml w katalogu wdrożenia LibreChat. Zastąp YOUR_RUNAPI_MODEL_ID aktualnym identyfikatorem z Katalogu modeli.

YAML

version: 1.3.13
endpoints:
  custom:
    - name: "RunAPI"
      apiKey: "${RUNAPI_API_KEY}"
      baseURL: "https://runapi.ai/v1"
      models:
        default: ["YOUR_RUNAPI_MODEL_ID"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "RunAPI"

Przechowaj klucz w .env, a nie bezpośrednio w pliku YAML:

SHELL

RUNAPI_API_KEY=YOUR_RUNAPI_API_TOKEN

W przypadku Docker Compose upewnij się, że plik docker-compose.override.yml montuje plik konfiguracyjny:

YAML

services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml

Uruchom ponownie wdrożenie LibreChat po wprowadzeniu zmian w którymkolwiek z tych plików.

Wybierz model

models.default gwarantuje co najmniej jeden znany model. Przy ustawieniu models.fetch: true LibreChat żąda również bieżącego spisu modeli. Zachowaj prawidłowy domyślny identyfikator modelu nawet wtedy, gdy wykrywanie jest włączone, aby punkt końcowy pozostał użyteczny w przypadku tymczasowej niedostępności wykrywania.

Weryfikuj połączenie

Po ponownym uruchomieniu wybierz RunAPI z selektora punktów końcowych, wybierz skonfigurowany model i wyślij wiadomość Reply with the word connected. Prawidłowa odpowiedź potwierdza zarówno konfigurację wdrożenia, jak i żądanie modelu.

Rozwiązywanie problemów

RunAPI jest nieobecny w selektorze punktów końcowych: sprawdź wcięcia YAML, potwierdź, że docker-compose.override.yml montuje plik, i uruchom ponownie kontener API.
Punkt końcowy ładuje się, ale uwierzytelnianie kończy się niepowodzeniem: upewnij się, że .env definiuje RUNAPI_API_KEY dla kontenera API, i odtwórz kontener, jeśli jego środowisko jest nieaktualne.
Brak pobranych modeli: zachowaj jeden aktualny identyfikator w models.default, upewnij się, że baseURL kończy się na /v1, i sprawdź logi kontenera API.
LibreChat ignoruje edytowany YAML: zweryfikuj ścieżkę hosta i ścieżkę kontenera w punkcie montowania woluminu, które wskazują na zmieniony plik.

W przypadku wspólnego zachowania protokołu skorzystaj z Szybkiego startu LLM API . W przypadku pól żądania i odpowiedzi skorzystaj z Dokumentacji interfejsu Chat Completions API.