Przejdź do treści
Zasoby dla deweloperów
Zasoby dla deweloperów

NextChat

Połącz NextChat z RunAPI za pomocą niestandardowego endpointu i modelu.

Zobacz Markdown

Połącz NextChat z RunAPI przez niestandardowy endpoint OpenAI. NextChat buduje ścieżkę operacji inaczej niż pozostałe klienty w tej grupie, dlatego użyj dokładnie podanej poniżej wartości endpointu. Przed kontynuowaniem utwórz standardowy klucz API RunAPI w Przewodniku uwierzytelniania.

Zainstaluj lub wdróż NextChat

Wybierz wydanie desktopowe lub metodę wdrożenia z oficjalnego repozytorium NextChat, a następnie otwórz Ustawienia.

Konfiguracja niestandardowego endpointu

  1. W aplikacji webowej włącz Custom Endpoint i wybierz OpenAI. Aplikacja desktopowa zawsze używa konfiguracji niestandardowej.
  2. Ustaw adres punktu końcowego na https://runapi.ai bez /v1.
  3. Wprowadź swój klucz API RunAPI.
  4. W sekcji Custom Model Name dodaj dokładny identyfikator z Katalogu modeli, a następnie wybierz go dla bieżącego czatu.

To ustawienie jest katalogiem głównym punktu końcowego NextChat, a nie zgodnym z OpenAI podstawowym adresem URL używanym przez pakiet SDK OpenAI. NextChat sam dołącza v1/chat/completions, tworząc https://runapi.ai/v1/chat/completions. Jego klient OpenAI nie pobiera listy modeli RunAPI, dlatego dodaj identyfikator ręcznie, zamiast czekać na wykrywanie.

Konfiguracja wdrożenia samodzielnie hostowanego

W przypadku instalacji self-hosted ustaw poniższe zmienne środowiskowe i ponownie wdróż lub zrestartuj aplikację:

SHELL 
BASE_URL=https://runapi.ai
OPENAI_API_KEY=YOUR_RUNAPI_API_TOKEN
CUSTOM_MODELS=+YOUR_RUNAPI_MODEL_ID

Prefiks + dodaje model bez zastępowania istniejących wpisów modelu w aplikacji.

Weryfikuj połączenie

Rozpocznij nowy czat, wybierz niestandardowy model RunAPI i wyślij Reply with the word connected. Normalna kompletna lub strumieniowa odpowiedź potwierdza, że niestandardowy punkt końcowy jest aktywny.

Rozwiązywanie problemów

  • Adres URL żądania zawiera /v1/v1/chat/completions: usuń /v1 z adresu punktu końcowego i użyj https://runapi.ai.
  • NextChat nadal używa wbudowanego modelu: dodaj dokładny identyfikator w polu Custom Model Name, a następnie ponownie wybierz go w bieżącym czacie.
  • Ustawienia w przeglądarce nie mają efektu: upewnij się, że opcja Custom Endpoint jest włączona; aplikacje desktopowa i webowa obsługują ten przełącznik w różny sposób.
  • Zmiany na własnym serwerze nie mają efektu: uruchom ponownie lub wdróż ponownie po zmianie BASE_URL, OPENAI_API_KEY lub CUSTOM_MODELS.

W przypadku wspólnego zachowania protokołu skorzystaj z Szybkiego startu LLM API . W przypadku pól żądania i odpowiedzi skorzystaj z Dokumentacji interfejsu Chat Completions API.