Zum Inhalt springen
Entwickler-Ressourcen
Entwickler-Ressourcen

NextChat

NextChat mit einem benutzerdefinierten Endpunkt und Modell mit RunAPI verbinden.

Markdown anzeigen

NextChat über seinen benutzerdefinierten OpenAI-Endpunkt mit RunAPI verbinden. NextChat setzt seinen Vorgangspfad anders zusammen als die anderen Clients in dieser Gruppe; verwenden Sie daher genau den unten angegebenen Endpunktwert. Erstellen Sie einen Standard-RunAPI-API-Schlüssel in der Authentifizierungsanleitung, bevor Sie fortfahren.

NextChat installieren oder bereitstellen

Wählen Sie ein Desktop-Release oder eine Bereitstellungsmethode aus dem offiziellen NextChat-Repository und öffnen Sie dann Settings.

Den benutzerdefinierten Endpunkt konfigurieren

  1. Aktivieren Sie in der Webanwendung Benutzerdefinierter Endpunkt und wählen Sie OpenAI. Die Desktop-Anwendung verwendet stets eine benutzerdefinierte Konfiguration.
  2. Setzen Sie die Endpunktadresse auf https://runapi.ai ohne /v1.
  3. Geben Sie Ihren RunAPI-API-Schlüssel ein.
  4. Fügen Sie unter Benutzerdefinierter Modellname eine genaue Kennung aus dem Modellkatalog hinzu und wählen Sie diese für den aktuellen Chat aus.

Diese Einstellung ist NextChats Endpunkt-Stamm, nicht die OpenAI-kompatible Basis-URL eines OpenAI SDK. NextChat hängt selbst v1/chat/completions an und erzeugt dabei https://runapi.ai/v1/chat/completions. Sein OpenAI-Client ruft die RunAPI-Modellliste nicht ab. Fügen Sie daher den Bezeichner manuell hinzu, anstatt auf die automatische Erkennung zu warten.

Eine selbst gehostete Bereitstellung konfigurieren

Legen Sie für eine selbst gehostete Installation diese Umgebungsvariablen fest und stellen Sie die Anwendung erneut bereit oder starten Sie sie neu:

SHELL 
BASE_URL=https://runapi.ai
OPENAI_API_KEY=YOUR_RUNAPI_API_TOKEN
CUSTOM_MODELS=+YOUR_RUNAPI_MODEL_ID

Das +-Präfix fügt das Modell hinzu, ohne die vorhandenen Modelleinträge der Anwendung zu ersetzen.

Verbindung überprüfen

Starten Sie einen neuen Chat, wählen Sie das benutzerdefinierte RunAPI-Modell und senden Sie Reply with the word connected. Eine normale vollständige oder gestreamte Antwort bestätigt, dass der benutzerdefinierte Endpunkt aktiv ist.

Fehlerbehebung

  • Die Anfrage-URL enthält /v1/v1/chat/completions: Entfernen Sie /v1 aus der Endpunktadresse und verwenden Sie https://runapi.ai.
  • NextChat verwendet weiterhin ein integriertes Modell: Fügen Sie die genaue Kennung unter Custom Model Name hinzu und wählen Sie sie dann im aktuellen Chat erneut aus.
  • Web-Einstellungen haben keine Wirkung: Vergewissern Sie sich, dass Custom Endpoint aktiviert ist; die Desktop- und Web-Anwendungen handhaben diesen Schalter unterschiedlich.
  • Änderungen an der selbst gehosteten Version haben keine Wirkung: Starten Sie die Anwendung neu oder stellen Sie sie nach dem Ändern von BASE_URL, OPENAI_API_KEY oder CUSTOM_MODELS erneut bereit.

Für das gemeinsame Protokollverhalten verwenden Sie den LLM API Quickstart. Für Anfrage- und Antwortfelder verwenden Sie die Chat Completions API Referenz.