본문으로 건너뛰기
개발자 리소스
개발자 리소스

NextChat

사용자 지정 엔드포인트와 모델로 NextChat을 RunAPI에 연결합니다.

Markdown 보기

사용자 지정 OpenAI 엔드포인트를 통해 NextChat을 RunAPI에 연결합니다. NextChat은 이 그룹의 다른 클라이언트와 다르게 작업 경로를 구성하므로 아래의 정확한 엔드포인트 값을 사용하십시오. 계속하기 전에 인증 가이드에서 표준 RunAPI API 키를 만드십시오.

NextChat 설치 또는 배포

공식 NextChat 저장소에서 데스크탑 릴리스 또는 배포 방법을 선택한 후 Settings를 여십시오.

사용자 지정 엔드포인트 구성

  1. 웹 애플리케이션에서 Custom Endpoint를 활성화하고 OpenAI를 선택하십시오. 데스크톱 애플리케이션은 항상 커스텀 설정을 사용합니다.
  2. 엔드포인트 주소를 /v1 없이 https://runapi.ai로 설정하십시오.
  3. RunAPI API 키를 입력하십시오.
  4. Custom Model Name 아래에서 모델 카탈로그의 정확한 식별자를 추가한 후 현재 채팅에서 해당 모델을 선택하십시오.

이 설정은 NextChat의 엔드포인트 루트이며, OpenAI SDK에서 사용하는 OpenAI 호환 Base URL이 아닙니다. NextChat은 자체적으로 v1/chat/completions를 추가하여 https://runapi.ai/v1/chat/completions를 생성합니다. NextChat의 OpenAI 클라이언트는 RunAPI 모델 목록을 가져오지 않으므로, 검색을 기다리지 않고 식별자를 수동으로 추가하세요.

자체 호스팅 배포 구성

자체 호스팅 설치의 경우 다음 환경 변수를 설정하고 애플리케이션을 재배포하거나 재시작하세요:

SHELL 
BASE_URL=https://runapi.ai
OPENAI_API_KEY=YOUR_RUNAPI_API_TOKEN
CUSTOM_MODELS=+YOUR_RUNAPI_MODEL_ID

+ 접두사는 애플리케이션의 기존 모델 항목을 교체하지 않고 모델을 추가합니다.

연결 확인

새 채팅을 시작하고 커스텀 RunAPI 모델을 선택한 후 Reply with the word connected.를 전송하세요. 정상적인 완전한 또는 스트리밍 응답은 커스텀 엔드포인트가 활성 상태임을 확인합니다.

문제 해결

  • 요청 URL에 /v1/v1/chat/completions가 포함됨: 엔드포인트 주소에서 /v1을 제거하고 https://runapi.ai를 사용하세요.
  • NextChat이 여전히 기본 제공 모델을 사용함: Custom Model Name 아래에 정확한 식별자를 추가한 후 현재 채팅에서 다시 선택하세요.
  • 웹 설정이 적용되지 않음: Custom Endpoint가 활성화되어 있는지 확인하세요. 데스크톱과 웹 애플리케이션은 이 스위치를 다르게 처리합니다.
  • 자체 호스팅 변경 사항이 적용되지 않음: BASE_URL, OPENAI_API_KEY, 또는 CUSTOM_MODELS를 변경한 후 재시작하거나 재배포하세요.

공유 프로토콜 동작에 대해서는 LLM API 빠른 시작을 참조하세요. 요청 및 응답 필드에 대해서는 Chat Completions API 참조를 참조하세요.