개발자 리소스

LibreChat

RunAPI를 위한 LibreChat 사용자 지정 엔드포인트를 구성하고, Docker에 YAML을 마운트하고, 재시작하여 채팅을 확인합니다.

Markdown 보기

LibreChat 사용자 지정 엔드포인트는 배포 구성이며, 사용자별 연결 양식이 아닙니다. LibreChat 배포 파일에 대한 접근 권한과 인증 가이드에서 발급한 표준 RunAPI API 키가 필요합니다.

LibreChat 설치

공식 로컬 설정으로 LibreChat을 설치하거나 기존 배포를 사용하세요. 사용자 정의 엔드포인트를 추가하기 전에 설치를 완료하세요.

RunAPI 엔드포인트 추가

LibreChat 배포 디렉터리에서 librechat.yaml을 생성하거나 업데이트하세요. YOUR_RUNAPI_MODEL_ID를 모델 카탈로그의 현재 식별자로 교체하세요.

YAML

version: 1.3.13
endpoints:
  custom:
    - name: "RunAPI"
      apiKey: "${RUNAPI_API_KEY}"
      baseURL: "https://runapi.ai/v1"
      models:
        default: ["YOUR_RUNAPI_MODEL_ID"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "RunAPI"

키를 YAML 파일에 직접 입력하지 말고 .env에 저장하세요.

SHELL

RUNAPI_API_KEY=YOUR_RUNAPI_API_TOKEN

Docker Compose의 경우 docker-compose.override.yml이 구성 파일을 마운트하는지 확인하세요:

YAML

services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml

이 파일들을 변경한 후에는 LibreChat 배포를 재시작하세요.

모델 선택

models.default는 알려진 모델이 최소 하나 이상 있음을 보장합니다. models.fetch: true를 설정하면 LibreChat이 현재 모델 목록도 함께 요청합니다. 검색이 일시적으로 불가능한 경우에도 엔드포인트를 사용할 수 있도록, 검색이 활성화된 경우에도 유효한 기본 식별자를 유지하세요.

연결 확인

재시작 후 엔드포인트 선택기에서 RunAPI를 선택하고 구성된 모델을 선택한 후 Reply with the word connected.를 전송합니다. 정상적인 응답이 오면 배포 구성과 모델 요청이 모두 올바르게 설정된 것입니다.

문제 해결

엔드포인트 선택기에 RunAPI가 없음: YAML 들여쓰기를 검증하고, docker-compose.override.yml이 파일을 마운트하는지 확인한 후 API 컨테이너를 재시작하세요.
엔드포인트는 로드되지만 인증 실패: .env에 API 컨테이너에 대한 RUNAPI_API_KEY가 정의되어 있는지 확인하고, 환경이 오래된 경우 컨테이너를 다시 생성하세요.
가져온 모델이 표시되지 않음: models.default에 현재 식별자를 하나 유지하고, baseURL이 /v1로 끝나는지 확인한 후 API 컨테이너 로그를 검사하세요.
LibreChat이 편집된 YAML을 무시함: 볼륨 마운트 포인트의 호스트 경로와 컨테이너 경로가 변경한 파일을 가리키는지 확인하세요.

공유 프로토콜 동작에 대해서는 LLM API 빠른 시작을 참조하세요. 요청 및 응답 필드에 대해서는 Chat Completions API 참조를 참조하세요.