Geliştirici Kaynakları

LibreChat

RunAPI için özel bir LibreChat uç noktası yapılandırın, YAML'ını Docker'a bağlayın, yeniden başlatın ve bir sohbeti doğrulayın.

Markdown'ı görüntüle

LibreChat özel uç noktaları, kullanıcı başına bir bağlantı formu değil, dağıtım yapılandırmasıdır. LibreChat dağıtım dosyalarına ve Kimlik Doğrulama Kılavuzu‘ndan edinilmiş standart bir RunAPI API anahtarına ihtiyacınız vardır.

LibreChat'i Yükle

LibreChat’i resmi yerel kurulum kılavuzuyla yükleyin veya mevcut dağıtımınızı kullanın. Özel uç noktayı eklemeden önce kurulumu tamamlayın.

RunAPI uç noktasını ekleyin

LibreChat dağıtım dizininde librechat.yaml dosyasını oluşturun veya güncelleyin. YOUR_RUNAPI_MODEL_ID ifadesini Model Kataloğu‘ndaki güncel bir tanımlayıcıyla değiştirin.

YAML

version: 1.3.13
endpoints:
  custom:
    - name: "RunAPI"
      apiKey: "${RUNAPI_API_KEY}"
      baseURL: "https://runapi.ai/v1"
      models:
        default: ["YOUR_RUNAPI_MODEL_ID"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "RunAPI"

Anahtarı doğrudan YAML dosyasına değil, .env dosyasına kaydedin:

SHELL

RUNAPI_API_KEY=YOUR_RUNAPI_API_TOKEN

Docker Compose için docker-compose.override.yml dosyasının yapılandırma dosyasını bağladığından emin olun:

YAML

services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml

Bu dosyalardan herhangi birini değiştirdikten sonra LibreChat dağıtımını yeniden başlatın.

Bir model seçin

models.default, en az bir bilinen modeli garanti eder. models.fetch: true ile LibreChat geçerli model envanterini de talep eder. Keşif etkinleştirilmiş olsa bile uç noktanın, keşif geçici olarak kullanılamadığında bile çalışabilir kalması için geçerli bir varsayılan tanımlayıcı saklayın.

Bağlantıyı doğrulayın

Yeniden başlatmanın ardından uç nokta seçicisinden RunAPI‘yi seçin, yapılandırılan modeli seçin ve Reply with the word connected. gönderin. Normal bir yanıt, hem dağıtım yapılandırmasını hem de model isteğini doğrular.

Sorun giderme

RunAPI uç nokta seçicisinde görünmüyor: YAML girintisini doğrulayın, docker-compose.override.yml dosyasının dosyayı bağladığını onaylayın ve API konteynerini yeniden başlatın.
Uç nokta yükleniyor ancak kimlik doğrulama başarısız olur: .env dosyasının API konteyneri için RUNAPI_API_KEY tanımladığını onaylayın ve ortamı eskimişse konteyneri yeniden oluşturun.
Getirilen model görünmüyor: models.default içinde güncel bir tanımlayıcı bulundurun, baseURL değerinin /v1 ile bittiğini onaylayın ve API konteyneri günlüklerini inceleyin.
LibreChat düzenlenen YAML’ı yok sayıyor: Birim bağlama noktasındaki ana bilgisayar yolunun ve konteyner yolunun değiştirdiğiniz dosyaya işaret ettiğini doğrulayın.

Ortak protokol davranışı için LLM API Hızlı başlangıç bölümünü kullanın. İstek ve yanıt alanları için Chat Completions API Başvurusu bölümüne bakın.