AnythingLLM
AnythingLLM'i yükleyin, Generic OpenAI sağlayıcısını RunAPI için yapılandırın, model sınırlarını seçin ve çalışma alanı sohbetini doğrulayın.
AnythingLLM, uyumlu Chat Completions hizmetleri için geliştirici odaklı bir OpenAI (generic) sağlayıcısı sunar. Başlamadan önce Kimlik Doğrulama Kılavuzu‘nda standart bir RunAPI API anahtarı oluşturun ve Model Kataloğu‘ndan bir model seçin.
AnythingLLM'i Yükle
Resmi AnythingLLM kurulum kılavuzunu kullanarak masaüstü veya kendi kendine barındırılan sürümü yükleyin. LLM sağlayıcısını değiştirmeden önce AnythingLLM’i açın ve ilk kurulumu tamamlayın.
OpenAI'yı yapılandırın (genel)
- Settings → LLM Preference bölümünü açın ve OpenAI (generic) seçeneğini belirleyin.
- Base URL olarak
https://runapi.ai/v1girin./chat/completionseklemeyin; AnythingLLM işlem yolunu kendisi ekler. - RunAPI API anahtarınızı girin.
- Selected Model altında tam RunAPI tanımlayıcısını seçin. Model listesi boşsa Model Kataloğu‘ndaki tanımlayıcıyı yazın.
- Model context window ve Max Tokens değerlerini söz konusu model tarafından desteklenen değerlere ayarlayın ve sağlayıcıyı kaydedin.
AnythingLLM, sistem talimatlarını, geçmişi ve kullanıcı girdisini bütçelemek için Model context window değerini kullanır. Max Tokens değerini max_tokens olarak gönderir; bu nedenle bu değerler evrensel bir örnek yerine seçilen modele göre belirlenmelidir.
Bağlantıyı doğrulayın
Bir çalışma alanı oluşturun veya açın, bir sohbet başlatın ve Reply with the word
connected. gönderin. Bir metin yanıtı, çalışma alanının kaydedilen RunAPI sağlayıcısını ve Seçili Modeli kullandığını doğrular.
Sorun giderme
- Hiçbir model listelenmedi: Temel URL’nin tam olarak
https://runapi.ai/v1olduğunu doğrulayın, ardından güncel bir model tanımlayıcısını elle girin. - İstek uzunluk nedeniyle reddedildi: Çalışma alanı geçmişini azaltın veya seçili modelin güncel sınırlarını kullanarak Model bağlam penceresi ve Maksimum Token değerlerini düzeltin.
- Kimlik doğrulama başarısız olur: OpenAI (generic) sağlayıcısındaki API anahtarını Kimlik Doğrulama Kılavuzu üzerinden alınan geçerli bir standart anahtarla güncelleyin.
- Çalışma alanında başka bir model yanıt veriyor: LLM Preference bölümünü yeniden açın, OpenAI (generic) seçeneğinin etkin olduğunu onaylayın ve istenen Seçili Model‘i tekrar kaydedin.
Ortak protokol davranışı için LLM API Hızlı başlangıç bölümünü kullanın. İstek ve yanıt alanları için Chat Completions API Başvurusu bölümüne bakın.