Ressources pour développeurs

AnythingLLM

Installez AnythingLLM, configurez son fournisseur Generic OpenAI pour RunAPI, choisissez les limites de modèle et vérifiez un chat d'espace de travail.

Voir en Markdown

AnythingLLM expose un fournisseur OpenAI (generic) orienté développeur pour les services Chat Completions compatibles. Avant de commencer, créez une clé API RunAPI Standard dans le Guide d’authentification et choisissez un modèle dans le Catalogue de modèles.

Installer AnythingLLM

Installez la version bureau ou auto-hébergée en utilisant le guide d’installation officiel d’AnythingLLM. Ouvrez AnythingLLM et terminez sa configuration initiale avant de changer le fournisseur LLM.

Configurer OpenAI (générique)

Ouvrez Settings → LLM Preference et sélectionnez OpenAI (generic).
Saisissez https://runapi.ai/v1 comme Base URL. N’ajoutez pas /chat/completions ; AnythingLLM ajoute automatiquement le chemin de l’opération.
Saisissez votre clé API RunAPI.
Choisissez l’identifiant RunAPI exact sous Selected Model. Si la liste de modèles est vide, tapez l’identifiant depuis le Catalogue de modèles.
Définissez Model context window et Max Tokens sur des valeurs prises en charge par ce modèle, puis enregistrez le fournisseur.

AnythingLLM utilise Model context window pour budgéter les instructions système, l’historique et les entrées utilisateur. Il envoie Max Tokens sous la forme max_tokens, donc ces valeurs doivent correspondre au modèle sélectionné et non à un exemple universel.

Vérifier la connexion

Créez ou ouvrez un espace de travail, démarrez une conversation et envoyez Reply with the word connected. Une réponse textuelle confirme que l’espace de travail utilise le fournisseur RunAPI enregistré et le modèle sélectionné.

Résoudre les problèmes

Aucun modèle n’est listé : vérifiez que l’URL de base est exactement https://runapi.ai/v1, puis saisissez manuellement un identifiant de modèle actuel.
La requête est rejetée en raison de sa longueur : réduisez l’historique de l’espace de travail ou corrigez Fenêtre de contexte du modèle et Nombre maximum de tokens en utilisant les limites actuelles du modèle sélectionné.
L’authentification échoue : mettez à jour la clé API dans OpenAI (generic) avec une clé standard valide issue du Guide d’authentification.
Un autre modèle répond dans l’espace de travail : rouvrez LLM Preference, confirmez que OpenAI (generic) est actif et enregistrez à nouveau le Modèle sélectionné souhaité.

Pour le comportement de protocole partagé, utilisez le démarrage rapide de l’API LLM . Pour les champs de requête et de réponse, consultez la référence de l’API Chat Completions .