Risorse per sviluppatori

AnythingLLM

Installa AnythingLLM, configura il suo provider OpenAI generico per RunAPI, scegli i limiti del modello e verifica una chat nel workspace.

Visualizza Markdown

AnythingLLM espone un provider OpenAI (generic) orientato agli sviluppatori per i servizi Chat Completions compatibili. Prima di iniziare, crea una chiave API RunAPI standard nella Guida all’Autenticazione e scegli un modello dal Model Catalog.

Installa AnythingLLM

Installa l’edizione desktop o self-hosted utilizzando la guida ufficiale all’installazione di AnythingLLM. Apri AnythingLLM e completa la configurazione iniziale prima di cambiare il provider LLM.

Configura OpenAI (generico)

Apri Settings → LLM Preference e seleziona OpenAI (generic).
Inserisci https://runapi.ai/v1 come Base URL. Non aggiungere /chat/completions; AnythingLLM aggiunge automaticamente il percorso dell’operazione.
Inserisci la tua chiave API RunAPI.
Scegli l’identificatore RunAPI preciso in Selected Model. Se l’elenco dei modelli è vuoto, digita l’identificatore dal Model Catalog.
Imposta Model context window e Max Tokens sui valori supportati da quel modello, quindi salva il provider.

AnythingLLM usa Model context window per suddividere istruzioni di sistema, cronologia e input dell’utente. Invia Max Tokens come max_tokens, quindi questi valori devono seguire il modello selezionato anziché un esempio universale.

Verifica la connessione

Crea o apri uno spazio di lavoro, avvia una chat e invia Reply with the word connected. Una risposta testuale conferma che lo spazio di lavoro utilizza il provider RunAPI salvato e il modello selezionato.

Risoluzione dei problemi

Non è elencato nessun modello: verifica che il Base URL sia esattamente https://runapi.ai/v1, quindi inserisci manualmente un identificatore di modello aggiornato.
La richiesta viene rifiutata per lunghezza: riduci la cronologia del workspace oppure correggi Model context window e Max Tokens usando i limiti attuali del modello selezionato.
L’autenticazione non riesce: aggiorna la Chiave API in OpenAI (generic) con una chiave standard valida dalla Authentication Guide.
Un altro modello risponde nel workspace: riapri LLM Preference, conferma che OpenAI (generic) sia attivo e salva di nuovo il Selected Model desiderato.

Per il comportamento del protocollo condiviso, utilizza la Guida introduttiva all’API LLM. Per i campi di richiesta e risposta, utilizza il Riferimento API Chat Completions.