AnythingLLM
Instale o AnythingLLM, configure seu provedor Generic OpenAI para o RunAPI, escolha os limites de modelo e verifique um chat no workspace.
O AnythingLLM expõe um provedor OpenAI (generic) voltado para desenvolvedores para serviços de Chat Completions compatíveis. Antes de começar, crie uma Chave de API padrão do RunAPI no Guia de Autenticação e escolha um modelo do Catálogo de Modelos.
Instalar AnythingLLM
Instale a edição desktop ou auto-hospedada usando o guia oficial de instalação do AnythingLLM. Abra o AnythingLLM e conclua sua configurações iniciais antes de alterar o provedor LLM.
Configurar OpenAI (genérico)
- Abra Settings → LLM Preference e selecione OpenAI (generic).
- Insira
https://runapi.ai/v1como a Base URL. Não acrescente/chat/completions; o AnythingLLM adiciona o caminho da operação. - Insira sua Chave de API do RunAPI.
- Escolha o identificador exato do RunAPI em Selected Model. Se a lista de modelos estiver vazia, digite o identificador do Catálogo de Modelos.
- Defina Model context window e Max Tokens com valores suportados pelo modelo e salve o provedor.
O AnythingLLM usa Model context window para orçar instruções do sistema,
histórico e entrada do usuário. Ele envia Max Tokens como max_tokens, portanto
estes valores devem seguir o modelo selecionado em vez de um exemplo universal.
Verificar a conexão
Crie ou abra um workspace, inicie um chat e envie Reply with the word
connected. Uma resposta de texto confirma que o workspace está usando o provedor RunAPI salvo e o Modelo Selecionado.
Solucionar problemas
- Nenhum modelo é listado: verifique se a URL base é exatamente
https://runapi.ai/v1e insira um identificador de modelo atual manualmente. - A requisição é rejeitada por tamanho: reduza o histórico do workspace ou corrija Model context window e Max Tokens usando os limites atuais do modelo selecionado.
- A autenticação falha: atualize a Chave de API em OpenAI (generic) com uma chave padrão válida do Guia de Autenticação.
- Outro modelo responde no workspace: reabra LLM Preference, confirme que OpenAI (generic) está ativo e salve o Selected Model pretendido novamente.
Para o comportamento de protocolo compartilhado, use o Início rápido da API LLM. Para campos de requisição e resposta, use a Referência da API Chat Completions.