Saltar al contenido
Recursos para desarrolladores
Recursos para desarrolladores

AnythingLLM

Instale AnythingLLM, configure su proveedor Generic OpenAI para RunAPI, elija los límites del modelo y verifique un chat en el espacio de trabajo.

Ver Markdown

AnythingLLM expone un proveedor OpenAI (generic) orientado a desarrolladores para servicios de Chat Completions compatibles. Antes de comenzar, crea una Clave de API estándar de RunAPI en la Guía de Autenticación y elige un modelo del Catálogo de modelos.

Instalar AnythingLLM

Instale la edición de escritorio o autoalojada usando la guía de instalación oficial de AnythingLLM. Abra AnythingLLM y complete su configuración inicial antes de cambiar el proveedor de LLM.

Configurar OpenAI (genérico)

  1. Abre Settings → LLM Preference y selecciona OpenAI (generic).
  2. Ingresa https://runapi.ai/v1 como Base URL. No agregues /chat/completions; AnythingLLM añade la ruta de la operación.
  3. Ingresa tu Clave de API de RunAPI.
  4. Elige el identificador exacto de RunAPI en Selected Model. Si la lista de modelos está vacía, escribe el identificador del Catálogo de modelos.
  5. Establece Model context window y Max Tokens en valores compatibles con ese modelo y guarda el proveedor.

AnythingLLM usa Model context window para presupuestar las instrucciones del sistema, el historial y la entrada del usuario. Envía Max Tokens como max_tokens, por lo que estos valores deben seguir las especificaciones del modelo seleccionado y no un ejemplo universal.

Verificar la conexión

Cree o abra un espacio de trabajo, inicie un chat y envíe Reply with the word connected. Una respuesta de texto confirma que el espacio de trabajo usa el proveedor RunAPI guardado y el modelo seleccionado.

Solución de problemas

  • No hay modelos en la lista: verifica que la URL base sea exactamente https://runapi.ai/v1 y luego ingresa un identificador de modelo actual manualmente.
  • La solicitud es rechazada por la longitud: reduce el historial del espacio de trabajo o corrige la Ventana de contexto del modelo y los Tokens máximos usando los límites actuales del modelo seleccionado.
  • La autenticación falla: actualiza la clave de API en OpenAI (generic) con una clave estándar válida de la Guía de autenticación.
  • Otro modelo responde en el espacio de trabajo: vuelve a abrir LLM Preference, confirma que OpenAI (generic) está activo y guarda el Modelo seleccionado deseado nuevamente.

Para el comportamiento de protocolo compartido, use el Inicio rápido de la API LLM. Para los campos de solicitud y respuesta, use la Referencia de la API de Chat Completions.