開発者向けリソース

AnythingLLM

AnythingLLM をインストールし、RunAPI 向けに Generic OpenAI プロバイダーを設定して、モデルの上限を選択し、ワークスペースチャットを確認します。

AnythingLLM は、互換性のある Chat Completions サービス向けに開発者向けの OpenAI（汎用）プロバイダーを提供しています。開始する前に、認証ガイドで標準 RunAPI API キーを作成し、モデルカタログからモデルを選択してください。

AnythingLLM のインストール

公式 AnythingLLM インストールガイドを使用してデスクトップ版またはセルフホスト版をインストールします。LLM プロバイダーを変更する前に、AnythingLLM を開いて初期設定を完了してください。

設定 → LLM 設定を開き、OpenAI（汎用）を選択します。
ベース URL として https://runapi.ai/v1 を入力します。 /chat/completions は付加しないでください。AnythingLLM が操作パスを自動で追加します。
RunAPI の API キーを入力します。
選択したモデルで正確な RunAPI 識別子を選択します。モデルリストが空の場合は、モデルカタログから識別子を入力します。
モデルのコンテキストウィンドウと最大トークン数をそのモデルがサポートする値に設定し、プロバイダーを保存します。

AnythingLLM はモデルのコンテキストウィンドウを使用して、システム指示、履歴、およびユーザー入力を予算配分します。最大トークン数は max_tokens として送信されるため、これらの値は汎用的な例ではなく、選択したモデルに合わせて設定する必要があります。

ワークスペースを作成または開き、チャットを開始して、Reply with the word connected.と送信します。テキストの返信により、ワークスペースが保存済みのRunAPIプロバイダーと選択済みモデルを使用していることが確認できます。

モデルが一覧に表示されない: Base URL が正確に https://runapi.ai/v1 であることを確認し、現在のモデル識別子を手動で入力してください。
長さの制限でリクエストが拒否される: ワークスペースの履歴を減らすか、選択したモデルの現在の制限に基づいて Model context window と Max Tokens を修正してください。
認証に失敗する: OpenAI (generic) の API キーを、認証ガイドから取得した有効な標準キーに更新してください。
別のモデルがワークスペースに応答する: LLM Preference を再度開き、OpenAI (generic) がアクティブであることを確認し、意図した Selected Model を再度保存してください。

共通のプロトコル動作については、LLM API クイックスタートを参照してください。リクエストおよびレスポンスのフィールドについては、Chat Completions API リファレンスを参照してください。