AnythingLLM 連携ガイド

概要

AnythingLLM は Routerah を Generic OpenAI プロバイダーとして扱います。モデルを入力し、コンテキストウィンドウを設定して保存します。

クイック設定

これらをクライアントに貼り付けてください。サインイン中はキーが自動入力されます。

ベースURL: https://api.routerah.app/v1
APIキー: YOUR_API_KEY

互換性

ステップごとの設定

1. 1
   LLM Preference を開く

   サイドバーで Settings を開き、続いて LLM Preference を開きます。

2. 2
   Generic OpenAI を選ぶ

   LLM Provider を Generic OpenAI に設定し、フォームを入力します。Max Tokens は既定値が 1024 で、すべての応答がその値で制限されるため、値を上げてください。

   text

   Base URL: https://api.routerah.app/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   サインインするとAPIキーが自動入力されます

3. 3
   保存する

   保存します。AnythingLLM がチャットワークスペースで Routerah を使います。

推奨モデル

ここで動作する無料モデルです。任意のモデルIDをクライアントに貼り付けてください。

注意点

• !Base URL と API Key を設定すると、Generic OpenAI がカタログを取得します。取得に失敗した場合、この欄はテキスト入力に切り替わるので、モデル ID を手入力してください。
• !Embedding Preference は別のタブです。Routerah がプランで埋め込みを提供していない限り、動作する埋め込みプロバイダーのままにしてください。