搜尋文件...

開始輸入以搜尋文件

SillyTavern
SillyTavern

SillyTavern 整合指南

透過 Custom OpenAI-compatible 聊天補全來源將 Routerah 連接到 SillyTavern。

概覽

SillyTavern 透過 Chat Completion 來源連上 Routerah。貼上基礎網址與 API 金鑰,再從下拉選單挑選模型。不需要代理或通道。

快速設定

把這些貼進用戶端。已登入時會自動填入你的金鑰。

text
基礎 URL: https://api.routerah.app/v1
API 金鑰: YOUR_API_KEY

登入以自動填入 API 金鑰

相容性

Chat CompletionsAnthropic Messages串流工具呼叫

逐步設定

  1. 1
    開啟 API Connections

    點選上方的插頭圖示,開啟 API Connections 面板。

  2. 2
    選擇 Chat Completion

    將 API 類型設為 Chat Completion。

  3. 3
    選擇 Custom(OpenAI-compatible)

    在 Chat Completion Source 下拉式選單中,選擇 Custom(OpenAI-compatible)。

  4. 4
    貼上基礎 URL

    輸入 Routerah 以 `/v1` 結尾的基礎 URL。請勿加上 `/chat/completions`。

    text
    Custom Endpoint (Base URL): https://api.routerah.app/v1

    登入以自動填入 API 金鑰

  5. 5
    貼上 API 金鑰

    將你的 Routerah API 金鑰貼到 Custom API Key 欄位。

  6. 6
    連線並挑選模型

    點選 Connect。Model 下拉選單會由 Routerah 的模型清單填入。

在 Android 上執行(Termux)

SillyTavern 沒有 Android 應用程式,但可以在手機的 Termux 中執行。依照以下步驟安裝一次,在手機瀏覽器中開啟,再依照上方步驟連接 Routerah。

  1. 1
    安裝 Termux

    請從 F-Droid 或其 GitHub 發布頁面取得 Termux。Play 商店版本已不再維護,無法使用。

  2. 2
    選擇鏡像並更新

    開啟 Termux 並執行第一個指令。選擇 Mirror group 與離你較近的地區,然後更新套件。

    bash
    termux-change-repo
    pkg update && pkg upgrade

    登入以自動填入 API 金鑰

  3. 3
    安裝相依套件

    這會安裝 Git 和 Node.js。在較舊的 32 位元手機上,如果啟動時出現 Unsupported platform 錯誤,請再執行 `pkg install esbuild`。

    bash
    pkg install git nodejs-lts nano

    登入以自動填入 API 金鑰

  4. 4
    下載 SillyTavern

    這會將穩定版下載到你的 Termux 主目錄。

    bash
    git clone https://github.com/SillyTavern/SillyTavern -b release

    登入以自動填入 API 金鑰

  5. 5
    啟動 SillyTavern

    在手機瀏覽器中開啟 http://127.0.0.1:8000,然後依照上方的設定步驟操作。聊天時請讓 Termux 在背景持續執行。之後要再次啟動,執行這兩個指令即可。

    bash
    cd ~/SillyTavern
    bash start.sh

    登入以自動填入 API 金鑰

  6. 6
    更新 SillyTavern

    想要最新版本時執行此指令。你的角色和聊天紀錄都會保留。

    bash
    cd ~/SillyTavern
    git pull --rebase --autostash

    登入以自動填入 API 金鑰

推薦模型

在這裡可用的免費模型。把任意模型 id 貼進用戶端即可。

minimax-m3.1-flash:freexing4.0-29b-a4b:freesage-a1.5:freenemotron-3.5-bolt-e4b:freeling-3.1-flash:free

注意事項

  • 只貼上以 `/v1` 結尾的基礎網址。SillyTavern 會自行補上 `/chat/completions`,自己加上會回傳 400 錯誤。
  • 模型下拉選單為空表示連線失敗。請重新核對基礎網址,然後啟用 Bypass API status check。
  • 401 表示金鑰已過期或輸入有誤。請在 Routerah 儀表板產生新金鑰,貼上時不要帶前後空白。
  • 如果串流輸出在句子中途中斷,先關閉 Streaming 確認原因,再重新開啟。會移除 `data:` 前綴的公司代理同樣會破壞它。
產生 API 金鑰模型