מדריך אינטגרציה של AnythingLLM

סקירה כללית

AnythingLLM מתייחס אל Routerah כספק Generic OpenAI. הקלידו את המודל, הגדירו את חלון ההקשר ושמרו.

הגדרה מהירה

הדביקו את אלה בלקוח. המפתח שלכם ממולא אוטומטית כשאתם מחוברים.

כתובת URL בסיסית: https://api.routerah.app/v1
מפתח API: YOUR_API_KEY

תאימות

הגדרה שלב אחר שלב

1. 1
   פתחו את LLM Preference

   פתחו Settings בסרגל הצד, ואז LLM Preference.

2. 2
   בחרו Generic OpenAI

   הגדירו את LLM Provider לערך Generic OpenAI ומלאו את הטופס. ברירת המחדל של Max Tokens היא 1024 והיא מגבילה כל תשובה, לכן העלו אותה.

   text

   Base URL: https://api.routerah.app/v1
   API Key: YOUR_API_KEY
   Chat Model Name: YOUR_MODEL_ID
   Model context window: 50000
   Max Tokens: 8192

   התחברו למילוי אוטומטי של מפתח ה-API שלכם

3. 3
   שמרו

   שמרו. AnythingLLM משתמש ב-Routerah עבור סביבות עבודה של שיחות.

מודלים מומלצים

מודלים חינמיים שעובדים כאן. הדביקו כל מזהה מודל בלקוח.

נקודות לתשומת לב

• !לאחר הגדרת Base URL ו-API Key, ‏Generic OpenAI מושך את קטלוג הדגמים. אם המשיכה נכשלת, השדה הופך לתיבת טקסט, ואז יש להקליד את מזהה הדגם ידנית.
• !Embedding Preference הוא לשונית נפרדת. השאירו אותה על ספק הטמעות שעובד, אלא אם Routerah חושף הטמעות בתוכנית שלכם.