LibreChat
מדריך אינטגרציה של LibreChat
חברו את Routerah אל LibreChat דרך נקודת קצה מותאמת תואמת OpenAI.
סקירה כללית
LibreChat חושף כל מארח תואם OpenAI דרך endpoints.custom. הוסיפו בלוק של Routerah והגדירו את משתנה הסביבה; בורר המודלים מתמלא מהקטלוג.
הגדרה מהירה
הדביקו את אלה בלקוח. המפתח שלכם ממולא אוטומטית כשאתם מחוברים.
text
כתובת URL בסיסית: https://api.routerah.app/v1
מפתח API: YOUR_API_KEYתאימות
Chat Completionsהזרמהקריאת כלים
הגדרה שלב אחר שלב
- 1ערכו את librechat.yaml
הוסיפו בלוק נקודת קצה מותאמת תחת endpoints.custom.
yamlendpoints: custom: - name: 'Routerah' apiKey: '${ROUTERAH_API_KEY}' baseURL: 'https://api.routerah.app/v1' models: fetch: true titleConvo: true modelDisplayLabel: 'Routerah' - 2הוסיפו את משתנה הסביבה
הגדירו את מפתח ה API של Routerah בקובץ ה env. של LibreChat.
bashROUTERAH_API_KEY=YOUR_API_KEY - 3הפעילו מחדש את LibreChat
הפעילו מחדש את הקונטיינר או התהליך. נקודת הקצה של Routerah מופיעה בתפריט הצאט.
מודלים מומלצים
מודלים חינמיים שעובדים כאן. הדביקו כל מזהה מודל בלקוח.
minimax-m3.1-flash:freexing4.0-29b-a4b:freesage-a1.5:freenemotron-3.5-bolt-e4b:freeling-3.1-flash:free
נקודות לתשומת לב
- השתמשו בתחביר סוגר בודד עבור ערכי משתני סביבה, לא בתחביר הסודות שתצורות אחרות משתמשות בו.
- אם מודל דוחה פרמטרים נוספים של OpenAI, הוסיפו אותם ל dropParams (למשל frequency_penalty ו presence_penalty).
- ההגדרה fetch: true ממלאת מקטלוג Routerah. שלבו אותה עם default כדי להציג תחילה מודלים מועדפים.