جستجو در راهنما...

برای جستجوی مستندات تایپ کنید

راهنمای گفتگو

ارائه‌دهندگان سفارشی

از طریق نقطه پایانی و کلید خودتان گفتگو کنید.

هر نقطه پایانی سازگار با OpenAI را با نام، نشانی پایه و کلید API اضافه کنید. ارائه‌دهنده و کلیدش فقط در پایگاه داده محلی شما ذخیره می‌شود.

مدل‌های سفارشی کنار مدل‌های کاتالوگ در انتخابگر دیده می‌شوند. یک گفتگو می‌تواند آزادانه بین‌شان سوئیچ کند.

فرم ارائه‌دهنده سفارشی با نام، نشانی نقطه پایانی، کلید API، قالب و فهرست مدل‌ها

فهرست مدل ارائه‌دهنده را بارگذاری، جست‌وجو و مدل‌های دلخواه را تیک بزنید؛ فقط تیک‌خورده‌ها در انتخابگر گفتگو دیده می‌شوند. شناسه مدلی که در فهرست نیست را می‌توان در جستجو تایپ و اضافه کرد. هر مدل از نوع متن یا تصویر است. مدل‌های تصویری به تولیدکننده تصویر می‌روند، نه فهرست گفتگو.

ورودی‌های مدل تنظیمات خودشان را حمل می‌کنند، از جمله توکنایزری که برای بودجه‌بندی به کار می‌رود.

شمارش توکن، کوتاه‌کردن تاریخچه و بودجه لوربوک را می‌راند؛ پس توکنایزر درست برای گفتگوهای طولانی مهم است. هر مدل سفارشی از ۱۳ پیش‌فرض انتخاب می‌کند:

auto cl100k o200k claude glm5 glm4 deepseek deepseek-v4 llama3 gemma qwen mistral cohere

یا به هر توکنایزر HuggingFace با slug یا نشانی اشاره کنید:

text
hf:openai-community/gpt2
hf:https://huggingface.co/Qwen/Qwen2.5-7B/resolve/main/tokenizer.json

توکنایزرهای HuggingFace یک بار دانلود و محلی کش می‌شوند. شمارش هرگز ارسال را مسدود نمی‌کند: اگر توکنایزر بارگذاری نشد، جایگزین تقریبی می‌شمارد.

مدل‌های کاتالوگ می‌توانند از گروه صورتحسابی‌ای بگذرند که گفتگوهای جدید را بذر می‌کند. مدل‌های ارائه‌دهنده سفارشی از مسیریابی می‌گذرند؛ پس گروه روی آن‌ها اثری ندارد.

درخواست‌های ارائه‌دهندگان سفارشی مستقیم از مرورگر شما به نقطه پایانی‌تان می‌روند. سرورهای Routerah هرگز درخواست، پاسخ یا کلید ارائه‌دهنده شما را نمی‌بینند.