כיצד לחבר כל LLM ל-SillyTavern
SillyTavern יכול לדבר עם כמעט כל מודל דרך נקודת קצה אחת תואמת OpenAI. הנה ההגדרה המדויקת, כיצד להחליף מודלים, וכיצד לתקן שגיאות נפוצות.
SillyTavern הוא frontend, לא מארח מודלים. כדי להשתמש בו אתם מפנים אותו לנקודת קצה תואמת OpenAI ומדביקים מפתח, ואז הוא יכול לנהוג כמעט בכל מודל מאחורי אותה נקודת קצה. הדרך הנקייה ביותר להגיע להרבה מודלים היא שער, אז מפתח אחד וכתובת בסיס פותחים את כל הקטלוג במקום ספק יחיד. הנה ההגדרה המדויקת, ועוד כיצד להחליף מודלים ולתקן את השגיאות שאנשים בדרך כלל נתקלים בהן.
מה צריך קודם
שלושה דברים: התקנת SillyTavern פעילה, נקודת קצה תואמת OpenAI, ומפתח עבורה. שער מכסה את השניים האחרונים בבת אחת, כי הוא נותן לכם כתובת בסיס אחת ומפתח אחד שמגיעים להרבה מודלים. עם Wanmo Test אתם יוצרים חשבון, לוקחים את המפתח, ומוכנים; יש שכבה חינמית כדי שתבדקו דמות לפני שתוציאו דבר. שמרו את המפתח בהישג יד ואל תדביקו אותו בשום מקום ציבורי.
שלבי ההגדרה
ב-SillyTavern, פתחו את לוח ה-API ובחרו Chat Completion, ואז את המקור תואם OpenAI (Custom). הגדירו את כתובת ה-URL הבסיסית ל-https://api.unorouter.com/v1, הדביקו את מפתח Wanmo Test שלכם, ולחצו כדי לטעון את רשימת המודלים. בחרו מודל מהתפריט הנפתח ושלחו הודעת בדיקה. הדמויות, ספרי הידע וההגדרות הקבועות מראש שלכם עובדים ללא שינוי, כי SillyTavern היה צריך רק נקודת קצה ומפתח. אותו מפתח עובד גם ב-Janitor.AI, RisuAI ו-Chub.
החלפת מודלים אחר כך
מכיוון שהכול עובר דרך נקודת קצה אחת, החלפת מודלים היא רק בחירת פריט אחר בתפריט המודלים הנפתח; שום חשבון, מפתח או כתובת בסיס חדשים. זה מאפשר לכם להריץ מודל חינמי זול בזמן שאתם בונים סצנה, ואז לעבור למודל בתשלום חזק יותר לרגע שחשוב. עם יותר מ-200 מודלים על מפתח אחד אתם יכולים להתאים את המודל לסצנה במקום להסתפק במה שספק יחיד מציע.
שגיאות נפוצות ותיקונים
אם רשימת המודלים לא נטענת, בדקו שוב שכתובת הבסיס מסתיימת ב-/v1 ושהמפתח מודבק בלי רווחים תועים. שגיאה 401 פירושה שהמפתח שגוי או פג; העתיקו אותו מחדש. שגיאה 404 על מודל פירושה ששם המודל הזה לא נבחר מהרשימה שנטענה. אם התשובות נקטעות, העלו את אורך התשובה בהגדרות של SillyTavern. רוב כשלי ההגדרה הם כתובת בסיס עם שגיאת הקלדה או מפתח עם רווחים, אז בדקו אותם קודם.
זה כל הטריק
חיבור כל LLM ל-SillyTavern מסתכם בנקודת קצה אחת תואמת OpenAI ומפתח, ושער הופך זאת למודלים רבים מאחורי הגדרה אחת. Wanmo Test נותן לכם את כתובת ה-URL הבסיסית הזו, שכבה חינמית להתחלה, ויותר מ-200 מודלים שתוכלו לעבור ביניהם בלי לעשות שום דבר מחדש. הגדירו פעם אחת ואותו מפתח עוקב אחריכם בכל ממשק צ'אט דמויות.
מוכנים לחבר את SillyTavern? צרו חשבון חינם או עיינו במודלים.
מודלים של צ'אט, תמונות, embedding ודיבור שאפשר לקרוא להם בחינם דרך API אחד תואם OpenAI, מה המגבלות ואיך מתחילים בשתי דקות.
מה פרוקסי עושה ב-Janitor AI, מה הופך אחד לטוב למשחקי תפקידים, ואיך האפשרויות החינמיות ובתשלום משתוות, כולל איפה Wanmo Test מתאים ואיפה לא.
ה-API של DeepSeek עצמה בתשלום. הנה איך לקרוא למודלים של DeepSeek בחינם דרך מפתח תואם OpenAI, מה המגבלות, ואיך להשתמש בו בקוד שלכם, ב-Janitor AI או ב-SillyTavern.
תגובות
טוען תגובות