חיפוש בתיעוד...

התחילו להקליד כדי לחפש בתיעוד

מדריך הפלטפורמה

הצמדת קבוצות

קבעו מודל לקבוצות ספקים מסוימות במקום ניתוב לזול ביותר.

כל מודל מסופק על ידי קבוצת ספקים אחת או יותר, לכל אחת מחיר משלה. כברירת מחדל מפתח משתמש ב-auto: כל בקשה הולכת לקבוצה הזולה ביותר שפעילה.

נעיצה עוקפת זאת לכל מודל בנפרד. אתם בוחרים באילו קבוצות הוא יכול להשתמש ובאיזה סדר הן נוסות, והחיוב ננעל לתעריפים שלהן.

כל דף מודל מציג את כל הקבוצות עם מחיר קלט ופלט תחת Group Pricing. תג ההנחה ברשימת המודלים משקף את הקבוצה הזולה ביותר.

טבלת מחירי קבוצות בעמוד פרטי מודל

פתחו מפתחות API, צרו או ערכו מפתח, ופתחו את בורר הקבוצות. חפשו מודל, לחצו עליו, וסמנו קבוצה אחת או יותר. מודלים שלא נגעתם בהם נשארים ב-auto.

בוחר קבוצות ספקים לפי מודל בעורך המפתח

מודלים מקובעים ממוינים לראש עם תג שמציג את מספר הקבוצות שלהם. הכפתור Clear all מאפס את המפתח ל-auto. רשימת המפתחות מציגה מפתחות מקובעים כ-auto +N.

במקום לסמן ספקים אחד אחד, גררו את טווח המחירים בעל שתי הידיות במודל כדי לנתב רק דרך ספקים שהתעריף שלהם נמצא בטווח. מכיוון שהבחירה נעשית לפי מחיר ולא לפי שם, ספקים חדשים שנכנסים לטווח נכללים אוטומטית.

מחוון טווח המחירים במודל, עם הספקים שנכללים בו

טווח מחירים ונתיבים נעוצים מתאחדים: הטווח מכסה את הספקים הזולים, ונעיצה שומרת ספק יקר מסוים כגיבוי גם אם הוא מחוץ לטווח. עם הזול ביותר קודם מגיעים לגיבוי הזה רק כשכל מה שזול יותר נכשל; עם הסדר שלי אתם קובעים את מקומו.

מצב אוטומטי מחזיר את המודל לשרשרת הרגילה שמתחילה מהזול ביותר. הטווח וההצמדות נשמרים אך אינם פעילים, כך שכיבוי המצב האוטומטי משחזר בדיוק את ההגדרה הקודמת.

מצב אוטומטי פעיל, הטווח השמור מעומעם אך נשמר

מתחת לרשימת הנתיבים, סדר גיבוי קובע באיזה סדר נוסים הנתיבים שנבחרו. ברירת המחדל היא הזול ביותר קודם: הנתיבים עוברים מהתעריף הנמוך לגבוה, והרשימה מציגה את הסדר הזה בלי לאפשר לשנות אותו.

סדר גיבוי על הזול ביותר קודם, עם הנתיבים שנבחרו ממוינים לפי תעריף

עברו להסדר שלי כדי לגרור את הנתיבים שנבחרו לכל סדר שתרצו. בקשות מנסות קודם את הנתיב העליון ויורדות רק כשהוא נכשל, כך שאפשר להעדיף ספק שאתם סומכים עליו על פני ספק זול יותר. מיון לפי מחיר מחזיר את הרשימה לזול ביותר קודם. נתיב שאינו זמין שומר על מקומו ומדולג עד שיחזור.

סדר גיבוי על הסדר שלי, עם הנתיבים שנבחרו ברשימה ממוספרת וידיות גרירה

כשמוגדר טווח מחירים, נתיבים שהטווח מוסיף ולא בחרתם באים אחרי הרשימה שלכם, הזול ביותר קודם. ספק שנכנס לטווח מאוחר יותר מגיע גם הוא לשם.

מודל נעוץ מנותב רק דרך הקבוצות הנעוצות שלו ועובר הלאה בשגיאות, בסדר שנקבע תחת סדר גיבוי. הקבוצה שמשרתת את הבקשה קובעת את התעריף שמחויב.

שלבו הצמדה עם מעקב כדי לדעת מתי הקבוצות משנות מחיר או נופלות, ראו התראות

כדי לקבע בקשה בודדת בלי לשנות את המפתח, שלחו כותרת X-Group עם שם הקבוצה המדויק. היא דורסת את הקיבוע של המפתח ואת ניתוב auto. העתיקו שמות מ-Group Pricing.

bash
curl https://api.test.wanmo.ai/v1/chat/completions \
  -H "Authorization: Bearer $UNOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-Group: glm-new-relay-glm-5.2" \
  -d '{
    "model": "glm-5.2",
    "messages": [{ "role": "user", "content": "Hello" }]
  }'

הכותרת חייבת לציין קבוצה שמותר למפתח להשתמש בה, אחרת הבקשה נדחית. מודלים לא מקובעים נשארים בניתוב לזול ביותר.

אם כל הקבוצות המקובעות מושבתות בזמן שספקים אחרים עדיין מספקים את המודל, הבקשות נכשלות עם שגיאה ספציפית במקום הודעת עומס כללית:

json
{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

הרחיבו את הקיבוע או הסירו אותו, או נסו שוב מאוחר יותר. המודל עצמו פעיל.