Szukaj w dokumentacji...

Zacznij wpisywać, aby przeszukać dokumentację

Przewodnik po platformie

Przypinanie grup

Przypnij model do wybranych grup dostawców zamiast routingu po najniższej cenie.

Każdy model serwuje jedna lub więcej grup dostawców, każda z własną ceną. Domyślnie klucz działa w trybie auto: każde żądanie idzie do najtańszej działającej grupy.

Przypięcie zastępuje to dla danego modelu. Wybierasz, których grup może używać i w jakiej kolejności są próbowane, a rozliczenie jest związane z ich stawkami.

Każda strona modelu wymienia w Group Pricing wszystkie grupy z ceną wejścia i wyjścia. Oznaczenie zniżki na liście modeli odnosi się do najtańszej grupy.

Tabela cen grup na stronie szczegółów modelu

Otwórz Klucze API, utwórz albo edytuj klucz i otwórz selektor grup. Wyszukaj model, kliknij go i zaznacz jedną lub więcej grup. Nieruszone modele zostają w trybie auto.

Selektor grup dostawców per model w edytorze klucza

Przypięte modele trafiają na górę listy z oznaczeniem liczby grup. Clear all przywraca klucz do trybu auto. Lista kluczy pokazuje przypięte klucze jako auto +N.

Zamiast zaznaczać dostawców ręcznie, przeciągnij dwusuwakowy zakres cen przy modelu, aby kierować ruch tylko przez dostawców z ceną w tym zakresie. Wybór odbywa się według ceny, a nie nazwy, więc nowi dostawcy mieszczący się w zakresie są uwzględniani automatycznie.

Suwak zakresu cen przy modelu z pasującymi dostawcami

Zakres i przypięte ścieżki łączą się jako suma: zakres obejmuje tanich dostawców, a przypięcie zachowuje konkretnego drogiego dostawcę jako zapas, nawet jeśli leży poza zakresem. Przy Najtańsze najpierw ten zapas jest używany dopiero, gdy zawiedzie wszystko tańsze; przy Moja kolejność sam decydujesz o jego miejscu.

Tryb automatyczny przywraca model do zwykłego łańcucha od najtańszego. Zakres i przypięcia pozostają zapisane, ale nieaktywne, więc wyłączenie przywraca dokładnie poprzednią konfigurację.

Tryb automatyczny włączony, zapisany zakres wyszarzony, ale zachowany

Pod listą ścieżek Kolejność awaryjna decyduje, w jakiej kolejności są próbowane wybrane ścieżki. Domyślnie jest Najtańsze najpierw: ścieżki idą od najniższej stawki do najwyższej, a lista pokazuje tę kolejność bez możliwości jej zmiany.

Kolejność awaryjna na Najtańsze najpierw, z wybranymi ścieżkami posortowanymi według stawki

Przełącz na Moja kolejność, aby przeciągnąć wybrane ścieżki w dowolnej kolejności. Żądania najpierw próbują górnej ścieżki i schodzą niżej tylko wtedy, gdy zawiedzie, więc możesz przedkładać zaufanego dostawcę nad tańszego. Sortuj według ceny przywraca kolejność od najtańszej. Niedostępna ścieżka zachowuje swoje miejsce i jest pomijana do czasu powrotu.

Kolejność awaryjna ustawiona na Moja kolejność, z wybranymi ścieżkami na numerowanej liście i uchwytami do przeciągania

Gdy ustawiony jest zakres cen, ścieżki dodane przez zakres, których nie wybrałeś, idą po Twojej liście, najtańsza najpierw. Dostawca, który później wejdzie w zakres, też tam trafia.

Przypięty model korzysta tylko ze swoich przypiętych grup i przy błędach przełącza się dalej, w kolejności ustawionej w Kolejność awaryjna. Grupa, która obsłuży żądanie, wyznacza naliczoną stawkę.

Połącz przypięcie z obserwacją, by wiedzieć, kiedy grupy zmieniają cenę lub padają, zobacz Powiadomienia

Aby przypiąć jedno żądanie bez zmiany klucza, wyślij nagłówek X-Group z dokładną nazwą grupy. Nadpisuje on przypięcie klucza i routing auto. Nazwy skopiuj z Group Pricing.

bash
curl https://api.test.wanmo.ai/v1/chat/completions \
  -H "Authorization: Bearer $UNOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-Group: glm-new-relay-glm-5.2" \
  -d '{
    "model": "glm-5.2",
    "messages": [{ "role": "user", "content": "Hello" }]
  }'

Nagłówek musi wskazywać grupę, której klucz może używać, inaczej żądanie zostaje odrzucone. Modele bez przypięcia zostają przy routingu po najniższej cenie.

Jeśli wszystkie przypięte grupy leżą, a inni dostawcy nadal serwują model, żądania kończą się konkretnym błędem, a nie ogólnym komunikatem o zajętości:

json
{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Poszerz albo usuń przypięcie, ewentualnie spróbuj później. Sam model działa.