Поиск по документации...

Начните вводить, чтобы искать по документации

Руководство по платформе

Закрепление групп

Закрепите модель за конкретными группами провайдеров вместо маршрутизации по минимальной цене.

Каждую модель обслуживает одна или несколько групп провайдеров, у каждой своя цена. По умолчанию ключ использует auto: каждый запрос идёт в самую дешёвую живую группу.

Закрепление переопределяет это для каждой модели. Вы выбираете, какие группы она может использовать и в каком порядке они пробуются, а оплата привязана к их тарифам.

Страница каждой модели перечисляет все группы с ценой ввода и вывода в разделе Group Pricing. Значок скидки в списке моделей отражает самую дешёвую группу.

Таблица цен групп на странице модели

Откройте API-ключи, создайте или отредактируйте ключ и откройте выбор групп. Найдите модель, нажмите на неё и отметьте одну или несколько групп. Незатронутые модели остаются на auto.

Выбор групп провайдеров по моделям в редакторе ключа

Закреплённые модели поднимаются вверх со значком, показывающим число их групп. Clear all возвращает ключ в режим auto. В списке ключей закреплённые ключи отображаются как auto +N.

Вместо того чтобы отмечать провайдеров вручную, потяните ползунок диапазона цен с двумя рукоятками, чтобы направлять запросы только через провайдеров с подходящей ставкой. Отбор идёт по цене, а не по имени, поэтому новые провайдеры в этом диапазоне подхватываются автоматически.

Ползунок диапазона цен у модели с подходящими провайдерами

Диапазон и закреплённые линии объединяются: диапазон охватывает дешёвых провайдеров, а закрепление оставляет определённого дорогого провайдера резервным, даже если он вне диапазона. При варианте Сначала дешёвые до этого резерва дело доходит только когда отказало всё более дешёвое; при варианте Мой порядок его место выбираете вы.

Автоматический режим возвращает модель в обычную цепочку от самого дешёвого. Диапазон и закрепления остаются сохранёнными, но неактивными, поэтому при отключении возвращается ровно прежняя настройка.

Автоматический режим включён, сохранённый диапазон неактивен, но сохранён

Под списком линий параметр Порядок резерва определяет, в каком порядке пробуются выбранные линии. По умолчанию стоит Сначала дешёвые: линии идут от самого низкого тарифа к самому высокому, а список показывает этот порядок без возможности его изменить.

Порядок резерва в режиме Сначала дешёвые: выбранные линии отсортированы по тарифу

Переключитесь на Мой порядок, чтобы перетаскиванием расставить выбранные линии в любом порядке. Запросы сначала пробуют верхнюю линию и идут ниже, только если она отказала, поэтому можно предпочесть надёжного провайдера более дешёвому. Сортировать по цене возвращает список к порядку от самой дешёвой. Недоступная линия сохраняет своё место и пропускается, пока не вернётся.

Порядок резерва в режиме Мой порядок: выбранные линии в нумерованном списке с маркерами для перетаскивания

Если задан ценовой диапазон, линии, которые добавляет диапазон, но которые вы не выбирали, идут после вашего списка, сначала самая дешёвая. Провайдер, позже попавший в диапазон, тоже оказывается там.

Закреплённая модель идёт только через свои закреплённые группы и при ошибках переключается дальше, в порядке, заданном в разделе Порядок резерва. Группа, обслужившая запрос, определяет списанный тариф.

Сочетайте закрепление с отслеживанием, чтобы узнавать, когда группы меняют цену или падают, смотрите Уведомления

Чтобы закрепить один запрос, не меняя ключ, отправьте заголовок X-Group с точным именем группы. Он переопределяет закрепление ключа и маршрутизацию auto. Имена копируйте из Group Pricing.

bash
curl https://api.test.wanmo.ai/v1/chat/completions \
  -H "Authorization: Bearer $UNOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-Group: glm-new-relay-glm-5.2" \
  -d '{
    "model": "glm-5.2",
    "messages": [{ "role": "user", "content": "Hello" }]
  }'

Заголовок должен называть группу, доступную ключу, иначе запрос будет отклонён. Незакреплённые модели остаются на маршрутизации по минимальной цене.

Если все закреплённые группы недоступны, а другие провайдеры всё ещё обслуживают модель, запросы завершаются конкретной ошибкой, а не общим сообщением о занятости:

json
{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Расширьте или снимите закрепление либо повторите попытку позже. Сама модель работает.