Buscar documentação...

Comece a digitar para buscar documentação

Guia da plataforma

Fixação de grupos

Fixe um modelo em grupos de provedores específicos em vez do roteamento mais barato.

Todo modelo é servido por um ou mais grupos de provedores, cada um com preço próprio. Por padrão, uma chave usa auto: cada requisição vai para o grupo ativo mais barato.

Fixar substitui isso por modelo. Você escolhe quais grupos ele pode usar e em que ordem são tentados, e a cobrança passa a seguir as tarifas deles.

Cada página de modelo lista todos os grupos com preço de entrada e de saída em Group Pricing. O selo de desconto na lista de modelos reflete o grupo mais barato.

Tabela de preços por grupo na página de detalhes de um modelo

Abra Chaves de API, crie ou edite uma chave e abra o seletor de grupos. Procure um modelo, clique nele e marque um ou mais grupos. Modelos não alterados continuam em auto.

Seletor de grupos por modelo no editor de chaves

Modelos fixados vão para o topo com um selo mostrando quantos grupos têm. Clear all redefine a chave para auto. A lista de chaves mostra as chaves fixadas como auto +N.

Em vez de marcar provedores um a um, arraste a faixa de preço de duas alças em um modelo para rotear apenas por provedores cuja taxa esteja dentro dela. Como a seleção é por preço e não por nome, novos provedores que entrem na faixa são incluídos automaticamente.

Controle de faixa de preço em um modelo, mostrando os provedores incluídos

Uma faixa e rotas fixadas se combinam como uma união: a faixa cobre os provedores baratos, e uma fixação mantém um provedor caro específico como reserva mesmo fora da faixa. Com Mais barato primeiro essa reserva só é alcançada quando tudo o que é mais barato falha; com Minha ordem você decide onde ela fica.

Automático devolve o modelo à cadeia normal do mais barato primeiro. Sua faixa e fixações continuam salvas, porém inativas, de modo que desligá-lo restaura exatamente o que estava configurado antes.

Automático ativado, com a faixa salva esmaecida mas preservada

Abaixo da lista de rotas, Ordem de reserva define em que ordem as rotas escolhidas são tentadas. Mais barato primeiro é o padrão: as rotas vão da tarifa mais baixa para a mais alta, e a lista mostra essa ordem sem permitir alterá-la.

Ordem de reserva em Mais barato primeiro, com as rotas escolhidas ordenadas por tarifa

Mude para Minha ordem para arrastar as rotas escolhidas em qualquer sequência. As solicitações tentam primeiro a rota do topo e só descem quando ela falha, então você pode preferir um provedor de confiança a um mais barato. Ordenar por preço volta a lista para o mais barato primeiro. Uma rota fora do ar mantém seu lugar e é ignorada até voltar.

Ordem de reserva em Minha ordem, com as rotas escolhidas numa lista numerada e alças para arrastar

Com uma faixa de preço definida, as rotas que a faixa adiciona e que você não escolheu vêm depois da sua lista, a mais barata primeiro. Um provedor que entrar na faixa depois também vai para lá.

Um modelo fixado só passa pelos seus grupos fixados e faz failover em caso de erro, na ordem definida em Ordem de reserva. O grupo que atende a solicitação define a tarifa cobrada.

Combine uma fixação com um acompanhamento para saber quando os grupos mudam de preço ou caem, veja Notificações

Para fixar uma única requisição sem mudar a chave, envie um cabeçalho X-Group com o nome exato do grupo. Ele substitui a fixação da chave e o roteamento auto. Copie os nomes de Group Pricing.

bash
curl https://api.test.wanmo.ai/v1/chat/completions \
  -H "Authorization: Bearer $UNOROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-Group: glm-new-relay-glm-5.2" \
  -d '{
    "model": "glm-5.2",
    "messages": [{ "role": "user", "content": "Hello" }]
  }'

O cabeçalho precisa citar um grupo que a chave possa usar, ou a requisição é rejeitada. Modelos sem fixação continuam no roteamento mais barato.

Se todos os grupos fixados estiverem fora enquanto outros provedores ainda servem o modelo, as requisições falham com um erro específico em vez de uma mensagem genérica de ocupado:

json
{
  "error": {
    "message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
    "type": "new_api_error",
    "code": "get_channel_failed"
  }
}

Amplie ou remova a fixação, ou tente mais tarde. O modelo em si está no ar.