Ghim nhóm
Khóa một mô hình vào các nhóm nhà cung cấp cụ thể thay vì định tuyến theo giá rẻ nhất.
Mỗi mô hình được phục vụ bởi một hoặc nhiều nhóm nhà cung cấp, mỗi nhóm có giá riêng. Mặc định, khóa dùng auto: mỗi yêu cầu đi tới nhóm rẻ nhất đang hoạt động.
Ghim sẽ thay thế điều này cho từng mô hình. Bạn chọn những nhóm nào được dùng và chúng được thử theo thứ tự nào, và việc tính phí theo giá của họ.
Mỗi trang mô hình liệt kê mọi nhóm kèm giá đầu vào và đầu ra dưới mục Group Pricing. Huy hiệu giảm giá trong danh sách mô hình phản ánh nhóm rẻ nhất.

Mở Khóa API, tạo hoặc sửa một khóa, rồi mở bộ chọn nhóm. Tìm một mô hình, nhấp vào nó, và đánh dấu một hoặc nhiều nhóm. Các mô hình không đụng tới vẫn giữ auto.

Các mô hình đã ghim được sắp lên đầu kèm huy hiệu cho biết số nhóm. Clear all đặt lại khóa về auto. Danh sách khóa hiển thị các khóa đã ghim là auto +N.
Thay vì tích chọn từng nhà cung cấp, hãy kéo thanh khoảng giá hai đầu trên một mô hình để chỉ định tuyến qua các nhà cung cấp có mức giá nằm trong khoảng đó. Vì việc chọn dựa trên giá chứ không phải tên, các nhà cung cấp mới rơi vào khoảng này sẽ được dùng tự động.

Khoảng giá và các tuyến đã ghim được hợp lại: khoảng giá bao các nhà cung cấp rẻ, còn ghim giữ một nhà cung cấp đắt cụ thể làm dự phòng dù nằm ngoài khoảng. Với Rẻ nhất trước, dự phòng đó chỉ được dùng khi mọi tuyến rẻ hơn đều lỗi; với Thứ tự của tôi, bạn quyết định vị trí của nó.
Chế độ tự động đưa mô hình trở lại chuỗi thông thường, rẻ nhất trước. Khoảng giá và các ghim vẫn được lưu nhưng không hoạt động, nên khi tắt sẽ khôi phục đúng cấu hình trước đó.

Bên dưới danh sách tuyến, Thứ tự dự phòng quyết định các tuyến đã chọn được thử theo thứ tự nào. Mặc định là Rẻ nhất trước: các tuyến đi từ giá thấp nhất đến cao nhất, và danh sách hiển thị thứ tự đó mà không cho thay đổi.

Chuyển sang Thứ tự của tôi để kéo các tuyến đã chọn theo bất kỳ trình tự nào. Yêu cầu thử tuyến trên cùng trước và chỉ đi xuống khi tuyến đó lỗi, nên bạn có thể ưu tiên nhà cung cấp mình tin tưởng hơn một nhà cung cấp rẻ hơn. Sắp xếp theo giá đưa danh sách về thứ tự rẻ nhất trước. Một tuyến đang ngừng giữ nguyên vị trí và bị bỏ qua cho đến khi trở lại.

Khi đã đặt khoảng giá, các tuyến mà khoảng giá thêm vào nhưng bạn không chọn sẽ đứng sau danh sách của bạn, rẻ nhất trước. Nhà cung cấp gia nhập khoảng giá sau này cũng được xếp vào đó.
Một mô hình đã ghim chỉ đi qua các nhóm đã ghim và chuyển tiếp khi gặp lỗi, theo thứ tự đặt ở Thứ tự dự phòng. Nhóm phục vụ yêu cầu quyết định mức giá bị tính.
Kết hợp ghim với theo dõi để biết khi các nhóm đổi giá hoặc ngừng hoạt động, xem Thông báo
Để ghim một yêu cầu duy nhất mà không đổi khóa, hãy gửi header X-Group kèm đúng tên nhóm. Nó ghi đè phần ghim của khóa và định tuyến auto. Hãy sao chép tên từ Group Pricing.
curl https://api.test.wanmo.ai/v1/chat/completions \
-H "Authorization: Bearer $UNOROUTER_API_KEY" \
-H "Content-Type: application/json" \
-H "X-Group: glm-new-relay-glm-5.2" \
-d '{
"model": "glm-5.2",
"messages": [{ "role": "user", "content": "Hello" }]
}'Header phải nêu một nhóm mà khóa được phép dùng, nếu không yêu cầu sẽ bị từ chối. Các mô hình chưa ghim vẫn theo định tuyến rẻ nhất.
Nếu mọi nhóm đã ghim đều ngừng hoạt động trong khi các nhà cung cấp khác vẫn phục vụ mô hình đó, yêu cầu sẽ thất bại với một lỗi cụ thể thay vì thông báo bận chung chung:
{
"error": {
"message": "Your pinned provider groups for model \"glm-5.2\" are currently unavailable, but the model is still served by other providers. Edit this key's group override, or try again later.",
"type": "new_api_error",
"code": "get_channel_failed"
}
}Hãy mở rộng hoặc bỏ ghim, hoặc thử lại sau. Bản thân mô hình vẫn hoạt động.