Tính Năng Nâng Cao
Cân Bằng Tải
TokSpan tự động phân phối lưu lượng API của bạn qua nhiều mô hình và nhà cung cấp để tối đa thông lượng, giảm thiểu độ trễ và tránh tắc nghẽn một nhà cung cấp. Bạn không cần cấu hình gì.
Chiến Lược Cân Bằng Tải
TokSpan tự động chọn chiến lược tối ưu cho mỗi yêu cầu giữa các nhà cung cấp:
| Chiến Lược | Cách Thức Hoạt Động | Tự Động Áp Dụng Khi |
|---|---|---|
| Ngẫu Nhiên Có Trọng Số | Yêu cầu được phân bổ theo tỷ lệ giữa các nhà cung cấp hoạt động tốt (ví dụ: 70% một bên, 30% bên kia) | Phân tải giữa nhiều nhà cung cấp khỏe mạnh |
| Ưu Tiên (Chuyển Đổi Dự Phòng) | Lưu lượng ưu tiên nhà cung cấp khỏe mạnh nhất và tự động chuyển xuống chuỗi dự phòng | Nhà cung cấp ưu tiên khỏe mạnh; các nhà cung cấp khác làm dự phòng tự động |
| Dựa Trên Giới Hạn Tốc Độ | Khi một nhà cung cấp đạt giới hạn tốc độ, phần vượt sẽ được phân bổ sang các nhà cung cấp khác | Một nhà cung cấp đạt giới hạn tốc độ khi xử lý khối lượng công việc cao |
Không cần cấu hình. Cân bằng tải được áp dụng tự động cho mọi yêu cầu — bạn chỉ cần tiếp tục gọi cùng tên mô hình.