Tự Động Chuyển Đổi Dự Phòng

Cách Thức Hoạt Động

TokSpan giám sát tình trạng của nhà cung cấp ngược dòng theo thời gian thực. Khi một nhà cung cấp trả về lỗi 5xx lặp đi lặp lại hoặc vượt quá ngưỡng thời gian chờ, lưu lượng sẽ được tự động chuyển hướng đến nhà cung cấp tiếp theo trong chuỗi chuyển đổi dự phòng của bạn. Khi nhà cung cấp chính khôi phục, lưu lượng sẽ trở lại định tuyến bình thường.

Chuỗi chuyển đổi dự phòng được TokSpan tự động cấu hình giữa các nhà cung cấp. Bạn không cần thiết lập gì — chỉ cần tiếp tục gọi cùng tên mô hình.

Không cần cấu hình. Chuyển đổi dự phòng được bật tự động trên mọi mô hình — bạn không cần thiết lập gì trong bảng điều khiển và mã của bạn vẫn giữ nguyên.

Cách TokSpan Xây Dựng Chuỗi Chuyển Đổi Dự Phòng

Với mọi mô hình, TokSpan duy trì chuỗi chuyển đổi dự phòng giữa nhiều nhà cung cấp phục vụ cùng một mô hình. Nếu nhà cung cấp chính gặp sự cố, lưu lượng tự động chuyển sang nhà cung cấp khỏe mạnh tiếp theo của chính mô hình đó — bạn không cần làm gì.

Ưu Tiên	Mô Hình	Nhà Cung Cấp	Cách Được Sử Dụng
1 (Chính)	GPT series	OpenAI	Lựa chọn chính — chất lượng tổng thể tốt nhất
2 (Dự Phòng)	GPT series	other model providers	Đường dự phòng cho cùng một mô hình

Định tuyến cùng một mô hình: Khi tuyến chính gặp sự cố, TokSpan chuyển sang tuyến dự phòng của cùng một mô hình (ví dụ: nhà cung cấp khác phục vụ dòng GPT). Việc chuyển đổi dự phòng không bao giờ chuyển sang mô hình khác — kết quả của bạn luôn nhất quán trong khi sự cố nhà cung cấp được xử lý tự động.

Giám Sát Sự Kiện Chuyển Đổi Dự Phòng

Bạn có thể theo dõi hoạt động chuyển đổi dự phòng qua:

Nhật ký bảng điều khiển — Xem lịch sử yêu cầu để xác nhận lưu lượng đã chuyển sang nhà cung cấp dự phòng
Webhooks — Thiết lập thông báo theo thời gian thực trong tài khoản của bạn (xem Webhooks)
Phân tích mức sử dụng — Sự tăng đột biến mức sử dụng theo mô hình cho thấy hoạt động chuyển đổi dự phòng