進階功能
自訂路由
TokSpan 會自動將每個請求路由到最合適的上游供應商——依成本、能力或您帳戶的存取等級而定。對您的應用程式碼完全透明。
TokSpan 路由運作方式
TokSpan 使用智慧路由層。您呼叫的每個模型名稱，都會自動解析到最適合該請求的上游供應商與模型——無需改動任何程式碼。
路由完全自動。您無需設定任何通道或優先權——只需呼叫想要的模型名稱，TokSpan 就會選擇最佳後端。
常見路由模式
成本最佳化路由
呼叫通用的模型名稱（例如 gpt-4o），TokSpan 會將其傳送到目前最具成本效益的供應商。
依金鑰路由
為不同用途建立獨立的 API 金鑰，每個金鑰限定到您需要的模型與預算：
- 成本敏感的工作負載 → 限定於經濟型模型的金鑰（GPT mini、Gemini Flash、DeepSeek）
- 高階工作負載 → 可存取旗艦模型的金鑰（GPT、Claude Opus、Gemini Pro）
- 對外客戶應用 → 帶有金鑰級預算上限的金鑰，讓花費可預期
基於能力的路由
TokSpan 會在內部依能力為模型分組，並將每個工作負載路由至最合適的模型：
- 程式碼協助 — 路由至程式碼最佳化模型（Claude Opus / GPT / DeepSeek）
- 內容創作 — 路由至品質與速度兼顧的模型（Claude Sonnet / GPT / Gemini Pro）
- 資料分析 — 路由至具有最大上下文視窗的模型
金鑰範圍限定可讓您限制每個金鑰能存取的模型。詳情請參閱認證 — 金鑰範圍限定。