from openai import OpenAIclient = OpenAI(base_url="https://api.orcarouter.ai/v1",api_key=ORCAROUTER_API_KEY,)resp = client.chat.completions.create(model="orcarouter/auto", # we grade + routemessages=[{"role": "user", "content": "..."}],)
只改一行程式碼，即可用上 200+ 模型——我們依難度自動選前沿或開源，平台不賺一分差價。
智慧路由 · 安全上線 · 成本更省
60 秒上線。
把 SDK 指向我們
把 base_url 改成 api.orcarouter.ai/v1，換上你的 API 金鑰。其他程式碼無需改動。
我們負責路由、護欄與觀測
1 毫秒內完成評級，內建容錯切換、快取與完整日誌。
你只需在一個端點上線
直連各家供應商，按其公開價格計費 —— 我們每 token 加價 $0。
所有模型。一張價目表。
即時並排比價 —— 與你直接向供應商支付的價格一致。
| 模型 | 路由到 | 輸入 /M | 輸出 /M | 上下文 | 品質 |
|---|---|---|---|---|---|
| z-ai/glm-5.3新 | Zhipu AI | $1.26 | $3.96 | 1M | 9.0 |
| qwen/qwen3.8-27b-free新 | Alibaba Cloud | — | — | 66K | 4.0 |
| qwen/qwen3.8-27b新 | Alibaba Cloud | $0.330 | $2.40 | 262K | 4.0 |
| deepseek/deepseek-v4-pro-0813新 | DeepSeek | $0.442 | $0.884 | 1M | 7.0 |
| grok/grok-4.6新 | — | $2.00 | $6.00 | 500K | 9.0 |
| meta/muse-spark-1.2新 | — | $1.25 | $4.25 | 1M | 8.0 |
| qwen/qwen3.8-max新 | Alibaba Cloud | $2.00 | $6.00 | 1M | 9.0 |
| deepseek/deepseek-v4-flash-0731新 | DeepSeek | $0.147 | $0.295 | 1M | 6.0 |
| + 還有 194 個模型 · 價格每 60 秒更新 | |||||
三種為 token 付費的方式。
儲值與訂閱皆依供應商價格計費，我們不加價。
下方方案面向團隊功能，不改變 token 價格。
我們從不抽取你的 token 花費。
我們的收入來自選用的團隊功能。
企業版
來自引擎艙的最新動態。
我們在做什麼、為什麼做 —— 最新文章。
AI 路由器、LLM 閘道、自適應路由 —— 一次說清。
什麼是 AI 路由器（AI Router）？
AI 路由器位於應用與眾多模型之間，為每個請求挑選最合適的模型。OrcaRouter 在 1 毫秒內為每條提示詞評分並路由 —— 複雜推理走前沿模型、例行任務走開源模型 —— 涵蓋 200+ 模型，零 token 加價。
什麼是 LLM 路由器（LLM Router）？它如何運作？
LLM 路由器對每條提示詞進行分類，並將其配對到最可能以最低成本給出優質回答的模型。OrcaRouter 基於情境嵌入並從真實流量線上學習 —— 在公開的 RouterArena 排行榜上準確率達 75.5%。
OrcaRouter 是 AI 閘道（AI Gateway）嗎？
是。OrcaRouter 是生產級 AI 閘道：一個 OpenAI 相容端點，內建自適應路由、負載平衡、自動容錯移轉、護欄、Agent 防火牆、提示詞快取與逐請求可觀測性。
什麼是 AI CDN？
正如 CDN 從最佳邊緣節點傳遞內容，AI CDN 從最佳供應商傳遞推論：健康、快速、低價的容量，快取重複提示詞，故障時自動切換。OrcaRouter 在 200+ 模型上扮演這一角色。
什麼是自適應路由（Adaptive Routing）？
自適應路由從你自己的流量中學習品質/成本的取捨。每個工作區可指向「達標中最便宜」、最高品質或均衡 —— 也可讓 orcarouter/auto 逐請求持續調校。
AI 閘道和 LLM 路由器都需要嗎？
它們解決不同的問題 —— 治理 vs 模型選擇 —— 但你不需要兩套系統：OrcaRouter 在同一跳上逐請求路由，並執行預算、護欄與可觀測性。
路由會增加延遲嗎？
提示詞評分不到 1 毫秒，總新增延遲低於 50 毫秒 —— 通常會被更快的供應商與快取的提示詞 token 多倍賺回。
OrcaRouter 會對 token 價格加價嗎？
不會。你按各供應商公布的價格付費；OrcaRouter 每 token 加價 $0，靠可選的 Team 與 Enterprise 功能獲利。
我能繼續用現有的 OpenAI SDK 程式碼嗎？
能 —— 把 base_url 切換到 https://api.orcarouter.ai/v1，你現有的 OpenAI、Anthropic 或 Google SDK 程式碼照常運作：Chat Completions、Responses、Embeddings、Images、Audio 與串流全部直通。
供應商當機時會發生什麼？
OrcaRouter 會在回應開始前，對同一模型或等價模型的健康備援容量重試，上游故障不會暴露給你的使用者。
