即時路由展示
試試這個路由
貼上一段 prompt，我們會告訴你它會被路由到哪個模型，以及為什麼 —— 包括成本、品質評分和我們網路上的中位延遲。
你的 prompt208/8000
路由選擇了
點擊「解析」查看路由決策。
路由明細
我們還考慮了什麼
路由在鎖定決定前評分過的每個候選模型。被選中的那列已高亮。
解析一個 prompt 後即可查看候選明細。
即插即用
在你的程式碼中使用
同一個 OpenAI 相容 API。改一下 base URL，把 model 設成 orcarouter/auto 即可。
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
resp = client.chat.completions.create(
model="orcarouter/auto",
messages=[{"role": "user", "content": "Summarize this in 3 bullet points: large language model APIs vary in cost and latency, and routing requests to the cheapest acceptable model can save 80%+ on inference spend without changing application code."}],
)
print(resp.choices[0].message.content)領取 $5 免費額度
註冊即可獲得 API key，開始路由真實流量。無需綁定信用卡。
