ライブルーターデモ
ルーターを試す
プロンプトを貼り付けてください。どのモデルに送るか、その理由 — コスト、品質スコア、ネットワーク上の中央値レイテンシを含めて表示します。
あなたのプロンプト208/8000
ルーターの選択
「解決」をクリックしてルーティングの判断を確認してください。
ルーティング内訳
他に検討した候補
確定前にルーターがスコアリングしたすべての候補。選択された行がハイライトされています。
プロンプトを解決すると候補の内訳が表示されます。
そのまま導入
コードで使う
OpenAI 互換 API はそのまま。base URL を差し替えて orcarouter/auto を渡してください。
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
resp = client.chat.completions.create(
model="orcarouter/auto",
messages=[{"role": "user", "content": "Summarize this in 3 bullet points: large language model APIs vary in cost and latency, and routing requests to the cheapest acceptable model can save 80%+ on inference spend without changing application code."}],
)
print(resp.choices[0].message.content)5 ドルの無料クレジットを取得
サインアップして API キーを取得し、実トラフィックをルーティングしましょう。カード不要。
