Live-Router-Demo
Probier den Router
Füge eine Anfrage ein. Wir zeigen dir, an welches Modell wir sie senden würden und warum — inklusive Kosten, Qualitätswertung und mittlerer Latenz in unserem Netzwerk.
Deine Anfrage208/8000
Der Router hat gewählt
Klick auf „Auflösen“, um die Routing-Entscheidung zu sehen.
Routing-Aufschlüsselung
Was wir sonst noch in Betracht gezogen haben
Jeder Kandidat, den der Router vor der Festlegung bewertet hat. Die gewählte Zeile ist hervorgehoben.
Löse eine Anfrage auf, um die Kandidatenaufschlüsselung zu sehen.
Plug-and-Play
Nutze es in deinem Code
Dieselbe OpenAI-kompatible API. Tausche die Base-URL aus und übergib orcarouter/auto.
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
resp = client.chat.completions.create(
model="orcarouter/auto",
messages=[{"role": "user", "content": "Summarize this in 3 bullet points: large language model APIs vary in cost and latency, and routing requests to the cheapest acceptable model can save 80%+ on inference spend without changing application code."}],
)
print(resp.choices[0].message.content)Erhalte 5 $ Gratisguthaben
Registriere dich, um einen API-Schlüssel zu bekommen und echten Traffic zu routen. Keine Kreditkarte nötig.
