Démo du routeur en direct
Essayez le routeur
Collez un prompt. Nous vous montrerons à quel modèle nous l'enverrions et pourquoi — y compris le coût, le score de qualité et la latence médiane sur notre réseau.
Votre prompt208/8000
Le routeur a choisi
Cliquez sur Résoudre pour voir la décision de routage.
Détail du routage
Ce que nous avons aussi considéré
Chaque candidat que le routeur a évalué avant de verrouiller son choix. La ligne sélectionnée est mise en évidence.
Résolvez un prompt pour voir le détail des candidats.
Intégration directe
Utilisez-le dans votre code
Même API compatible OpenAI. Changez l'URL de base et passez orcarouter/auto.
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
resp = client.chat.completions.create(
model="orcarouter/auto",
messages=[{"role": "user", "content": "Summarize this in 3 bullet points: large language model APIs vary in cost and latency, and routing requests to the cheapest acceptable model can save 80%+ on inference spend without changing application code."}],
)
print(resp.choices[0].message.content)Obtenez 5 $ de crédit gratuit
Inscrivez-vous pour obtenir une clé API et router du vrai trafic. Aucune carte requise.
