Demonstração ao vivo do roteador
Experimente o roteador
Cole um prompt. Mostraremos para qual modelo o enviaríamos e por quê — incluindo custo, pontuação de qualidade e latência mediana em nossa rede.
Seu prompt208/8000
O roteador escolheu
Clique em Resolver para ver a decisão de roteamento.
Detalhamento do roteamento
O que mais consideramos
Cada candidato que o roteador pontuou antes de decidir. A linha escolhida está destacada.
Resolva um prompt para ver o detalhamento dos candidatos.
Pronto para usar
Use no seu código
Mesma API compatível com OpenAI. Troque a base URL e passe orcarouter/auto.
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
resp = client.chat.completions.create(
model="orcarouter/auto",
messages=[{"role": "user", "content": "Summarize this in 3 bullet points: large language model APIs vary in cost and latency, and routing requests to the cheapest acceptable model can save 80%+ on inference spend without changing application code."}],
)
print(resp.choices[0].message.content)Ganhe US$ 5 de crédito grátis
Cadastre-se para obter uma chave de API e rotear tráfego real. Sem cartão.
