免费档的统一入口 —— 按难度在你工作空间的免费模型间路由。
面向免费档的统一入口。你无需自己去挑选某个具体的 -free 别名,只要调用 orcarouter/free,它就会按难度把每个请求分流到你工作空间的免费模型——绝不动用你的钱包余额,免费用量按请求速率设限,而不是固定的调用次数。
每个请求都会根据提示长度、代码密度、工具使用和推理线索进行打分——与我们自适应路由所用的信号一致。
普通提示走轻量免费档,困难任务走更强的免费档——均取自你工作空间的免费模型。
模型用量不产生费用——两个档位都是 $0,所以由哪一档来响应都一样。
限制免费使用的是请求频率,不是余额——模型用量本身不花钱,额度也不会用完。
每个工作区都有一份请求频率额度。它会随着账号累计付费金额增长,所以充值同样会抬高免费额度的上限。
单个免费模型可以有自己更严的频率上限,这样某个模型压力大时只限它自己,不影响其它模型。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="orcarouter/free",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)