免費層的統一入口 —— 依難度在你工作區的免費模型間路由。
面向免費檔的統一入口。你無需自己挑選某個特定的 -free 別名,只要呼叫 orcarouter/free,它就會依難度把每個請求分流到你工作區的免費模型——絕不動用你的錢包餘額,免費用量以請求速率設限,而非固定的呼叫次數。
每個請求都會依提示長度、程式碼密度、工具使用與推理線索進行評分——與我們自適應路由所用的訊號一致。
一般提示走輕量免費檔,困難任務走更強的免費檔——皆取自你工作區的免費模型。
模型用量不產生費用——兩個檔位都是 $0,所以由哪一檔來回應都一樣。
限制免費使用的是請求頻率,不是餘額——模型用量本身不花錢,額度也不會用完。
每個工作區都有一份請求頻率額度。它會隨著帳號累計付費金額成長,所以儲值同樣會抬高免費額度的上限。
單一免費模型可以有自己更嚴的頻率上限,這樣某個模型負載高時只限它自己,不影響其它模型。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="orcarouter/free",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)