En endpoint för gratisnivån — dirigerad efter svårighetsgrad över din arbetsytas gratismodeller.
En enda slutpunkt för den kostnadsfria nivån. I stället för att själv välja ett specifikt -free-alias anropar du orcarouter/free, som routar varje förfrågan efter svårighetsgrad bland din arbetsytas kostnadsfria modeller — utan att någonsin röra din plånbok, och med kostnadsfri användning begränsad av anropsfrekvensen i stället för av ett fast antal anrop.
Varje förfrågan poängsätts utifrån promptlängd, kodtäthet, verktyg och resonemangssignaler — samma signal som vår adaptiva router använder.
Vardagliga prompter går till den lätta kostnadsfria nivån; svåra till den starkare kostnadsfria nivån — hämtade från din arbetsytas kostnadsfria modeller.
Modellanvändningen kostar ingenting — båda nivåerna är prissatta till 0 $, så det spelar ingen roll vilken som betjänar anropet.
Gratisåtkomsten begränsas av anropsfrekvensen, inte av ett saldo – själva modellanvändningen kostar ingenting och tilldelningen tar aldrig slut.
Varje arbetsyta har en tilldelning av anropsfrekvens. Den växer med vad du betalat under kontots livstid, så påfyllning höjer även gratisgränserna.
Enskilda gratismodeller kan ha en egen, snävare gräns, så att en hårt belastad modell strypas utan att påverka de andra.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="orcarouter/free",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)