Ett modellnamn. Alla modeller bakom det.
Peka din klient mot orcarouter/auto så betygsätts varje prompt och skickas till den modell som uppfyller ditt kvalitetskrav till lägsta pris — med semantisk inbäddning som tillval.
- Fyra mål per arbetsyta — Billigast, Balanserad, Kvalitet eller Adaptiv, som lär sig avvägningen från din egen trafik.
- Online-inlärning: routern uppdateras kontinuerligt från levande produktionsutfall, inte från ett fruset prestandatest.
- Routning tar under 1 ms som standard; slår du på semantisk embedding tillkommer även embedding-anropet. I båda fallen visas betyget och vald modell på varje kvitto.
40+ leverantörer, en endpoint
Samma OpenAI-kompatibla förfrågan når vilken leverantör som helst, och hälsomedveten belastningsutjämning sprider trafiken över de som är tillgängliga. Hälsostatus, vikt och prioritet per kanal tar automatiskt bort otillgängliga uppströmmar ur rotation, och leverantörsspecifika särdrag normaliseras i adaptern så att din klientkod aldrig behöver förgreningar.
Ett namn. Varje modell.
Du skriver orcarouter/auto en gång. Därefter läses varje prompt längs vägen och skickas till den modell som besvarar den bäst till lägst kostnad. En ny frontiermodell lanseras en tisdag och din trafik börjar använda den — ingen migrering, ingen klientrelease, inget möte.
En standard, inte en svart låda.
Peka en arbetsyta mot det mål du faktiskt vill ha. Billigast. Kvalitet. Balanserat. Eller Adaptivt, som lär sig avvägningen från din egen trafik i stället för någon annans riktmärke. Varje val det gör visas på kvittot tillsammans med det betyg som styrde det.