Ein Modellname. Jedes Modell dahinter.
Richten Sie Ihren Client auf orcarouter/auto aus – jede Anfrage wird bewertet und an das Modell weitergeleitet, das Ihre Qualitätsanforderungen zum günstigsten Preis erfüllt. Semantisches Embedding ist als optionale Erweiterung verfügbar.
- Vier Ziele pro Arbeitsbereich — Günstigste, Ausgewogen, Qualität oder Adaptiv, wobei Letzteres den optimalen Kompromiss aus Ihrem eigenen Traffic erlernt.
- Online-Lernen: Der Router aktualisiert sich kontinuierlich anhand von Live-Produktionsergebnissen, nicht auf Basis eines eingefrorenen Benchmark-Laufs.
- Routing fügt standardmäßig unter 1 ms hinzu; wer semantisches Embedding aktiviert, zahlt zusätzlich den Embedding-Aufruf. In beiden Fällen erscheinen Bewertung und gewähltes Modell auf jedem Beleg.
40+ Anbieter, ein Endpunkt
Dieselbe OpenAI-kompatible Anfrage erreicht jeden Anbieter, und ein zustandsbasiertes Lastausgleichsverfahren verteilt die Last auf verfügbare Anbieter. Kanalspezifische Gesundheit, Gewichtung und Priorität entfernen fehlerhafte Upstreams automatisch aus der Rotation, und anbieterspezifische Eigenheiten werden im Adapter normalisiert — Ihr Client-Code benötigt keinerlei Fallunterscheidungen.
Ein Name. Jedes Modell.
Sie schreiben einmal orcarouter/auto. Von da an wird jede Anfrage beim Durchlauf analysiert und an das Modell weitergeleitet, das sie am besten und kostengünstigsten beantwortet. Ein neues Frontier-Modell erscheint an einem Dienstag – und Ihr Traffic nutzt es sofort. Keine Migration, kein Client-Release, kein Meeting.
Eine Voreinstellung, keine Blackbox.
Richten Sie einen Arbeitsbereich auf das Ziel aus, das Sie wirklich verfolgen: Günstigster Preis, Qualität, ausgewogen – oder Adaptiv, das die Balance aus Ihrem eigenen Traffic lernt, nicht aus fremden Benchmarks. Jede Entscheidung erscheint auf der Abrechnung zusammen mit der Bewertung, die sie ausgelöst hat.