Je GPU sluit aan op de router. De cloud neemt het alleen over als jij dat zegt.
Orca Connect maakt een uitgaande verbinding vanaf de machine waarop je modellen draaien. Ze staan naast 200+ gehoste modellen achter je gewone sleutel, en OrcaRouter rekent er niets voor.
- Alleen uitgaand: geen port forwarding, geen tunnel om in te stellen, geen firewallregel. Niets is bereikbaar totdat je de modellen kiest die je wilt delen.
- Overloop staat uit tot je hem aanzet. Daarna gaat een verzoek alleen naar een gehost model om de redenen die je hebt toegestaan, naar de modellen die je hebt genoemd, binnen een maandelijks plafond.
- Een antwoord dat je hardware leverde draagt X-Orca-Billed: false; een antwoord dat overliep naar een gehost model draagt de reden en de geschatte kosten.
Deel een machine, geen wachtwoord
Stuur iemand een link naar de modellen die je kiest op je machine, met een vervaldatum en een limiet op verzoeken, en trek die in wanneer je wilt. Diegene logt in met een eigen account, dus je sleutel blijft altijd bij jou.
Sleutels die nooit een gehost model bereiken
Markeer een sleutel als alleen lokaal en zijn verzoeken worden alleen door een lokale machine geleverd: nooit door een gehost model, en nooit gefactureerd. Ze lopen onderweg nog wel via OrcaRouter, dus dit bepaalt waar de inferentie draait, niet welke weg een prompt aflegt.
Je codeeragent, gericht op je eigen machine
Voer orca-connect claude uit en Claude Code start met je eigen modellen, alleen voor die sessie. Vervang claude door codex, opencode, gemini, qwen, kimi, copilot, aider, goose of pi om hetzelfde te doen voor Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose en pi. De eigen instellingen van de agent blijven zoals ze waren.
De machine onder je bureau, overal bereikbaar.
Installeer het, keur de machine één keer goed in je browser (of met een code op een server zonder scherm) en vink de modellen aan die je wilt delen. De connector opent één uitgaande verbinding en je modellen verschijnen in de catalogus als local/your-rig/your-model. Roep ze aan vanaf een laptop, een telefoon of een cloudagent met de sleutel die je al gebruikt. Die aanroepen lopen via OrcaRouter naar je machine; een programma op de machine zelf kan nog steeds rechtstreeks met de runtime praten.
Gratis tot je anders beslist.
Met overloop uit klap je de laptop dicht en krijgen aanroepers een duidelijke weigering, geen rekening. Zet overloop aan voor de redenen die voor jou tellen (machine offline, machine bezet, prompt te lang, een runtimefout, een verzoek dat tools nodig heeft), kies welke gehoste modellen het mogen overnemen en stel een plafond in. Of andersom: blijf gpt-4o-mini in je code schrijven en laat je eigen GPU antwoorden zodra die het model draait dat je aan die naam hebt gekoppeld; lukt dat niet, dan antwoordt gpt-4o-mini zoals altijd en wordt dat gewoon gefactureerd.
Hoe het werkt
- Eén keer inloggen — Keur de machine goed in je browser, of met een code op een server zonder scherm. De connector bewaart de sleutel die hij krijgt in zijn eigen configuratiebestand op deze machine; er wordt niets in een terminal geplakt.
- Kies wat je deelt — De connector vindt de runtimes op deze machine aan de poorten waarop ze luisteren, en onderscheidt ze door elk iets te vragen dat alleen die runtime beantwoordt; orca-connect status toont wat hij vond. Je kiest de modellen die je deelt in de console; voordat de machine voor het eerst verbindt, kan het systeemvak of orca-connect expose die eerste keuze maken. OrcaRouter ziet de lijst zodat het je die keuze kan bieden, en stuurt verzoeken alleen naar de modellen die je deelt.
- Online, alleen uitgaand — Eén verbinding, geopend vanaf je machine, draagt elk verzoek als eigen stroom. Je router ziet nooit een inkomende verbinding, en je modellen staan in de lijst als local/your-rig/your-model.
- Een verzoek bereikt je machine — Een codeeragent, een telefoon of iemand met wie je een link deelde, roept het gewone endpoint aan met een sleutel. OrcaRouter controleert het beleid van die sleutel, vindt de verbinding die je machine openhoudt en stuurt het verzoek daardoor. Je machine geeft het alleen door als het model een van je gedeelde is.
- Het antwoord zegt dat het gratis was — Tokens stromen via dezelfde weg terug. Het antwoord draagt X-Orca-Billed: false, en het verzoek wordt gelogd voor $0.
- De laptop gaat dicht — Zodra OrcaRouter ziet dat de verbinding weg is, krijgt een aanroeper zonder overloop 503 local_connector:unavailable: een duidelijke weigering, en er wordt niets gefactureerd. Met overloop aan voor een offline machine antwoordt in plaats daarvan een gehost model dat je hebt toegestaan, binnen je maandplafond; dat antwoord wordt gefactureerd en draagt X-Orca-Spillover-Reason: rig_offline.