Din GPU ansluter till routern. Molnet tar bara över när du säger till.
Orca Connect ansluter utåt från maskinen som kör dina modeller. De hamnar bredvid 200+ värdade modeller bakom din vanliga nyckel, och OrcaRouter tar inget betalt för dem.
- Endast utgående: ingen portvidarebefordran, ingen tunnel att konfigurera, ingen brandväggsregel. Inget går att nå förrän du väljer vilka modeller som ska delas.
- Överspill är avstängt tills du slår på det. Då flyttas en förfrågan till en värdad modell bara av de skäl du har tillåtit, till de modeller du har namngett, under ett månadstak.
- Ett svar som din hårdvara levererade bär X-Orca-Billed: false; ett som spillde över till en värdad modell bär orsaken och sin beräknade kostnad.
Dela en maskin, inte ett lösenord
Skicka en länk till de modeller du väljer på din maskin, med ett utgångsdatum och en gräns för antal förfrågningar, och återkalla den när du vill. Mottagaren loggar in med sitt eget konto, så din nyckel lämnar aldrig dina händer.
Nycklar som aldrig når en värdad modell
Markera en nyckel som endast lokal så levereras dess förfrågningar bara av en lokal maskin: aldrig av en värdad modell, och aldrig debiterade. De går fortfarande via OrcaRouter på vägen, så detta avgör var inferensen körs, inte vilken väg en prompt tar.
Din kodagent, riktad mot din maskin
Kör orca-connect claude så startar Claude Code mot dina egna modeller, bara för den sessionen. Byt claude mot codex, opencode, gemini, qwen, kimi, copilot, aider, goose eller pi för att göra samma sak med Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose och pi. Agentens egna inställningar lämnas som de var.
Maskinen under skrivbordet, nåbar var som helst.
Installera, godkänn maskinen en gång i webbläsaren (eller med en kod på en server utan skärm) och bocka för modellerna som ska delas. Connectorn öppnar en enda utgående förbindelse och dina modeller visas i katalogen som local/your-rig/your-model. Anropa dem från en laptop, en telefon eller en molnagent med nyckeln du redan använder. De anropen går via OrcaRouter på vägen till din maskin; ett program på själva maskinen kan fortfarande prata direkt med runtime-miljön.
Gratis tills du säger något annat.
Med överspill avstängt fäller du ihop laptopen och den som anropar får ett tydligt nej, inte en räkning. Slå på överspill för de skäl du bryr dig om (maskinen offline, maskinen upptagen, för lång prompt, ett runtime-fel, en förfrågan som behöver verktyg), välj vilka värdade modeller som får ta över och sätt ett tak. Eller tvärtom: fortsätt skriva gpt-4o-mini i koden och låt din egen GPU svara när den kör modellen du har kopplat till det namnet; när den inte kan svarar gpt-4o-mini som vanligt och debiteras som vanligt.
Så här fungerar det
- Logga in en gång — Godkänn datorn i webbläsaren, eller med en kod på en server utan skärm. Connectorn sparar nyckeln den får i sin egen konfigurationsfil på den här datorn; inget klistras in i en terminal.
- Välj vad som delas — Connectorn hittar körmiljöerna på den här datorn via portarna de lyssnar på, och skiljer dem åt genom att fråga var och en något bara den svarar på; orca-connect status listar vad den hittade. Du väljer vilka modeller du delar i konsolen; innan datorn ansluter första gången kan systemfältet eller orca-connect expose göra det första valet. OrcaRouter ser listan så att den kan erbjuda dig valet, och skickar förfrågningar bara till modellerna du delar.
- Online, endast utgående — En enda anslutning, öppnad från din maskin, bär varje förfrågan som en egen ström. Din router ser aldrig en inkommande anslutning, och dina modeller listas som local/your-rig/your-model.
- En förfrågan når din maskin — En kodagent, en telefon eller någon du delat en länk med anropar den vanliga slutpunkten med en nyckel. OrcaRouter kontrollerar nyckelns policy, hittar anslutningen som din maskin håller och skickar förfrågan genom den. Din maskin skickar den vidare bara om modellen är en av de delade.
- Svaret säger att det var gratis — Tokens strömmar tillbaka samma väg. Svaret bär X-Orca-Billed: false, och förfrågan loggas till $0.
- Locket fälls ihop — Så snart OrcaRouter ser att anslutningen är borta får en anropare utan spillover 503 local_connector:unavailable: ett tydligt avslag, och inget debiteras. Med spillover på för en dator som är offline svarar i stället en hostad modell du har tillåtit, inom ditt månadstak; det svaret debiteras och bär X-Orca-Spillover-Reason: rig_offline.