La tua GPU entra nel router. Il cloud subentra solo quando lo dici tu.
Orca Connect si collega in uscita dalla macchina che esegue i tuoi modelli. Entrano accanto a oltre 200 modelli ospitati dietro la tua chiave di sempre, e OrcaRouter non addebita nulla per questi.
- Solo in uscita: nessun port forwarding, nessun tunnel da configurare, nessuna regola del firewall. Nulla è raggiungibile finché non scegli i modelli da condividere.
- L’overflow è spento finché non lo accendi. A quel punto una richiesta passa a un modello ospitato solo per i motivi che hai consentito, verso i modelli che hai indicato, entro un tetto mensile.
- Una risposta servita dal tuo hardware porta X-Orca-Billed: false; una passata in overflow a un modello ospitato porta il motivo e il suo costo stimato.
Condividi una macchina, non una password
Manda a qualcuno un link ai modelli che scegli sulla tua macchina, con una scadenza e un limite di richieste, e revocalo quando vuoi. Accede con il proprio account, quindi la tua chiave non lascia mai le tue mani.
Chiavi che non raggiungono mai un modello ospitato
Segna una chiave come solo locale e le sue richieste sono servite solo da una macchina locale: mai da un modello ospitato, e mai addebitate. Passano comunque per OrcaRouter lungo il percorso: questo decide dove gira l’inferenza, non dove viaggia un prompt.
Il tuo agente di programmazione, puntato sulla tua macchina
Esegui orca-connect claude e Claude Code parte sui tuoi modelli, solo per quella sessione. Sostituisci claude con codex, opencode, gemini, qwen, kimi, copilot, aider, goose o pi per fare lo stesso con Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose e pi. Le impostazioni dell’agente restano come erano.
La macchina sotto la scrivania, raggiungibile da ovunque.
Installalo, approva la macchina una volta nel browser (o con un codice su un server senza schermo) e spunta i modelli da condividere. Il connettore apre una sola connessione in uscita e i tuoi modelli compaiono nel catalogo come local/your-rig/your-model. Chiamali da un portatile, da un telefono o da un agente nel cloud con la chiave che usi già. Queste chiamate passano per OrcaRouter prima di arrivare alla tua macchina; un programma sulla macchina stessa può comunque parlare direttamente con il runtime.
Gratis finché non dici diversamente.
Con l’overflow spento, chiudi il portatile e chi chiama riceve un rifiuto chiaro, non una fattura. Accendi l’overflow per i motivi che ti interessano (macchina offline, macchina occupata, prompt troppo lungo, un errore del runtime, una richiesta che richiede strumenti), scegli quali modelli ospitati possono subentrare e fissa un tetto. Oppure al contrario: continua a scrivere gpt-4o-mini nel tuo codice e lascia rispondere la tua GPU ogni volta che esegue il modello che hai associato a quel nome; quando non può, risponde gpt-4o-mini come sempre e viene addebitato normalmente.
Come funziona
- Accedi una volta — Approva la macchina nel browser, o con un codice su un server senza schermo. Il connettore salva la chiave che riceve nel proprio file di configurazione su questa macchina; nulla viene incollato in un terminale.
- Scegli cosa condividere — Il connettore trova i runtime di questa macchina dalle porte su cui sono in ascolto, e li distingue facendo a ciascuno una domanda a cui solo lui risponde; orca-connect status elenca ciò che ha trovato. Scegli i modelli da condividere nella console; prima che la macchina si connetta per la prima volta, l’icona di sistema o orca-connect expose possono fare questa prima scelta. OrcaRouter vede l’elenco per poterti offrire la scelta, e invia richieste solo ai modelli che condividi.
- Online, solo in uscita — Una sola connessione, aperta dalla tua macchina, porta ogni richiesta in un flusso a sé. Il tuo router non vede mai una connessione in ingresso, e i tuoi modelli compaiono come local/your-rig/your-model.
- Una richiesta raggiunge la tua macchina — Un agente di programmazione, un telefono o qualcuno con cui hai condiviso un link chiama il solito endpoint con una chiave. OrcaRouter controlla i criteri di quella chiave, trova la connessione tenuta dalla tua macchina e vi invia la richiesta. La tua macchina la inoltra solo se il modello è tra quelli condivisi.
- La risposta dice che era gratis — I token tornano per la stessa strada. La risposta porta X-Orca-Billed: false e la richiesta viene registrata a $0.
- Il portatile si chiude — Appena OrcaRouter vede che la connessione è sparita, chi chiama senza spillover riceve 503 local_connector:unavailable: un rifiuto chiaro, e nulla viene addebitato. Con lo spillover attivo per una macchina offline, risponde al suo posto un modello ospitato che hai consentito, entro il tuo tetto mensile; quella risposta viene addebitata e porta X-Orca-Spillover-Reason: rig_offline.