Votre GPU rejoint le routeur. Le cloud ne prend le relais que si vous le décidez.
Orca Connect se connecte en sortie depuis la machine qui fait tourner vos modèles. Ils rejoignent plus de 200 modèles hébergés derrière votre clé habituelle, et OrcaRouter ne facture rien pour eux.
- Uniquement en sortie : pas de redirection de port, pas de tunnel à configurer, pas de règle de pare-feu. Rien n’est accessible tant que vous n’avez pas choisi les modèles à partager.
- Le débordement reste désactivé tant que vous ne l’activez pas. Ensuite, une requête ne part vers un modèle hébergé que pour les raisons que vous avez autorisées, vers les modèles que vous avez nommés, sous un plafond mensuel.
- Une réponse servie par votre matériel porte X-Orca-Billed: false ; une réponse qui a débordé vers un modèle hébergé porte la raison et son coût estimé.
Partagez une machine, pas un mot de passe
Envoyez à quelqu’un un lien vers les modèles de votre choix sur votre machine, avec une date d’expiration et une limite de requêtes, et révoquez-le quand vous voulez. La personne se connecte avec son propre compte, votre clé ne quitte donc jamais vos mains.
Des clés qui n’atteignent jamais un modèle hébergé
Marquez une clé comme locale uniquement et ses requêtes ne sont jamais servies que par une machine locale : jamais par un modèle hébergé, et jamais facturées. Elles passent toujours par OrcaRouter en chemin : cela décide où tourne l’inférence, pas par où passe un prompt.
Votre agent de code, branché sur votre machine
Lancez orca-connect claude et Claude Code démarre sur vos propres modèles, pour cette session uniquement. Remplacez claude par codex, opencode, gemini, qwen, kimi, copilot, aider, goose ou pi pour faire de même avec Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose et pi. Les réglages de l’agent restent tels quels.
La machine sous votre bureau, accessible de partout.
Installez-le, approuvez la machine une fois dans votre navigateur (ou avec un code sur un serveur sans écran) et cochez les modèles à partager. Le connecteur ouvre une seule connexion sortante et vos modèles apparaissent dans le catalogue sous la forme local/your-rig/your-model. Appelez-les depuis un portable, un téléphone ou un agent dans le cloud avec la clé que vous utilisez déjà. Ces appels passent par OrcaRouter pour atteindre votre machine ; un programme sur la machine elle-même peut toujours parler directement au runtime.
Gratuit jusqu’à nouvel ordre de votre part.
Débordement désactivé, fermez l’écran du portable et les appelants reçoivent un refus clair, pas une facture. Activez le débordement pour les raisons qui comptent pour vous (machine hors ligne, machine occupée, prompt trop long, erreur du runtime, requête qui a besoin d’outils), choisissez les modèles hébergés autorisés à prendre le relais et fixez un plafond. Ou faites l’inverse : continuez d’écrire gpt-4o-mini dans votre code et laissez votre propre GPU répondre chaque fois qu’il fait tourner le modèle que vous avez associé à ce nom ; quand il ne peut pas, gpt-4o-mini répond comme d’habitude et est facturé normalement.
Comment ça fonctionne
- Se connecter une fois — Approuvez la machine dans votre navigateur, ou avec un code sur un serveur sans écran. Le connecteur enregistre la clé qu’il reçoit dans son propre fichier de configuration sur cette machine ; rien n’est collé dans un terminal.
- Choisir quoi partager — Le connecteur trouve les runtimes de cette machine par les ports qu’ils écoutent, et les distingue en posant à chacun une question à laquelle lui seul répond ; orca-connect status liste ce qu’il a trouvé. Vous choisissez les modèles à partager dans la console ; avant la première connexion de la machine, l’icône de la barre système ou orca-connect expose peut faire ce premier choix. OrcaRouter voit la liste pour vous proposer ce choix, et n’envoie de requêtes qu’aux modèles que vous partagez.
- En ligne, en sortie uniquement — Une seule connexion, ouverte depuis votre machine, transporte chaque requête dans un flux à part. Votre routeur ne voit jamais de connexion entrante, et vos modèles apparaissent sous la forme local/your-rig/your-model.
- Une requête atteint votre machine — Un agent de code, un téléphone ou une personne avec qui vous avez partagé un lien appelle l’endpoint habituel avec une clé. OrcaRouter vérifie la politique de cette clé, trouve la connexion que tient votre machine et y envoie la requête. Votre machine ne la transmet que si le modèle fait partie de ceux que vous partagez.
- La réponse dit que c’était gratuit — Les tokens reviennent par le même chemin. La réponse porte X-Orca-Billed: false, et la requête est journalisée à $0.
- L’écran se referme — Dès qu’OrcaRouter constate que la connexion a disparu, un appelant sans débordement reçoit 503 local_connector:unavailable : un refus clair, et rien n’est facturé. Débordement activé pour une machine hors ligne, un modèle hébergé que vous avez autorisé répond à la place, sous votre plafond mensuel ; cette réponse est facturée et porte X-Orca-Spillover-Reason: rig_offline.