Ваш GPU подключается к роутеру. Облако берёт работу на себя, только когда вы скажете.
Orca Connect подключается наружу с машины, на которой работают ваши модели. Они встают рядом с 200+ размещёнными моделями за вашим обычным ключом, и OrcaRouter ничего за них не берёт.
- Только исходящие соединения: без проброса портов, без туннеля, без правил брандмауэра. Ничего не доступно, пока вы не выберете модели для общего доступа.
- Перелив выключен, пока вы его не включите. После этого запрос уходит на размещённую модель только по разрешённым вами причинам, только на названные вами модели и в пределах месячного лимита.
- Ответ, который обслужило ваше железо, несёт X-Orca-Billed: false; ответ, перелитый на размещённую модель, несёт причину и оценочную стоимость.
Делитесь машиной, а не паролем
Отправьте человеку ссылку на выбранные модели на вашей машине — со сроком действия и лимитом запросов — и отзовите её, когда захотите. Он входит под своей учётной записью, так что ваш ключ всегда остаётся у вас.
Ключи, которые никогда не доходят до размещённой модели
Отметьте ключ как только локальный — и его запросы будет обслуживать только локальная машина: никогда размещённая модель и никогда за плату. По пути они всё равно проходят через OrcaRouter, так что это определяет, где идёт инференс, а не каким путём идёт промпт.
Ваш агент для кода — на вашей машине
Запустите orca-connect claude, и Claude Code стартует на ваших собственных моделях, только для этой сессии. Замените claude на codex, opencode, gemini, qwen, kimi, copilot, aider, goose или pi, чтобы сделать то же самое для Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose и pi. Собственные настройки агента остаются как были.
Машина под вашим столом — доступна откуда угодно.
Установите, один раз подтвердите машину в браузере (или кодом на сервере без экрана) и отметьте модели для общего доступа. Коннектор открывает одно исходящее соединение, и ваши модели появляются в каталоге как local/your-rig/your-model. Вызывайте их с ноутбука, телефона или облачного агента тем ключом, которым уже пользуетесь. Такие вызовы проходят через OrcaRouter по пути к вашей машине; программа на самой машине по-прежнему может обращаться к рантайму напрямую.
Бесплатно, пока вы не решите иначе.
Когда перелив выключен, закройте крышку ноутбука — и вызывающие получат понятный отказ, а не счёт. Включите перелив для важных вам причин (машина офлайн, машина занята, слишком длинный промпт, ошибка рантайма, запрос с инструментами), выберите, какие размещённые модели могут подхватить работу, и задайте лимит. Или наоборот: продолжайте писать gpt-4o-mini в коде и пусть отвечает ваш собственный GPU, когда на нём запущена модель, сопоставленная этому имени; когда он не может, отвечает gpt-4o-mini, как и раньше, и оплачивается как обычно.
Как это работает
- Войдите один раз — Подтвердите машину в браузере или кодом на сервере без экрана. Коннектор сохраняет полученный ключ в собственном файле конфигурации на этой машине; ничего не вставляется в терминал.
- Выберите, чем делиться — Коннектор находит рантаймы на этой машине по портам, которые они слушают, и различает их, задавая каждому вопрос, на который отвечает только он; orca-connect status показывает, что найдено. Модели для общего доступа вы выбираете в консоли; до первого подключения машины этот первый выбор может сделать трей или orca-connect expose. OrcaRouter видит этот список, чтобы предложить вам выбор, и отправляет запросы только к моделям, которыми вы делитесь.
- В сети, только исходящее — Одно соединение, открытое с вашей машины, несёт каждый запрос отдельным потоком. Ваш роутер никогда не видит входящего соединения, а модели отображаются как local/your-rig/your-model.
- Запрос доходит до вашей машины — Агент для кода, телефон или человек, с которым вы поделились ссылкой, вызывает обычный эндпоинт с ключом. OrcaRouter проверяет политику этого ключа, находит соединение, которое держит ваша машина, и отправляет запрос по нему. Ваша машина передаёт его дальше, только если модель входит в общий доступ.
- Ответ говорит: бесплатно — Токены возвращаются тем же путём. Ответ несёт X-Orca-Billed: false, а запрос записывается в журнал с суммой $0.
- Крышка закрывается — Как только OrcaRouter видит, что соединение пропало, вызывающий без перелива получает 503 local_connector:unavailable: понятный отказ, и ничего не оплачивается. Когда перелив включён для машины не в сети, вместо неё отвечает разрешённая вами размещённая модель в пределах месячного лимита; этот ответ оплачивается и несёт X-Orca-Spillover-Reason: rig_offline.