Twój GPU dołącza do routera. Chmura przejmuje ruch tylko wtedy, gdy na to pozwolisz.
Orca Connect łączy się na zewnątrz z maszyny, na której działają Twoje modele. Trafiają obok ponad 200 modeli hostowanych za Twoim zwykłym kluczem, a OrcaRouter nic za nie nie pobiera.
- Tylko ruch wychodzący: bez przekierowania portów, bez tunelu do konfiguracji, bez reguły zapory. Nic nie jest dostępne, dopóki nie wybierzesz modeli do udostępnienia.
- Przelew jest wyłączony, dopóki go nie włączysz. Wtedy żądanie trafia do modelu hostowanego tylko z powodów, na które pozwoliłeś, do modeli, które wskazałeś, w ramach miesięcznego limitu.
- Odpowiedź obsłużona przez Twój sprzęt niesie X-Orca-Billed: false; ta, która przelała się do modelu hostowanego, niesie powód i szacowany koszt.
Udostępnij maszynę, nie hasło
Wyślij komuś link do wybranych modeli na swojej maszynie, z datą wygaśnięcia i limitem żądań, i cofnij go, kiedy chcesz. Ta osoba loguje się na własne konto, więc Twój klucz nigdy nie wychodzi z Twoich rąk.
Klucze, które nigdy nie trafiają do modelu hostowanego
Oznacz klucz jako tylko lokalny, a jego żądania obsłuży wyłącznie lokalna maszyna: nigdy model hostowany i nigdy z opłatą. Po drodze nadal przechodzą przez OrcaRouter, więc to decyduje, gdzie działa inferencja, a nie którędy wędruje prompt.
Twój agent programistyczny, skierowany na Twoją maszynę
Uruchom orca-connect claude, a Claude Code wystartuje na Twoich własnych modelach, tylko w tej sesji. Zamień claude na codex, opencode, gemini, qwen, kimi, copilot, aider, goose lub pi, by zrobić to samo z Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose i pi. Ustawienia samego agenta zostają bez zmian.
Maszyna pod biurkiem, dostępna z każdego miejsca.
Zainstaluj, zatwierdź maszynę raz w przeglądarce (albo kodem na serwerze bez ekranu) i zaznacz modele do udostępnienia. Konektor otwiera jedno połączenie wychodzące, a Twoje modele pojawiają się w katalogu jako local/your-rig/your-model. Wywołuj je z laptopa, telefonu albo agenta w chmurze kluczem, którego już używasz. Te wywołania przechodzą przez OrcaRouter w drodze do Twojej maszyny; program na samej maszynie nadal może rozmawiać z runtime’em bezpośrednio.
Za darmo, dopóki nie zdecydujesz inaczej.
Przy wyłączonym przelewie zamknij laptopa, a wywołujący dostaną jasną odmowę, a nie rachunek. Włącz przelew z powodów, które są dla Ciebie ważne (maszyna offline, maszyna zajęta, za długi prompt, błąd runtime’u, żądanie wymagające narzędzi), wybierz, które modele hostowane mogą przejąć ruch, i ustaw limit. Albo odwrotnie: dalej pisz gpt-4o-mini w kodzie i pozwól, by odpowiadał Twój własny GPU, gdy tylko uruchamia model przypisany do tej nazwy; gdy nie może, gpt-4o-mini odpowiada jak zawsze i jest rozliczany normalnie.
Jak to działa
- Zaloguj się raz — Zatwierdź maszynę w przeglądarce albo kodem na serwerze bez ekranu. Konektor zapisuje otrzymany klucz we własnym pliku konfiguracyjnym na tej maszynie; nic nie jest wklejane do terminala.
- Wybierz, co udostępnić — Konektor znajduje środowiska uruchomieniowe na tej maszynie po portach, na których nasłuchują, i rozróżnia je, zadając każdemu pytanie, na które odpowiada tylko ono; orca-connect status wypisuje, co znalazł. Modele do udostępnienia wybierasz w konsoli; zanim maszyna połączy się po raz pierwszy, ten pierwszy wybór może zrobić zasobnik systemowy albo orca-connect expose. OrcaRouter widzi tę listę, aby móc zaproponować wybór, i wysyła żądania tylko do udostępnionych modeli.
- Online, tylko ruch wychodzący — Jedno połączenie, otwarte z Twojej maszyny, niesie każde żądanie jako osobny strumień. Twój router nigdy nie widzi połączenia przychodzącego, a modele są widoczne jako local/your-rig/your-model.
- Żądanie dociera do Twojej maszyny — Agent programistyczny, telefon albo osoba, której udostępniłeś link, wywołuje zwykły endpoint kluczem. OrcaRouter sprawdza zasady tego klucza, znajduje połączenie utrzymywane przez Twoją maszynę i wysyła nim żądanie. Twoja maszyna przekazuje je dalej tylko wtedy, gdy model jest jednym z udostępnionych.
- Odpowiedź mówi, że było za darmo — Tokeny wracają tą samą drogą. Odpowiedź niesie X-Orca-Billed: false, a żądanie trafia do logów z kwotą $0.
- Laptop się zamyka — Gdy tylko OrcaRouter zauważy, że połączenie zniknęło, wywołujący bez przelewania dostaje 503 local_connector:unavailable: jasną odmowę, i nic nie jest naliczane. Przy przelewaniu włączonym dla maszyny offline odpowiada zamiast niej dozwolony przez Ciebie model hostowany, w ramach miesięcznego limitu; ta odpowiedź jest płatna i niesie X-Orca-Spillover-Reason: rig_offline.