你的 GPU 接上路由器。只有你同意,雲端才會接手。
Orca Connect 從執行你模型的機器主動向外連線。你的模型會和 200 多個託管模型並列,用你平常的金鑰呼叫,OrcaRouter 對它們不收任何費用。
- 只走出站連線:不需連接埠轉送、不需設定通道、不需防火牆規則。在你選擇要分享的模型之前,什麼都無法存取。
- 溢出預設關閉,直到你開啟。開啟後,請求也只會在你允許的原因下、送往你指定的模型、並在每月上限內轉到託管模型。
- 由你的硬體處理的回應帶有 X-Orca-Billed: false;溢出到託管模型的回應則附上原因及其預估費用。
分享機器,而不是密碼
把你機器上所選模型的連結傳給別人,設定有效期限與請求上限,隨時都能撤銷。對方用自己的帳號登入,你的金鑰始終不會離開你手中。
永遠不會抵達託管模型的金鑰
把金鑰標記為僅限本機後,它的請求只會由本機機器處理:絕不會交給託管模型,也絕不計費。請求途中仍會經過 OrcaRouter,因此這決定的是推論在哪裡執行,而不是提示詞經過哪裡。
讓程式碼代理對準你的機器
執行 orca-connect claude,Claude Code 就會在本次工作階段中使用你自己的模型啟動。把 claude 換成 codex、opencode、gemini、qwen、kimi、copilot、aider、goose 或 pi,就能對 Codex CLI、OpenCode、Gemini CLI、Qwen Code、Kimi Code、Copilot CLI、Aider、Goose 和 pi 做同樣的事。代理本身的設定維持不變。
桌子底下的機器,隨處可用。
安裝後,在瀏覽器中核准一次這台機器(無螢幕的伺服器可用驗證碼),再勾選要分享的模型。連接器只建立一條出站連線,你的模型會以 local/your-rig/your-model 的形式出現在目錄中。用你已有的金鑰,從筆電、手機或雲端代理呼叫它們。這些呼叫會經由 OrcaRouter 抵達你的機器;機器上的程式仍可直接存取執行環境。
免費,直到你另作決定。
溢出關閉時,闔上筆電,呼叫方收到的是明確的拒絕,而不是帳單。針對你在意的原因開啟溢出(機器離線、機器忙碌、提示詞過長、執行環境錯誤、需要工具的請求),選擇可以接手的託管模型並設定上限。也可以反過來:程式碼裡繼續寫 gpt-4o-mini,只要你的 GPU 正在執行你對應到這個名稱的模型,就由它來回答;做不到時,gpt-4o-mini 照常回答並照常計費。
運作原理
- 只需登入一次 — 在瀏覽器中核准這台機器,或在無螢幕的伺服器上使用驗證碼。連接器把收到的金鑰存在這台機器上它自己的設定檔中,不需要往終端機貼上任何內容。
- 選擇要分享的內容 — 連接器透過監聽連接埠找到這台機器上的執行環境,並用只有該執行環境才會回答的問題區分它們;orca-connect status 會列出找到的內容。要分享的模型在主控台中選擇;在機器首次連線之前,可以用系統匣或 orca-connect expose 做出這第一次選擇。OrcaRouter 能看到這份清單,以便為你提供選擇,但只會把請求送到你分享的模型。
- 上線,只走出站 — 一條從你的機器開啟的連線,以各自獨立的串流承載每個請求。你的路由器永遠看不到入站連線,你的模型以 local/your-rig/your-model 的形式列出。
- 請求抵達你的機器 — 程式碼代理、手機或你分享過連結的人,用金鑰呼叫平常的端點。OrcaRouter 檢查該金鑰的政策,找到你的機器保持的連線,並透過它送出請求。只有當模型是你分享的模型之一時,你的機器才會轉交。
- 回應表明它是免費的 — Token 沿同一條路回傳。回應帶有 X-Orca-Billed: false,請求以 $0 記入日誌。
- 闔上筆電 — 一旦 OrcaRouter 發現連線已中斷,未開啟溢出的呼叫方會收到 503 local_connector:unavailable:明確的拒絕,不產生任何費用。若針對機器離線開啟了溢出,則由你允許的託管模型在每月上限內代為回應;該回應會計費,並帶有 X-Orca-Spillover-Reason: rig_offline。