내 GPU가 라우터에 합류합니다. 클라우드는 내가 허락할 때만 이어받습니다.
Orca Connect는 내 모델이 돌아가는 머신에서 바깥으로 연결합니다. 내 모델은 평소 키로 200개 이상의 호스팅 모델과 나란히 쓰이며, OrcaRouter는 그 비용을 받지 않습니다.
- 아웃바운드 전용: 포트 포워딩도, 설정할 터널도, 방화벽 규칙도 없습니다. 공유할 모델을 고르기 전에는 아무것도 노출되지 않습니다.
- 스필오버는 켜기 전까지 꺼져 있습니다. 켠 뒤에도 요청은 허용한 이유일 때만, 지정한 모델로만, 월 한도 안에서만 호스팅 모델로 넘어갑니다.
- 내 하드웨어가 처리한 응답에는 X-Orca-Billed: false가, 호스팅 모델로 스필오버된 응답에는 그 이유와 예상 비용이 담깁니다.
비밀번호가 아니라 머신을 공유하세요
내 머신에서 고른 모델로 가는 링크를 만료일과 요청 한도를 정해 보내고, 언제든 취소하세요. 상대는 자기 계정으로 로그인하므로 내 키는 절대 내 손을 떠나지 않습니다.
호스팅 모델에는 절대 닿지 않는 키
키를 로컬 전용으로 표시하면 그 요청은 로컬 머신만 처리합니다. 호스팅 모델이 처리하는 일도, 과금되는 일도 없습니다. 다만 요청은 여전히 OrcaRouter를 거치므로, 이것이 정하는 것은 추론이 어디서 실행되는지이지 프롬프트가 어디를 지나가는지가 아닙니다.
코딩 에이전트를 내 머신으로
orca-connect claude를 실행하면 Claude Code가 해당 세션에 한해 내 모델로 시작합니다. claude 대신 codex, opencode, gemini, qwen, kimi, copilot, aider, goose 또는 pi를 쓰면 Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose, pi에서도 똑같이 됩니다. 에이전트 자체 설정은 그대로 남습니다.
책상 아래 머신을, 어디서든.
설치하고 브라우저에서 머신을 한 번 승인한 뒤(화면 없는 서버라면 코드로), 공유할 모델을 선택하세요. 커넥터는 아웃바운드 연결 하나만 열고, 내 모델은 카탈로그에 local/your-rig/your-model 형태로 나타납니다. 노트북, 휴대폰, 클라우드 에이전트에서 이미 쓰는 키로 호출하세요. 이런 호출은 OrcaRouter를 거쳐 내 머신에 도착합니다. 머신 안의 프로그램은 여전히 런타임과 직접 통신할 수 있습니다.
내가 바꾸기 전까지는 무료.
스필오버가 꺼져 있으면, 노트북을 덮었을 때 호출하는 쪽은 청구서가 아니라 분명한 거절을 받습니다. 중요하게 여기는 이유(머신 오프라인, 머신 사용 중, 너무 긴 프롬프트, 런타임 오류, 도구가 필요한 요청)에 대해 스필오버를 켜고, 이어받을 수 있는 호스팅 모델을 고른 뒤 한도를 정하세요. 반대 방향도 됩니다. 코드에는 계속 gpt-4o-mini라고 쓰고, 그 이름에 연결한 모델이 돌아가고 있으면 내 GPU가 답하게 하세요. 그렇지 못할 때는 늘 그랬듯 gpt-4o-mini가 답하고 평소처럼 과금됩니다.
작동 방식
- 한 번만 로그인 — 브라우저에서 머신을 승인하거나, 화면 없는 서버라면 코드로 승인합니다. 커넥터는 받은 키를 이 머신의 자체 설정 파일에 저장하며, 터미널에 붙여 넣을 것은 없습니다.
- 공유할 것 고르기 — 커넥터는 대기 중인 포트로 이 머신의 런타임을 찾고, 그 런타임만 답할 수 있는 질문으로 각각을 구별합니다. 찾은 목록은 orca-connect status로 볼 수 있습니다. 공유할 모델은 콘솔에서 고릅니다. 머신이 처음 연결되기 전이라면 트레이나 orca-connect expose로 그 첫 선택을 할 수 있습니다. OrcaRouter는 선택지를 보여 주기 위해 이 목록을 받고, 요청은 공유한 모델에만 보냅니다.
- 아웃바운드로만 온라인 — 내 머신에서 연 연결 하나가 모든 요청을 각자의 스트림으로 실어 나릅니다. 라우터에는 인바운드 연결이 전혀 보이지 않고, 모델은 local/your-rig/your-model로 목록에 오릅니다.
- 요청이 내 머신에 도착 — 코딩 에이전트, 휴대폰, 또는 링크를 공유한 사람이 키로 평소 엔드포인트를 호출합니다. OrcaRouter는 그 키의 정책을 확인하고, 내 머신이 유지하는 연결을 찾아 요청을 보냅니다. 내 머신은 공유한 모델일 때만 요청을 넘깁니다.
- 응답이 무료임을 알려 줍니다 — 토큰은 같은 경로로 돌아옵니다. 응답에는 X-Orca-Billed: false가 담기고, 요청은 $0으로 기록됩니다.
- 노트북을 덮으면 — 연결이 끊긴 것을 OrcaRouter가 알게 되면, 스필오버가 꺼진 호출하는 쪽은 503 local_connector:unavailable, 즉 분명한 거절을 받고 아무것도 과금되지 않습니다. 오프라인 머신에 대해 스필오버가 켜져 있으면 월 한도 안에서 허용한 호스팅 모델이 대신 응답합니다. 그 응답은 과금되며 X-Orca-Spillover-Reason: rig_offline를 담습니다.