你的 GPU 接入路由器。只有你同意,云端才会接手。
Orca Connect 从运行你模型的机器主动向外连接。你的模型与 200 多个托管模型一起,用你平常的密钥调用,OrcaRouter 对它们不收任何费用。
- 只走出站连接:无需端口转发、无需配置隧道、无需防火墙规则。在你选择要共享的模型之前,什么都无法访问。
- 溢出默认关闭,直到你开启。开启后,请求也只会在你允许的原因下、发往你指定的模型、并在每月上限之内转到托管模型。
- 由你的硬件处理的响应带有 X-Orca-Billed: false;溢出到托管模型的响应则带有原因及其预估费用。
共享机器,而不是密码
把你机器上所选模型的链接发给别人,设置有效期和请求上限,随时可以撤销。对方用自己的账号登录,你的密钥始终不会离开你手中。
永远不会到达托管模型的密钥
把密钥标记为仅限本地后,它的请求只会由本地机器处理:绝不会交给托管模型,也绝不计费。请求途中仍会经过 OrcaRouter,因此这决定的是推理在哪里运行,而不是提示词经过哪里。
让编码智能体对准你的机器
运行 orca-connect claude,Claude Code 就会在本次会话中使用你自己的模型启动。把 claude 换成 codex、opencode、gemini、qwen、kimi、copilot、aider、goose 或 pi,就能对 Codex CLI、OpenCode、Gemini CLI、Qwen Code、Kimi Code、Copilot CLI、Aider、Goose 和 pi 做同样的事。智能体自身的设置保持不变。
桌子底下的机器,随处可用。
安装后,在浏览器中批准一次这台机器(无屏幕的服务器可用验证码),然后勾选要共享的模型。连接器只建立一条出站连接,你的模型会以 local/your-rig/your-model 的形式出现在目录中。用你已有的密钥,从笔记本、手机或云端智能体调用它们。这些调用会经由 OrcaRouter 到达你的机器;机器上的程序仍可直接访问运行时。
免费,直到你另作决定。
溢出关闭时,合上笔记本,调用方收到的是明确的拒绝,而不是账单。为你在意的原因开启溢出(机器离线、机器繁忙、提示词过长、运行时出错、需要工具的请求),选择可以接手的托管模型并设置上限。也可以反过来:代码里继续写 gpt-4o-mini,只要你的 GPU 正在运行你映射到这个名字的模型,就由它来回答;做不到时,gpt-4o-mini 照常回答并照常计费。
工作原理
- 只需登录一次 — 在浏览器中批准这台机器,或在无屏幕的服务器上使用验证码。连接器把收到的密钥保存在这台机器上它自己的配置文件中,不需要往终端里粘贴任何内容。
- 选择要共享的内容 — 连接器通过监听端口找到这台机器上的运行时,并用只有该运行时才会回答的问题区分它们;orca-connect status 会列出找到的内容。要共享的模型在控制台中选择;在机器首次连接之前,可以用托盘或 orca-connect expose 做出这第一次选择。OrcaRouter 能看到这份列表,以便为你提供选择,但只会把请求发送到你共享的模型。
- 上线,只走出站 — 一条从你的机器打开的连接,以各自独立的流承载每个请求。你的路由器永远看不到入站连接,你的模型以 local/your-rig/your-model 的形式列出。
- 请求到达你的机器 — 编码智能体、手机或你分享过链接的人,用密钥调用平常的端点。OrcaRouter 检查该密钥的策略,找到你的机器保持的连接,并通过它发送请求。只有当模型是你共享的模型之一时,你的机器才会转发。
- 响应表明它是免费的 — Token 沿同一条路返回。响应带有 X-Orca-Billed: false,请求以 $0 记入日志。
- 合上笔记本 — 一旦 OrcaRouter 发现连接已断开,未开启溢出的调用方会收到 503 local_connector:unavailable:明确的拒绝,不产生任何费用。若针对机器离线开启了溢出,则由你允许的托管模型在每月上限内代为响应;该响应会计费,并带有 X-Orca-Spillover-Reason: rig_offline。