GPU Anda bergabung ke router. Cloud hanya mengambil alih saat Anda mengizinkan.
Orca Connect membuat koneksi keluar dari mesin yang menjalankan model Anda. Model itu berdiri bersama 200+ model terkelola di balik kunci biasa Anda, dan OrcaRouter tidak menagih apa pun untuknya.
- Hanya koneksi keluar: tanpa port forwarding, tanpa tunnel yang perlu dikonfigurasi, tanpa aturan firewall. Tidak ada yang bisa dijangkau sampai Anda memilih model yang akan dibagikan.
- Limpahan mati sampai Anda menyalakannya. Setelah itu, permintaan hanya pindah ke model terkelola karena alasan yang Anda izinkan, ke model yang Anda sebutkan, di bawah batas bulanan.
- Respons yang dilayani perangkat keras Anda membawa X-Orca-Billed: false; respons yang dilimpahkan ke model terkelola membawa alasan dan perkiraan biayanya.
Bagikan mesin, bukan kata sandi
Kirim tautan ke model pilihan Anda di mesin Anda, lengkap dengan masa berlaku dan batas permintaan, lalu cabut kapan pun Anda mau. Penerima masuk dengan akunnya sendiri, jadi kunci Anda tidak pernah lepas dari tangan Anda.
Kunci yang tidak pernah menjangkau model terkelola
Tandai kunci sebagai khusus lokal dan permintaannya hanya dilayani oleh mesin lokal: tidak pernah oleh model terkelola, dan tidak pernah ditagih. Permintaan itu tetap melewati OrcaRouter di perjalanan, jadi ini menentukan di mana inferensi berjalan, bukan ke mana prompt melintas.
Agen coding Anda, diarahkan ke mesin Anda
Jalankan orca-connect claude dan Claude Code dimulai dengan model Anda sendiri, hanya untuk sesi itu. Ganti claude dengan codex, opencode, gemini, qwen, kimi, copilot, aider, goose atau pi untuk melakukan hal yang sama pada Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose dan pi. Pengaturan agen itu sendiri dibiarkan seperti semula.
Mesin di bawah meja Anda, bisa dijangkau dari mana saja.
Pasang, setujui mesin sekali di browser (atau dengan kode di server tanpa layar), lalu centang model yang akan dibagikan. Konektor membuka satu koneksi keluar dan model Anda muncul di katalog sebagai local/your-rig/your-model. Panggil dari laptop, ponsel, atau agen cloud dengan kunci yang sudah Anda pakai. Panggilan itu melewati OrcaRouter dalam perjalanan ke mesin Anda; program di mesin itu sendiri tetap bisa berbicara langsung dengan runtime.
Gratis sampai Anda memutuskan lain.
Dengan limpahan mati, tutup laptop dan pemanggil mendapat penolakan yang jelas, bukan tagihan. Nyalakan limpahan untuk alasan yang penting bagi Anda (mesin offline, mesin sibuk, prompt terlalu panjang, galat runtime, permintaan yang butuh tool), pilih model terkelola yang boleh mengambil alih, dan tetapkan batas. Atau sebaliknya: tetap tulis gpt-4o-mini di kode Anda dan biarkan GPU Anda sendiri menjawab setiap kali ia menjalankan model yang Anda petakan ke nama itu; saat tidak bisa, gpt-4o-mini menjawab seperti biasa dan ditagih seperti biasa.
Cara kerjanya
- Masuk sekali — Setujui mesin di browser, atau dengan kode di server tanpa layar. Konektor menyimpan kunci yang diterimanya di berkas konfigurasinya sendiri di mesin ini; tidak ada yang ditempel ke terminal.
- Pilih yang dibagikan — Konektor menemukan runtime di mesin ini lewat port yang mereka dengarkan, dan membedakannya dengan menanyakan sesuatu yang hanya bisa dijawab runtime itu; orca-connect status menampilkan yang ditemukannya. Anda memilih model yang dibagikan di konsol; sebelum mesin terhubung pertama kali, baki sistem atau orca-connect expose dapat membuat pilihan pertama itu. OrcaRouter melihat daftar itu agar bisa menawarkan pilihan, dan hanya mengirim permintaan ke model yang Anda bagikan.
- Online, hanya keluar — Satu koneksi, dibuka dari mesin Anda, membawa setiap permintaan sebagai aliran tersendiri. Router Anda tidak pernah melihat koneksi masuk, dan model Anda terdaftar sebagai local/your-rig/your-model.
- Permintaan sampai ke mesin Anda — Agen coding, ponsel, atau orang yang Anda beri tautan berbagi memanggil endpoint biasa dengan kunci. OrcaRouter memeriksa kebijakan kunci itu, menemukan koneksi yang dipegang mesin Anda, dan mengirim permintaan melaluinya. Mesin Anda hanya meneruskannya jika modelnya termasuk yang Anda bagikan.
- Respons menyatakan gratis — Token kembali lewat jalur yang sama. Respons membawa X-Orca-Billed: false, dan permintaan dicatat dengan $0.
- Laptop ditutup — Begitu OrcaRouter melihat koneksinya hilang, pemanggil tanpa limpahan mendapat 503 local_connector:unavailable: penolakan yang jelas, dan tidak ada yang ditagih. Dengan limpahan nyala untuk mesin yang offline, model terkelola yang Anda izinkan menjawab sebagai gantinya, di bawah batas bulanan; jawaban itu ditagih dan membawa X-Orca-Spillover-Reason: rig_offline.