Satu gateway. Setiap model. Data Anda tetap milik Anda.
Inferensi privat di 200+ model, terlindungi di setiap panggilan. Tanpa markup untuk bayar sesuai pemakaian dan langganan. Atau bawa kunci Anda sendiri.
Aktif dalam 60 detik.
- Arahkan SDK Anda ke kami — Setel base_url ke api.orcarouter.ai/v1 dan ganti kunci API Anda. Tidak ada perubahan kode lain.
- Kami merutekan, menjaga, dan mengamati — Dinilai di bawah 1 md, lengkap dengan failover, caching, dan log penuh.
- Anda rilis, di satu endpoint — Langsung ke tiap penyedia dengan tarif resminya — kami menambah $0 per token.
Privasi, keamanan, dan perutean — terjawab.
Apakah Anda menyimpan prompt saya atau melatih model dengannya?
Kami tidak pernah melatih model dengan prompt Anda. Isi prompt dan respons tidak dicatat kecuali pencatatan aktif untuk workspace Anda; kami menyimpan metadata permintaan (waktu, model, token, biaya, IP) untuk penagihan dan keamanan. Perjanjian tanpa retensi mengunci pencatatan isi agar tetap nonaktif.
Di mana data saya diproses?
Oleh penyedia yang melayani model pilihan Anda, di region penyedia tersebut. Pengaturan region data workspace Anda (AS, UE, Inggris, Asia-Pasifik, atau Tiongkok) menandai laporan kepatuhan dengan region itu; pengaturan ini belum menetapkan tempat data disimpan atau tempat inferensi berjalan.
Apa arti tahan komputer kuantum di sini?
Log permintaan yang Anda pilih untuk disimpan dapat dienkripsi dengan enkripsi pasca-kuantum hibrida (ML-KEM-768 + X25519), sehingga salinan yang diambil hari ini tidak bisa dibuka oleh komputer kuantum di masa depan. Kodenya open source: SCUTTLE. Fitur ini aktif secara default di layanan terkelola kami.
Apa itu AI router?
AI router berada di antara aplikasi Anda dan banyak model, lalu memilih model terbaik untuk setiap permintaan. OrcaRouter menilai setiap prompt dalam waktu kurang dari 1 ms dan merutekannya — model frontier untuk penalaran berat, open source untuk tugas rutin — di 200+ model tanpa markup token.
Apa itu LLM router dan bagaimana cara kerjanya?
LLM router mengklasifikasikan setiap prompt dan mencocokkannya dengan model yang paling mungkin menjawab baik dengan biaya terendah. OrcaRouter merutekan dengan embedding kontekstual dan pembelajaran online dari trafik nyata — akurasi 75,5% di papan peringkat publik RouterArena.
Apakah OrcaRouter sebuah AI gateway?
Ya. OrcaRouter adalah AI gateway kelas produksi: satu endpoint kompatibel OpenAI dengan routing adaptif, load balancing, failover otomatis, guardrail, firewall agen, cache prompt, dan observabilitas per permintaan.
Apa itu AI CDN?
Seperti CDN menyajikan konten dari edge terbaik, AI CDN menyajikan inferensi dari penyedia terbaik: kapasitas sehat, cepat, murah; prompt berulang di-cache; failover saat gangguan. OrcaRouter memainkan peran ini di 200+ model.
Apa itu routing adaptif?
Routing adaptif mempelajari kompromi kualitas/biaya dari trafik Anda sendiri. Arahkan tiap workspace ke "termurah yang lolos standar", kualitas tertinggi, atau seimbang — atau biarkan orcarouter/auto terus menyetel pilihan di tiap permintaan.
Apakah saya butuh AI gateway sekaligus LLM router?
Keduanya memecahkan masalah berbeda — tata kelola vs pemilihan model — tetapi Anda tidak butuh dua sistem: OrcaRouter merutekan per permintaan dan menegakkan anggaran, guardrail, serta observabilitas di hop yang sama.
Apakah routing menambah latensi?
Penilaian prompt butuh kurang dari 1 ms dan total latensi tambahan tetap di bawah 50 ms — biasanya terbayar berkali lipat lewat penyedia yang lebih cepat dan token prompt yang di-cache.
Apakah OrcaRouter menaikkan harga token?
Tidak. Anda membayar tarif resmi tiap penyedia; OrcaRouter menambahkan $0 per token dan meraih pendapatan dari fitur opsional Team dan Enterprise.
Bisakah saya tetap memakai kode OpenAI SDK yang ada?
Bisa — ganti base_url ke https://api.orcarouter.ai/v1 dan kode SDK OpenAI, Anthropic, atau Google Anda tetap berjalan: Chat Completions, Responses, Embeddings, Images, Audio, dan streaming.
Apa yang terjadi saat penyedia tumbang?
OrcaRouter mencoba ulang ke kapasitas cadangan yang sehat untuk model yang sama atau setara sebelum respons dimulai, sehingga gangguan upstream tidak sampai ke pengguna Anda.