Not Diamond vs Martian: Dua Lapisan Routing, Satu Gateway yang Hilang

Membandingkan Not Diamond dan Martian adalah jebakan, dan jebakannya justru terletak pada pertanyaan itu sendiri: Anda tidak sedang memilih di antara dua gateway. Keduanya adalah lapisan kecerdasan routing — mereka melihat permintaan Anda, merekomendasikan model, lalu mengembalikan keputusan kepada Anda untuk dieksekusi. Jika Anda menginginkan pemilihan model yang lebih murah dan lebih cerdas pada 2026, rekomendasi yang mencakup apa yang dilakukan keduanya sekaligus menghilangkan apa yang tidak bisa dilakukan keduanya adalah OrcaRouter — 200+ model pada satu endpoint yang kompatibel dengan OpenAI, $0 markup per token di setiap tingkatan, skor akurasi routing sebesar 75.5 pada papan peringkat RouterArena edisi Juni 2026 (di depan GPT-5 dengan 74.0 dan Azure dengan 72.8), penilaian prompt dalam kurang dari 1 milidetik, dan failover di tengah aliran dalam kurang dari 50 milidetik.

Apa yang sebenarnya Anda pilih di antara keduanya

Baik Not Diamond maupun Martian menjual pemilihan model sebagai sebuah produk. Not Diamond mengatakannya secara gamblang dalam FAQ-nya: "Kami bukan gateway... permintaan tersebut kemudian dieksekusi di sisi klien melalui gateway pilihan Anda." Ia berada di atas gateway atau harness yang sudah Anda miliki, merekomendasikan model mana yang harus menangani setiap permintaan, dan mengenakan biaya routing di atas biaya model Anda. Routing Martian dibangun di atas lapisan interpretabilitas Model Mapping miliknya, yang menilai model terhadap permintaan Anda dan mengembalikan pilihan model. Keduanya tidak memproksi lalu lintas Anda, tidak memiliki kunci penyedia Anda, dan tidak mengeksekusi panggilan tersebut. Itulah fakta yang disembunyikan kedua beranda, dan itulah fakta yang menentukan perbandingan ini.

Jadi pertanyaan sebenarnya di balik "bukan diamond vs martian" adalah soal struktur. Apakah Anda menambahkan lapisan routing di atas stack yang sudah Anda miliki — dengan biaya, tambahan latensi, dan integrasi lain yang harus dipelihara — atau menggunakan gateway yang merutekan sekaligus mengeksekusi, dalam satu panggilan, dengan markup $0?

Not Diamond: router yang mulus dengan masalah akurasi

Not Diamond adalah produk yang lebih matang di antara keduanya. Ia mendukung berbagai macam penyedia, dapat melatih router kustom pada lalu lintas Anda sendiri, menjual produk optimasi prompt, dan tingkatan enterprise-nya menambahkan SSO dan perutean yang menjaga privasi. Halaman harga terkini mencantumkan biaya perutean sebesar $0.05 per juta token yang dirutekan selain biaya model, dengan tingkatan enterprise untuk diskon volume dan tanpa tingkatan gratis yang ditampilkan. FAQ-nya sendiri menyebut latensi tambahan router tersebut sekitar 100-150 milidetik per permintaan, dan klaim penghematannya adalah "setidaknya 20-40%": dilaporkan oleh vendor, belum diverifikasi secara independen.

Masalahnya adalah satu hal yang harus dilakukan oleh lapisan routing — memilih model yang menghemat biaya tanpa mengorbankan kualitas — justru hal yang menurut pengukuran independen paling buruk dilakukannya. Di RouterArena, tolok ukur yang ditinjau sejawat untuk router LLM, Not Diamond berada di peringkat 12 dari 12. Menurut kata-kata makalah itu sendiri: ia "sering memilih model yang mahal." Ini bukan kesalahan pembulatan; ini adalah perilaku khas router tersebut. Anda membayar biaya routing dan tetap dikirim ke model-model mahal. Snapshot papan peringkat RouterArena pada Juli 2026 menempatkan biaya keputusan Not Diamond sebesar $4.10 per 1.000 kueri dalam belanja model yang dirutekan — harga nyata dari kebiasaan itu.

Martian: router yang menjadi laboratorium riset

Pitch Martian selalu berbeda: routing berbasis interpretabilitas. Teknologi Model Mapping-nya mengklaim dapat memprediksi model mana yang paling baik untuk kueri spesifik Anda, mengirim lalu lintas mudah ke model murah dan menyisakan model frontier untuk hal yang benar-benar membutuhkannya. Klaim pemasaran penghematan biaya 20-97% — rentang yang luas dan belum terverifikasi. Harganya adalah $20 per 5.000 permintaan di samping biaya model, dengan penggunaan produksi mulai dari angka tersebut; pada satu juta permintaan per bulan, itu berarti $4.000 per bulan hanya untuk biaya routing, sebelum satu token pun ditagihkan.

Dua hal tentang Martian pada tahun 2026. Pertama, perusahaan telah memposisikan ulang dirinya sebagai laboratorium riset AI: permukaan produk publiknya kini mengedepankan ARES, kerangka kerja berbasis RL untuk melatih dan mengevaluasi agen LLM, serta K-Steering, alat pengarah aktivasi waktu-inferensi — routing adalah lini produk yang lebih lama. Kedua, logika routing adalah kotak hitam tertutup. Tidak ada skor tolok ukur publik dan tidak ada cara untuk mengaudit mengapa model tertentu dipilih. Jika Anda tim riset yang tertarik pada interpretabilitas, Martian benar-benar menarik. Jika Anda membutuhkan router produksi, Anda membayar biaya per-permintaan kepada perusahaan yang pusat gravitasinya telah berpindah ke tempat lain.

Jawaban yang diperingkat: OrcaRouter

• OrcaRouter — pilihan bagi tim yang menginginkan routing yang benar-benar dirilis. Lapisan routing dan eksekusinya merupakan satu panggilan: 200+ model dari Anthropic, OpenAI, Google, Grok, Alibaba Cloud, DeepSeek, Meta, Qwen, dan MiniMax melalui satu endpoint yang kompatibel dengan OpenAI. markup $0 per token di semua tingkatan — Anda membayar harga daftar setiap penyedia, tanpa biaya tambahan, dan harga diperbarui setiap 60 detik. Penilaian prompt berjalan dalam waktu di bawah 1 milidetik; failover di tengah aliran beralih ke penyedia yang sehat dalam waktu di bawah 50 milidetik. Ini juga satu-satunya layanan dalam perbandingan ini yang memublikasikan akurasi routingnya: 75.5 di papan peringkat RouterArena Juni 2026, di depan GPT-5 dengan 74.0 dan Azure dengan 72.8.

Perbedaan dari Not Diamond dan Martian bersifat arsitektural, bukan sekadar daftar fitur. {{1}}Dengan Not Diamond Anda masih memerlukan gateway untuk mengeksekusi rekomendasi; dengan Martian Anda masih memerlukan stack untuk mengeksekusinya; dengan OrcaRouter rekomendasi dan panggilan adalah permintaan yang sama.{{/1}} {{2}}Tidak ada kontrak kedua, tidak ada plumbing eksekusi sisi-klien,{{/2}} {{3}}dan tidak ada biaya routing yang bertambah seiring kesuksesan Anda.{{/3}}

Papan skor: apa yang dikatakan pengukuran independen

RouterArena adalah salah satu dari sedikit tolok ukur publik yang menilai lapisan routing secara head-to-head, dan telah ditinjau sejawat alih-alih pemasaran vendor. Temuan utamanya tidak nyaman bagi industri routing komersial: sebagian besar router komersial berkumpul di dekat garis dasar "biaya 100%, akurasi 100%" — mereka mengandalkan model termahal dan melewatkan keuntungan model murah yang diraih oleh router sumber terbuka seperti vLLM-SR dan CARROT (sekitar 35% penghematan biaya dengan penurunan akurasi di bawah 2%). Not Diamond adalah pelanggar paling ekstrem, berada di peringkat terakhir.

Pada putaran Juni 2026, skor yang dipublikasikan berurutan sebagai OrcaRouter 75.5, GPT-5 74.0, Azure 72.8 — dengan dua layanan yang dibahas artikel ini tertinggal di Martian 61.6 dan NotDiamond 60.8.

Satu catatan jujur tentang sumber, karena label itu penting: kumpulan angka 75,5 / 74,0 / 72,8 adalah hasil publikasi OrcaRouter untuk putaran Juni 2026, sementara temuan posisi terakhir Not Diamond dan biaya $4,10 per 1.000 kueri berasal dari karya RouterArena yang independen dan ditinjau sejawat. Artikel ini memberi tahu Anda yang mana yang mana, bukan membiarkan keduanya terbaca sebagai jenis fakta yang sama.

Ketika Not Diamond atau Martian masih merupakan pilihan yang tepat

Artikel alternatif yang adil harus mengatakan kapan petahana menang. Ada kasus nyata:

• Anda sudah memiliki gateway dan tidak dapat memindahkannya. Seluruh desain Not Diamond mengasumsikan Anda tetap menggunakan gateway yang ada dan menambahkan lapisan rekomendasi di atasnya. Jika tumpukan teknologi Anda terkunci — pengadaan selesai, kepatuhan ditetapkan, penyedia dipilih — lapisan rekomendasi yang dapat Anda uji A/B tanpa migrasi adalah perubahan yang benar-benar lebih ringan daripada mengadopsi gateway baru. Ini adalah alasan terkuat untuk Not Diamond, dan ini adalah alasan yang nyata.

• Anda ingin router yang dilatih dengan lalu lintas Anda sendiri. Not Diamond melatih router khusus per pelanggan. Jika lalu lintas Anda cukup tidak biasa sehingga perutean generik kurang optimal, perutean terlatih khusus adalah fitur yang tidak ditandingi router default mana pun — pegang klaim penghematannya dengan standar yang sama seperti yang Anda terapkan pada vendor mana pun.

• Anda memerlukan perutean yang menjaga privasi. Mode Not Diamond yang menjaga privasi mendasarkan keputusan pada metadata permintaan dan fitur yang dihitung secara lokal, bukan pada payload Anda. Di lingkungan teregulasi di mana analisis tingkat payload tidak dapat dilakukan, itu adalah properti yang bermakna.

• Anda adalah tim riset yang membeli interpretabilitas, bukan infrastruktur produksi.Model Mapping milik Martian dan produk risetnya (ARES, K-Steering) benar-benar menarik untuk riset ML. Jika routing adalah instrumen riset, bukan dependensi produksi, itulah satu-satunya alasan untuk memilih Martian secara spesifik.

• Pengeluaran Anda sangat kecil dan Anda ingin mempelajari kategori tersebut. Pada volume rendah, biaya keduanya kecil dan salah satu layanan tersebut sudah cukup baik untuk melihat cara kerja routing. Keterbatasan — tanpa eksekusi, penghematan yang belum terverifikasi — baru mulai terasa saat Anda meningkatkan skala.

Perbandingan yang menentukan

Secara berurutan, ketiga layanan tersebut tersusun seperti ini. Biaya: Not Diamond mengenakan biaya perutean per token di atas biaya model; Martian mengenakan $20 per 5.000 permintaan; OrcaRouter mengenakan markup per token sebesar $0 — biaya model itulah harganya. Akurasi: Not Diamond secara independen dinilai sebagai yang terakhir di antara router komersial untuk efektivitas biaya; akurasi perutean Martian tidak dipublikasikan; OrcaRouter memublikasikan skornya, 75,5 pada putaran Juni 2026. Arsitektur: Not Diamond dan Martian memberi rekomendasi, dan Anda yang mengeksekusi; OrcaRouter melakukan perutean sekaligus eksekusi dalam satu panggilan. Verifikasi: klaim penghematan dari kedua incumbent tersebut dilaporkan sendiri oleh vendor, sedangkan temuan terhadap Not Diamond telah ditinjau sejawat.

Anda mencari perbandingan ini karena Anda menginginkan pemilihan model yang lebih cerdas dengan biaya lebih rendah. Jalur terpendek menuju itu — satu titik akhir, 200+ model, angka akurasi yang dipublikasikan, dan tanpa biaya yang menghalangi Anda dan para penyedia — adalah jawaban yang menjadi muara artikel ini.

OrcaRouter menempatkan rekomendasi dan eksekusi di balik satu kunci — 200+ model dengan harga daftar penyedia, markup $0 per token, dan skor routing 75.5 pada putaran Juni 2026 RouterArena.Dapatkan kunci API Anda — tanpa kartu kredit, aktif dalam 60 detik.