Kartu judul yang dihasilkan berjudul 'Qwen4-Max vs Nemotron 3.5 Bolt 74B' dengan spanduk bertuliskan 'Tidak ada benchmark independen bersama yang tersedia', kartu kiri mencantumkan Qwen4-Max sebagai API terhosting dengan konteks 1.000.000 token, $1,50 masuk dan $4,50 keluar per juta token, Intelligence Index 43 dan bobot tidak dipublikasikan, serta kartu kanan mencantumkan Nemotron 3.5 Bolt 74B sebagai checkpoint yang Anda unduh dengan konteks 262.144 token, ukuran 24GB pada 2,06 bit, Intelligence Index N/A dan lisensi OpenMDW-1.1.
Guides & Insights

Qwen4-Max vs Nemotron 3.5 Bolt 74B: Ada Satu Angka yang Hilang dari Perbandingan Ini

Penulis

jinhao.song

Tanggal Terbit

Model terbaru · 20Lihat semua model →
Benchmark: Artificial Analysis · diperbarui setiap hari
Kembali ke semua artikel

Letakkan Qwen4-Max dan NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB berdampingan, dan hal pertama yang Anda sadari adalah bahwa situs-situs perbandingan tidak memiliki apa pun untuk dibandingkan. BenchLM mengatakannya secara gamblang — belum ada hasil benchmark bersama — lalu mengajak Anda melihat harga sebagai gantinya. Alasannya bersifat struktural, bukan sementara: Qwen4-Max mencetak 43 pada Artificial Analysis Intelligence Index v5.0.1, sedangkan Nemotron 3.5 Bolt 74B-A9B 24GB sama sekali tidak memiliki skor Intelligence Index. Bukan skor rendah. N/A, pada papan yang telah menjalankan model sejak sebelum keduanya dirilis, karena model tersebut tidak memiliki API yang tersedia untuk publik dan harness independen tidak memiliki apa pun untuk dipanggil.

Ketiadaan tunggal itu menata ulang segala hal lain dalam perbandingan ini. Anda tidak dapat memeringkat checkpoint 74 miliar parameter yang muat dalam 24 gigabyte terhadap model hosted 2,4 triliun parameter dengan menempatkan angka-angka mereka di sel yang bersebelahan, karena hanya salah satunya yang memiliki angka. Yang dapat Anda lakukan — dan yang tidak dilakukan halaman agregator — adalah memisahkan klaim yang dibuat masing-masing vendor, mencatat siapa yang mengukurnya, dan menentukan kolom mana yang sebenarnya menjadi dasar keputusan. Ternyata itu lebih berkaitan dengan apakah Anda membeli file atau menyewa layanan, bukan tentang kemampuan.

Satu adalah file, yang lainnya adalah meter.

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB dirilis pada 15 Oktober 2026 dan tersedia di Hugging Face sebagai bobot yang dapat diunduh di bawah OpenMDW-1.1, lisensi yang mengizinkan penggunaan komersial. Ini adalah mixture-of-experts hibrida Mamba-Transformer: total 74 miliar parameter, 9 miliar aktif per token. Angka "24GB" dalam nama adalah inti dari seluruh upaya ini. NVIDIA membangunnya dengan mengompresi induknya 120B-A12B menggunakan kerangka pencarian dipandu router yang disebutnya Star Elastic, memangkas top-K pakar dari 22 menjadi 9, lalu menerapkan distilasi sadar kuantisasi sehingga lapisan pakar berada pada 2,0625 bit. Sebuah drafter spekulatif berparameter 1,13 miliar ikut serta, dengan panjang penerimaan rata-rata 4,68 pada decoding greedy dan 4,25 pada sampling. Runtime yang direkomendasikan adalah vLLM pada Ampere, Hopper, atau Blackwell, dengan ukuran tensor-parallel satu.

Qwen4-Max adalah konstruksi yang berlawanan, dan bukan hanya karena ukurannya. Flagship generasi keempat Alibaba tersedia secara umum pada 16 November 2026 dengan harga $1,50 per juta token masukan dan $4,50 per juta token keluaran di Singapura, dengan jendela konteks 1.000.000 token, masukan gambar dan video native, serta tiga tingkat penalaran yang dapat dikonfigurasi. Tidak ada checkpoint yang dipublikasikan. Fine-tuning, deployment model, dan inferensi batch semuanya tercantum sebagai tidak didukung dalam dokumentasi Model Studio. Setiap endpoint yang melayaninya melayani deployment Alibaba.

Jadi kedua model itu tidak bersaing untuk slot yang sama dalam arsitektur Anda. Yang satu adalah sesuatu yang Anda jalankan; yang lain adalah sesuatu yang Anda panggil. Perbandingan apa pun yang tidak dimulai dari sana sedang mengukur hal yang salah.

Tabel vendor membandingkan Bolt dengan Qwen yang bukan ini.

Tabel benchmark milik NVIDIA sendiri adalah kumpulan angka yang paling terdokumentasi dengan baik di kedua sisi, dan layak dibaca dengan cermat karena apa yang tidak ada di dalamnya. Kolom perbandingannya adalah Qwen3.6-35B-A3B dalam BF16, Gemma 4 26B-A4B-IT dalam BF16, dan Nemotron 3.5 Lightning 30B-A3B. Qwen4-Max tidak ada dalam tabel. Qwen yang diukur tabel tersebut adalah model open-weight 35 miliar parameter dari dua generasi sebelumnya, dan alasannya jelas begitu dikatakan: kumpulan pembandingnya ditentukan oleh jejak memori, dan API hosted 2,4 triliun parameter tidak memiliki jejak untuk dibandingkan.

Apa yang memang dibuktikan tabel tersebut, yang semuanya dilaporkan vendor dan belum direproduksi, adalah bahwa file 24GB kompetitif dengan opsi lokal yang jauh lebih besar dalam pekerjaan agentic. Pada baris yang dipilih NVIDIA:

• BrowseComp — Nemotron 3.5 Bolt 74B 66.75, dibandingkan dengan 48.74 untuk Qwen3.6-35B-A3B dan 26.30 untuk Gemma 4 26B-A4B

• Terminal-Bench 2.1 — 50,98, dibandingkan dengan 44,38 dan 37,22

• WebArena dalam mode visi — 50,86, dibandingkan dengan 36,60 dan 38,20

• GPQA Diamond — 86,43, dibandingkan dengan 83,40 dan 79,61

• HLE tanpa alat — 25,30, dibandingkan dengan 19,56 dan 17,42

• GDPVal-AA-V2 — 28,47, dibandingkan dengan 25,75 dan 15,33

• MCP-Atlas — 52,20, dibandingkan dengan 51,20 dan 48,4

• Tau3 Banking — 17,01, dibandingkan dengan 10,52 dan 14,02

Screenshot of the Hugging Face model card for NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB captured 19 November 2026, showing the 15 October 2026 release date, the 74B total and 9B active parameter configuration, a context length of up to 256K tokens, the OpenMDW-1.1 licence, and the vendor benchmark table comparing Bolt against Qwen3.6-35B-A3B, Gemma 4 26B-A4B-IT and Nemotron 3.5 Lightning 30B-A3B.

Dua baris tempat ia kalah layak disebutkan, karena tabel vendor jarang mencantumkannya. Pada akurasi AA-Omniscience, Gemma 4 26B-A4B mencetak 22.17 berbanding Bolt 16.90; pada non-halusinasi AA-Omniscience, Nemotron 3.5 Lightning memimpin dengan 68.81 berbanding Bolt 61.27. Sifat terlemah Bolt yang diungkapkan adalah mengetahui kapan ia tidak tahu.

Catatan kaki sama pentingnya dengan baris-barisnya. NVIDIA mencatat MCP-Atlas pada 51,20 untuk Qwen3.6-35B-A3B, sekaligus mencatat bahwa Qwen sendiri melaporkan 62,8 pada benchmark yang sama, diukur pada 500 tugas publik. Dua lab, satu benchmark, selisih sebelas setengah poin. Itu bukan skandal; itulah bentuk angka yang dilaporkan vendor ketika tidak ada pihak di tengah yang menjalankan harness untuk kedua sisi. Itulah tepatnya peran yang dimainkan Intelligence Index bagi Qwen4-Max dan tidak dapat dimainkannya bagi Bolt.

Screenshot of the Artificial Analysis page for Nemotron 3.5 Bolt 74B-A9B captured 19 November 2026, showing the Intelligence Index, time per task, cost per task and verbosity panels reading N/A, 'No publicly available API' across the provider charts, and technical specifications listing 74B total parameters, 9B active, a 262k context window and the OpenMDW-1.1 licence.

Apa yang dikatakan dewan independen tentang Qwen4-Max — dan mengapa itu tidak menyelesaikan apa pun

Catatan independen Qwen4-Max tipis tetapi nyata. Artificial Analysis memberinya skor 43 pada Intelligence Index v5.0.1 dan menempatkannya di peringkat ke-51 dari 96 model pada versi papan tersebut. Biayanya $3,27 komputasi per tugas indeks, bertahan dengan menghasilkan 127 juta token keluaran sepanjang proses berjalan dibandingkan median 65,1 juta, dan membutuhkan 31,3 menit per tugas dibandingkan median 12,4. Kecepatan keluarannya 56 token per detik; waktu ke token jawaban pertama adalah 146 detik. Jendela konteks model di papan tertulis 984k, yang merupakan batas atas input mode berpikir sebesar 983.616 yang dibulatkan, bukan model yang berbeda.

Screenshot of the Artificial Analysis page for Qwen4 Max captured 19 November 2026, showing an Intelligence Index v5.0.1 score of 43 at rank 51 of 96, time to first answer token of 146.14 seconds, output speed of 56 tokens per second, 31.3 minutes per index task, $3.27 cost per task, 127M output tokens from the index run, and $1.50/$4.50 per million token pricing with a 984k context window.

Bacalah baris-baris itu sebagai profil penerapan, bukan sebagai vonis. Model yang berpikir selama setengah jam per tugas dan mengeluarkan dua kali jumlah token median tidak lambat karena dilayani dengan buruk; ia lambat karena melakukan lebih banyak pekerjaan per tugas dan menagih Anda untuk pekerjaan itu. Per tugas, $3,27 adalah biaya jujur untuk jawaban Qwen4-Max, dan itulah angka yang perlu dibawa ke dalam perbandingan apa pun dengan model yang Anda host sendiri, di mana biaya marginal sebuah tugas adalah listrik dan waktu antrean.

Sekarang coba letakkan {{1}}24GB{{/1}} milik Bolt di samping itu. Anda punya {{2}}tabel vendor{{/2}} yang menyatakan bahwa model itu mengalahkan Qwen 35B open-weight dalam penjelajahan agentik, dan Anda punya dewan independen yang menyatakan bahwa Qwen hosted yang sebenarnya dibandingkan dengannya mencetak skor 43 dan biayanya $3,27 per tugas. Kedua fakta itu tidak bersinggungan. Belum ada yang menjalankan Nemotron 3.5 Bolt 74B melalui Intelligence Index, dan sampai ada yang melakukannya, grafik apa pun yang menempatkan kedua model pada sumbu kapabilitas sedang menarik garis antara titik yang terukur dan titik yang diasumsikan.

Ketika perbandingannya dapat ditentukan: memori, latensi, dan biaya.

Tiga baris dapat dibandingkan secara jujur, karena kedua pihak menerbitkannya dan tidak satu pun memerlukan pihak ketiga.

• Memori — Nemotron 3.5 Bolt 74B-A9B 24GB membutuhkan 24 gigabyte memori lokal pada kuantisasi pakar 2,0625-bit; Qwen4-Max tidak membutuhkannya, karena Anda tidak pernah menyimpan bobotnya. Konsekuensinya, batas memori model yang di-hosting menjadi batas konteks: 262.144 token untuk checkpoint NVIDIA, 1.000.000 untuk Qwen4-Max, dengan batas input 983.616 token dalam mode berpikir dan 262.144 yang dibagi antara penalaran dan jawaban.

• Kecepatan — NVIDIA mengklaim setidaknya 80 token per detik untuk decoding dan melaporkan 84 dengan drafter; Artificial Analysis mengukur Qwen4-Max pada 56 token per detik, dengan 146 detik hingga token jawaban pertama. Model lokal lebih cepat per token dan mulai menjawab lebih cepat. Model yang dihosting mungkin tetap menyelesaikan tugas lebih cepat, karena melakukan jumlah pemikiran yang berbeda.

• Harga — satu tugas Qwen4-Max berbiaya $3.27 pada harness independen, atau $1.50 dan $4.50 per juta token pada meteran. Nemotron 3.5 Bolt 74B sama sekali tidak memiliki harga meteran yang dipublikasikan, karena tidak ada penyedia yang menjualnya. Biayanya adalah berapa pun biaya GPU bagi Anda: kartu 24GB yang sudah ada di workstation, diamortisasi sepanjang berapa pun tugas per bulan yang Anda jalankan melaluinya.

Baris terakhir itulah tempat keputusan sebenarnya berada, dan itulah sebabnya kerangka “mana yang lebih pintar” terus gagal. Jika beban kerja Anda adalah sejuta giliran agen singkat per bulan, checkpoint lokal menang dalam ekonomi unit dengan selisih yang tidak dapat diatasi oleh baris benchmark mana pun, dan konteks 262k adalah batasan yang Anda rancang di sekitarnya. Jika beban kerja Anda adalah beberapa ribu tugas berhorizon panjang dengan video di input dan dokumen 900.000 token terlampir, tidak ada checkpoint 24GB yang sama sekali menjawab pertanyaan itu, dan $3.27 per tugas Qwen4-Max adalah jawaban termurah yang tersedia, bukan jawaban yang mahal.

Mengapa jawaban jujurnya adalah "keduanya, untuk pekerjaan yang berbeda"

Penyelesaian yang menggoda adalah menetapkan pemenang, dan SERP penuh dengan halaman yang melakukan persis itu tanpa data bersama. Penyelesaian yang lebih berguna adalah bahwa kedua model ini menuju ide arsitektural yang sama dari arah yang berlawanan. Qwen4-Max adalah mixture-of-experts renggang yang mengaktifkan 71 miliar dari 2,4 triliun parameternya per token dan mengandalkan efisiensi token — klaim vendor sendiri yang belum direproduksi adalah bahwa model ini mengungguli Qwen3.8-Max dengan menggunakan hingga sekitar 50% lebih sedikit token, dengan biaya rata-rata per tugas turun dari $4,43 menjadi $1,67. Nemotron 3.5 Bolt 74B adalah mixture-of-experts renggang yang mengaktifkan 9 miliar dari 74 miliarnya dan mengandalkan kompresi, menghadirkan footprint 24GB dengan bobot expert 2-bit dan drafter spekulatif kecil. Keduanya adalah jawaban atas pertanyaan yang sama: seberapa sedikit bagian model yang dapat Anda sentuh per token sebelum kualitas runtuh?

Kerangka berpikir itu memiliki konsekuensi praktis. Tim yang akan mendapatkan manfaat paling besar dari salah satu pendekatan tersebut adalah tim yang mengukur token per tugas yang diselesaikan, bukan token per detik. Di sisi lokal, itu berarti memantau panjang penerimaan pada drafter, karena decoder spekulatif yang menerima 4,68 token per langkah pada decoding greedy dan 4,25 pada sampling adalah sumber throughput Anda, dan pengaturan sampling mengubahnya. Di sisi hosted, itu berarti mencatat total gabungan thinking-plus-answer terhadap batas 262.144 token, karena effort penalaran default-nya high dan klien berbentuk OpenAI yang meminta medium secara diam-diam menerima high. Kedua pengukuran itu tidak memerlukan benchmark, dan keduanya lebih informatif daripada satu pengukuran saja.

Apa yang bisa menyelesaikannya

Angka yang hilang adalah satu kali menjalankan harness. Jika Nemotron 3.5 Bolt 74B-A9B 24GB dijalankan melalui Intelligence Index v5.0.1 pada kuantisasi bawaannya, kedua model akan menjadi sebanding pada satu-satunya sumbu yang keduanya dapat diukur, dan setiap halaman agregator yang saat ini menyatakan "belum ada hasil benchmark bersama" akan memiliki sesuatu untuk ditampilkan. NVIDIA telah menerbitkan checkpoint, runtime-nya adalah vLLM, dan perkakasnya tersedia. Sampai itu terjadi, langkah yang berguna adalah berhenti memperlakukan ini sebagai pertandingan dan mulai memperlakukannya sebagai keputusan build-versus-buy dengan biaya yang terdokumentasi di satu sisi dan jejak yang terdokumentasi di sisi lain.

Di sisi pembukuan kami sendiri, agar tepat soal ketersediaan: OrcaRouter tidak merutekan satu pun dari kedua model ini. Nemotron 3.5 Bolt 74B adalah unduhan yang Anda jalankan sendiri, dan Qwen4-Max disewa dari Alibaba atau melalui platform mitra selama jendela gratisnya saat ini. Anggota keluarga Qwen di katalog kami adalah Qwen3.8-Max, dengan $2.00 masuk dan $6.00 keluar per juta token dengan konteks 1 juta token, yang merupakan fallback alami jika Anda ingin satu kunci di seluruh stack campuran dan harga yang mengikuti daftar milik vendor sendiri alih-alih penjualan kembali dengan markup. Untuk keputusan seperti ini — ketika kedua kandidat berada di ujung berlawanan dari spektrum membangun-versus-membeli — hal berguna yang diberikan router bukanlah pemenang. Melainkan kemampuan menjaga jalur hosted tetap terbuka sementara Anda mencari tahu apa yang tidak bisa dilakukan jalur lokal.

Jika Anda memilih bulan ini, pilihlah berdasarkan batasan yang tidak dapat Anda ubah. Konteks, modalitas, dan pembayaran per tugas adalah batasan yang harus dipenuhi Qwen4-Max. Memori, operasi offline, dan biaya marginal nol per permintaan adalah milik Nemotron 3.5 Bolt 74B. Kesenjangan benchmark di antara keduanya nyata, tetapi itu bukan kesenjangan yang akan menentukan arsitektur Anda — dan sebanyak apa pun tabel perbandingan berdampingan dibuat, itu tidak akan menutupnya sebelum seseorang menjalankan harness.

Dibandingkan dalam artikel ini1

Terdeteksi dari artikel ini · Benchmark: Artificial Analysis · diperbarui setiap hari