Nemotron 3.5 Bolt 74B vs Qwen3.8-Max: Kesenjangan Terlebar di Papan Peringkat

Setiap pertandingan dalam keluarga N​emotron 3.5 Bolt memiliki celah di dalamnya. Yang ini memiliki celah paling lebar. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB mencetak 21,4 pada Artificial Analysis Intelligence Index; Qwen3.8-Max, model unggulan A​libaba dan model dengan skor tertinggi dalam rangkaian perbandingan ini, mencetak 45,4 pada papan yang dijalankan secara independen yang sama. Itu selisih 24 poin, lebih besar daripada keseluruhan skor indeks model yang lebih kecil, dan ini adalah titik awal yang jujur bagi siapa pun yang bertanya apakah agen lokal 24GB dapat menggantikan model terdepan.

Itu tidak bisa. Yang membuat pasangan ini layak dibahas adalah bahwa kedua model menang pada baris yang sama sekali berbeda, dan bahwa tabel benchmark milik NVIDIA sendiri membandingkan Bolt dengan model Qwen yang bukan yang ini.

Dua model yang tidak memiliki kesamaan apa pun kecuali multimodalitas

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB adalah model bahasa-visi dengan 74 miliar parameter yang dikompresi menjadi checkpoint 2-bit yang muat dalam 24 gigabyte memori. Bobotnya diunggah ke Hugging Face pada 7 Oktober 2026; NVIDIA menamainya dalam posting peluncuran pada 15 Oktober. Model ini dibuat untuk kerja agentik lokal — pemanggilan alat, penjelajahan web, penggunaan terminal, membaca layar — dan dijual sebagai unduhan, bukan sebagai layanan, tanpa harga terukur yang dipublikasikan di mana pun.

Qwen3.8-Max adalah konstruksi yang berlawanan. Model puncak milik Alibaba adalah sparse mixture-of-experts yang oleh perusahaan diposisikan langsung melawan model-model tertutup terkuat pada jendela rilisnya, dilayani melalui tiga format wire — antarmuka yang kompatibel dengan OpenAI, antarmuka yang kompatibel dengan Anthropic, dan DashScope milik Alibaba sendiri — di berbagai wilayah di Beijing, Singapura, Tokyo, Frankfurt, dan Virginia. Model yang dihosting ini diluncurkan pada 3 Agustus 2026 dengan input gambar dan video, konteks satu juta token, dan tombol thinking; snapshot 2 September adalah versi yang saat ini dinilai di papan peringkat. Saudara berbobot terbuka dalam keluarga yang sama, Qwen3.8-2.4T-A95B, adalah rilis terpisah dan bukan model yang diukur di sini.

Yang satu adalah file. Yang satu adalah layanan. Perbandingan itu tetap berguna, karena layanan mempublikasikan harga dan file tidak, dan perbedaan di antara keduanya adalah apa yang sebenarnya dibeli oleh deployment lokal.

• Indeks Kecerdasan — NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB: 21.4. Qwen3.8-Max: 45.4. Keduanya diukur secara independen oleh Artificial Analysis.

• Konteks — 262.144 token untuk checkpoint NVIDIA dibandingkan dengan sekitar 983.000 untuk Qwen3.8-Max, dengan keluaran maksimum 131.072 token di sisi Alibaba.

• Parameter — total 74B dan 9B aktif untuk Bolt; tier andalan Alibaba adalah sparse mixture-of-experts dengan orde yang sama sekali berbeda, mengaktifkan sekitar 95B parameter per token dalam bentuk open-weight-nya.

• Input — teks, gambar, dan video masuk, teks keluar untuk keduanya. Ini adalah satu-satunya dimensi di mana keduanya benar-benar serupa.

• Harga — Qwen3.8-Max: $2,00 per juta token input, $6,00 per juta output, $0,25 untuk input yang di-cache. Bolt: tidak ada, karena tidak ada endpoint untuk membelinya.

• Biaya per tugas Intelligence Index — $5,41 untuk Qwen3.8-Max, terukur. Tidak ada angka untuk Bolt, karena alasan yang sama.

• Kecepatan — Qwen3.8-Max: 39,8 token keluaran per detik dengan 3,06 detik ke token pertama dan median 50,3 detik waktu penalaran per respons, semuanya diukur secara independen. Bolt: tidak ada pengukuran throughput independen.

Baris-barisnya, dari mana 24 poin itu berasal

Artificial Analysis menjalankan keduanya. Membaca rincian baris demi baris lebih berguna daripada skor komposit, karena skor komposit menyembunyikan fakta bahwa tidak ada model yang secara konsisten lebih unggul.

• Terminal-Bench 2.1 — Qwen3.8-Max 88,8 persen, diukur secara independen. Bolt tidak memiliki entri independen pada tolok ukur ini; NVIDIA melaporkan 50,98 pada kartu modelnya.

• GPQA Diamond — Qwen3.8-Max 92,8 persen secara independen. Angka 86,43 milik Bolt adalah angka NVIDIA sendiri, dan panel tidak memiliki angka independen untuk itu.

• Humanity's Last Exam, tanpa alat — Qwen3.8-Max 43,1 persen berbanding 24,7 persen Bolt, keduanya diukur secara independen.

• Pengambilan konteks panjang (AA-LCR) — 80,3 persen dibandingkan dengan 69,7 persen, keduanya diukur.

• Pengodean ilmiah (SciCode) — 52,1 persen berbanding 39,7 persen, keduanya diukur.

• Penalaran multimodal (MMMU-Pro) — Qwen3.8-Max 82,8 persen, diukur secara independen. Bolt tidak punya entri independen, sebuah kelalaian yang mencolok bagi model yang nilai jual utamanya adalah kemampuannya melihat.

• Luaran pekerjaan (GDPval-AA) — Qwen3.8-Max 0,583 dinormalisasi terhadap 0,240 milik Bolt, keduanya diukur.

• Operasi agentic dan TI — Qwen3.8-Max mencatat 42,4 persen pada APEX-Agents, 40,3 persen pada ITBench-SRE, dan 45,0 persen pada evaluasi agen analis. Bolt tidak memiliki skor independen di ketiga kolom tersebut.

• Non-halusinasi (AA-Omniscience) — Qwen3.8-Max 71,2 persen berbanding Bolt 56,3 persen, dengan akurasi 31,7 persen berbanding 17,1 persen. Tidak seperti perbandingan Bolt-versus-Ultra, ketika model terkompresi memenangkan baris kalibrasi, di sini model unggulan memenangkan keduanya.

• Biaya per tugas pengindeksan — $5,41 untuk Qwen3.8-Max. Ini adalah angka biaya per tugas tertinggi dalam rangkaian perbandingan seputar model ini, dan inilah angka yang membuat opsi lokal menarik bahkan dengan defisit 24 poin.

Apa yang bisa didapat dengan $5.41 per tugas, dan apa yang bisa didapat dengan 24GB sebagai gantinya

Ekonomi Qwen3.8-Max tidak biasa untuk model frontier: harga per token $2,00 untuk input dan $6,00 untuk output tergolong moderat, tetapi model ini menghabiskan banyak waktu untuk berpikir. Waktu penalaran median pada uji panel adalah 50,3 detik, dan waktu respons end-to-end rata-rata 65,9 detik. Tugas yang membuat model menghabiskan satu menit untuk penalaran internal menghasilkan banyak token keluaran, dan biaya per tugas indeks adalah metrik yang mengungkapnya. Itu bukan kritik terhadap model — penalaran mendalam adalah produknya — tetapi itulah alasan loop agen bervolume tinggi menjadi mahal dengan cepat pada tier ini.

Itulah tepatnya beban kerja yang dirancang untuk ditangani Bolt. Checkpoint lokal sama sekali tidak memiliki pengukur per token: biaya marginal dari pemanggilan alat adalah listrik, dan biaya tetapnya adalah GPU. Bagi agen yang selalu aktif yang melakukan ribuan langkah prosedural kecil — membaca layar, memanggil endpoint, mengedit file — perbandingannya bukan 21,4 versus 45,4, melainkan konstanta versus tagihan yang terus bertambah. Cara N​VIDIA sendiri membingkainya adalah bahwa Bolt ada agar tugas-tugas agentik sehari-hari dapat berjalan secara lokal tanpa mengirim beban kerja ke cloud, dan Bolt melaporkan 50,86 pada WebArena vision dan 66,75 pada BrowseComp untuk tugas-tugas itulah.

Masalahnya adalah biaya tetap itu nyata dan latensinya tidak diketahui. Resep penyajian referensi N​VIDIA bersifat multi-langkah: build nightly vLLM yang dipin, paket kernel b12x, plugin pengurai penalaran yang diunduh terpisah, backend Mamba dan attention yang eksplisit, dan konfigurasi speculative decoding yang menggunakan drafter LiLiCorr dengan tujuh token draf. Throughput diterbitkan oleh N​VIDIA sebesar 83,99 token per detik pada AIPerf SPEED-Bench-Coding di mesin kelas laptop — angka dari vendor pada benchmark vendor, tanpa ada uji independen untuk memverifikasinya.

Baseline yang dipilih N​VIDIA

Ada satu hal lagi yang patut diperhatikan, dan ini lebih merupakan pelajaran membaca daripada pelajaran teknis. Tabel benchmark pada kartu model Bolt menyertakan model Qwen sebagai titik pembanding — dan itu adalah Qwen3.6-35B-A3B, model yang jauh lebih kecil daripada model unggulan yang diukur di halaman ini. Tabel NVIDIA menunjukkan Bolt menang pada Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR, dan MCP-Atlas melawan model itu, tetapi kalah pada akurasi AA-Omniscience, non-halusinasi AA-Omniscience, dan PinchBench.

Perbandingan-perbandingan itu bisa jadi benar. Tetapi pembaca yang mengambil "Bolt mengalahkan Q​wen" dari tabel itu sedang membandingkan model edge 74B dengan MoE kelas dense 35B, bukan dengan tier frontier milik A​libaba. Terhadap Qwen3.8-Max, catatan independen justru berjalan sebaliknya pada hampir setiap baris yang sama, dan kesenjangannya melebar, bukan menyempit, pada benchmark paling sulit. Ketika vendor memilih baseline-nya sendiri, langkah jujurnya adalah memeriksa apa baseline itu.

Cara memutuskan

Pilih Qwen3.8-Max ketika kebenaran menjadi kendala. Jika tugasnya adalah analisis multi-langkah, penalaran multimodal yang sulit, pekerjaan agentic dengan konsekuensi nyata, atau apa pun yang diukur oleh tolok ukur yang membuatnya unggul 24 poin, opsi lokal bukan kandidat — dan dengan harga $2,00 dan $6,00 per juta token, harganya seperti infrastruktur, bukan kemewahan. Model ini juga merupakan pilihan yang tepat ketika alur kerja membutuhkan output terstruktur, pemanggilan alat native, dan konteks satu juta token dalam satu panggilan, yang semuanya didokumentasikan Alibaba sebagai didukung.

Pilih Bolt ketika kendalanya adalah tempat pekerjaan itu dilakukan. Privasi, operasi offline, latensi yang tidak bergantung pada jaringan, dan biaya per panggilan yang tidak ada adalah empat argumen yang terpisah, dan masing-masing sudah cukup dengan sendirinya bagi sebagian tim. Model ini kompeten dalam prosedur dan lemah dalam mengingat kembali; arahkan pada yang pertama.

Untuk bagian yang dihosting, Qwen3.8-Max dapat diakses melalui OrcaRouter sebagai qwen/qwen3.8-max/ dengan kunci yang sama seperti 200+ model lainnya, pada harga daftar penyedia dari Alibaba tanpa tambahan markup — yang berarti perubahan harga vendor sampai ke sisi kami pada hari yang sama, bukan di akhir siklus penagihan. Hal itu lebih penting pada tier ini daripada pada tier yang murah, karena $5,41 per tugas indeks adalah angka yang akan ingin diperiksa ulang setiap bulan oleh tim keuangan. Di mana routing mengubah bentuk keputusan adalah pada masalah volume: beban kerja yang 90 persen berupa langkah prosedural kecil dan 10 persen penalaran sulit dapat mengirim 10 persennya ke sini dan menyimpan sisanya secara lokal, dengan failover otomatis antar penyedia sehingga tier yang dihosting hanya berujung pada percobaan ulang, bukan gangguan layanan.

Kami tidak menghosting model N​VIDIA apa pun dan tidak memiliki endpoint Bolt — keluarga N​emotron tidak ada dalam katalog kami, dan bagian lokal dari perbandingan ini adalah pertanyaan perangkat keras yang tidak disentuh oleh lapisan routing mana pun.

Angka yang belum terselesaikan

Yang belum diterbitkan oleh siapa pun adalah pengukuran yang akan melengkapi perbandingan ini: uji latensi dan throughput independen pada checkpoint 24GB dengan ukuran batch satu, di mesin yang bisa dibeli siapa saja. Jika checkpoint 74B 2-bit ternyata dapat menjalankan langkah-langkah agen interaktif pada kecepatan yang layak, selisih 24 poin menjadi selisih yang bisa Anda siasati — lokal untuk prosedur, hosted untuk penalaran. Jika tidak, opsi lokal menjadi alat batch dan perbandingannya runtuh menjadi soal harga. Apa pun hasilnya, jawabannya tinggal berjarak satu publikasi lagi, dan itulah hal yang perlu dicari sebelum merencanakan deployment di sekitar model ini.

Perbandingan seperti ini juga menjadi tempat munculnya mode kegagalan: insiden AI dan kegagalan agen yang terdokumentasi di balik model di kelas ini dikumpulkan dalam the OrcaRouter AI Incident Archive, di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, nilai keyakinan, dan tanda perdebatan.