Nemotron 3.5 Super vs Claude Opus 5.5: 12 miliar parameter aktif melawan sebuah meter

Inilah angka yang menentukan perbandingan ini, dan itu tidak ada di kedua tabel benchmark. N​VIDIA N​emotron 3.5 Super — diterbitkan oleh N​VIDIA dengan nama yang lebih lengkap N​VIDIA N​emotron 3.5 Super VL, dan terdaftar di pustaka Ollama sebagai nemotron-3.5-super/ — mengaktifkan sekitar 12 miliar dari 120 miliar parameternya untuk setiap token yang dihasilkan. Claude Opus 5.5 tidak menerbitkan jumlah parameter sama sekali dan mengenakan biaya $4 per juta token input dan $20 per juta token output. Oleh karena itu, salah satu model ini memiliki biaya marginal per token yang merupakan fungsi dari listrik, dan model lainnya memiliki biaya marginal per token yang merupakan item baris. Kedua angka tersebut nyata. Tidak ada yang memberi tahu Anda model mana yang lebih murah untuk dioperasikan, karena keduanya dihargai dalam mata uang yang berbeda.

Alasan ini layak ditulis sekarang: bobot N​VIDIA diunggah ke Hugging Face pada 12 Oktober 2026, secara senyap, dalam repositori bernama N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, tiga hari sebelum postingan ruang berita N​VIDIA sendiri pada 15 Oktober meresmikannya. Sebelum pengumuman itu, satu-satunya konfirmasi publik bahwa Nemotron 3.5 Super ada sebagai sesuatu yang dapat dijalankan adalah sekumpulan artefak registri — dan fakta bahwa sebagian spesifikasi pada artefak tersebut tidak cocok dengan spesifikasi pada kartu vendor. Yang dapat diketahui dari repositori adalah jumlah yang nyata: jumlah byte, format kuantisasi, gerbang versi, lisensi. Yang tidak dapat diketahui dari repositori mana pun adalah bagaimana perilakunya dibandingkan dengan model frontier yang dihosting pada beban kerja Anda. Kesenjangan itulah yang menjadi topik halaman ini.

Apa yang sebenarnya terdapat di dalam repositori, sebelum hal lainnya

Tiga checkpoint yang dapat digunakan dirilis dalam selang enam puluh detik satu sama lain pada 12 Oktober: bobot referensi BF16, varian Base, dan build NVFP4. Repositori drafter LiLiCorr terpisah telah muncul sehari sebelumnya, pada 11 Oktober, yang merupakan jejak publik paling awal dari tier tersebut. Kartu tersebut menjelaskan campuran pakar (mixture of experts) hibrida Mamba-2 dan Transformer dengan 512 routed expert per lapisan MoE, encoder visi C-RADIO dan konektor visi-bahasa, 120 miliar parameter total dengan 12 miliar aktif, konteks hingga 1 juta token, masukan teks, gambar, dan video dengan keluaran teks, serta decoding spekulatif native melalui head Multi-Token Prediction. Lisensinya adalah OpenMDW-1.1, yang mengizinkan penggunaan komersial. Penerapan ditentukan sebagai empat H100 atau dua GB200 untuk BF16.

Daftar Ollama adalah versi yang paling pertama ditemui banyak orang, dan di sinilah spesifikasinya mulai melenceng. Versi ini menampilkan sembilan tag. Empat di antaranya — :latest/, :120b/, :120b-a12b/ dan :120b-a12b-q4_K_M/ — mengarah ke lapisan q4_K_M yang sama, jadi pull default adalah kuantisasi 4-bit dan nama "120b" bukanlah file yang Anda dapatkan. Setiap tag, termasuk yang terkecil, membawa proyektor visi 1.6 GiB, karena jalur gambar tidak opsional. Sampling default yang disertakan adalah temperature 1.0 dengan top_p 0.95, yang merupakan rekomendasi teksdari kartu — pengaturan visi kartu adalah temperature 0.6. Dan gerbang runtime diberlakukan: konfigurasi menyatakan requires: 0.40.5/, jadi pada Ollama yang lebih lama, pull tidak berfungsi sama sekali.

Tidak satu pun dari itu merupakan cacat. Itu adalah kesenjangan biasa antara catatan rilis vendor dan pengemasan komunitas atas catatan tersebut, dan itulah alasan untuk membaca kedua dokumen itu, bukan hanya salah satunya.

Aritmetika jujur dari 12B aktif

Aktivasi sparse adalah keseluruhan argumen komersial untuk model ini, dan penting untuk bersikap tepat mengenai apa yang diberikannya dan tidak diberikannya.

Apa manfaatnya: saat inferensi, sebuah token hanya menyentuh sekitar sepersepuluh dari jaringan. Dengan demikian, throughput pada perangkat keras yang sama jauh lebih dekat ke model dense 12B daripada ke model 120B, dan jejak memori adalah satu-satunya tempat di mana seluruh 120 miliar parameter muncul. Kartu NVIDIA sendiri mengklaim throughput hingga 5x lebih cepat daripada yang lain di kelasnya dan, saat dilayani pada stack Dynamo milik vendor, hingga 8x lebih banyak pengguna bersamaan dengan latensi 85% lebih rendah. Itu adalah angka vendor yang dihasilkan pada perangkat keras vendor dan merupakan spesifikasi, bukan audit — tetapi arah klaim tersebut adalah konsekuensi langsung dari arsitekturnya, yang setidaknya merupakan narasi yang koheren.

Apa yang tidak diperoleh dari ini: bobotnya tetap harus berada di memori secara penuh. Lapisan BF16 GGUF berukuran 230,4 GiB. Default q4_K_M adalah 82,3 GiB ditambah proyektor. Tidak ada dari kedua angka itu yang menyusut karena hanya 12 miliar parameter yang aktif per token. Jadi batas bawah perangkat keras ditentukan oleh memori, sedangkan throughput ditentukan oleh aktivasi — itulah sebabnya satu kartu 96 GB dapat menampung model 4-bit dengan nyaman dan tetap menghasilkan token dengan laju yang akan mempermalukan model dense dengan ukuran total yang sama, dan juga sebabnya kartu yang sama sama sekali tidak dapat menampung model presisi penuh.

Sekarang letakkan O​pus 5.5 di sebelah itu. Model A​nthropic ini memiliki konteks 1 juta token, keluaran maksimum 128.000 token, menerima masukan teks, gambar, dan file, serta dipatok pada harga $4/$20 dengan pembacaan cache sebesar $0.20 per juta. Tidak ada unduhan, tidak ada keputusan kuantisasi, tidak ada default sampling yang perlu diperbaiki, dan tidak ada versi yang perlu dipatok. Model ini juga teraudit dengan baik: ia berada di puncak panel pihak ketiga yang paling banyak digunakan orang untuk membandingkan hal-hal ini, jauh di atas tier N​emotron ini.

Jadi perbandingannya bukanlah "mana yang lebih baik". Pada kemampuan umum yang terukur, model unggulan yang dihosting menang, dan berpura-pura sebaliknya akan merugikan pembaca yang akan mengambil keputusan pembelian. Perbandingannya terletak pada titik ketika kedua kurva biaya itu berpotongan.

Di mana model terbuka dengan 120 miliar parameter ini layak mendapat tempatnya

Tiga tempat, dan tempat-tempat itu spesifik.

• Volume dengan tagihan tetap. Checkpoint yang di-host sendiri mengubah biaya marginal menjadi biaya tetap. Pada lalu lintas rendah, meteran menang telak — empat H100 biayanya per bulan lebih besar daripada yang dikeluarkan sebagian besar tim untuk token. Pada lalu lintas tinggi yang stabil, biaya tetap diamortisasi dan meteran tidak. Titik persilangan adalah satu-satunya perhitungan yang penting di sini, dan itu merupakan fungsi dari volume token Anda, bukan dari kualitas model mana pun.

• Pekerjaan visi di mana jumlah halaman menjadi pemicu biaya. Kartu N​VIDIA melaporkan 62,82 pada MMLongBench-Doc, 78,16 pada MathVision, 80,82 pada penalaran CharXiv, dan 68,12 pada OCRBench v2 bahasa Inggris versus 59,15 bahasa Mandarin, semuanya dilaporkan vendor. Pada O​pus 5.5, input yang sama tersebut ditagih per token, dan satu halaman laporan hasil pemindaian berarti token yang sangat banyak. Jika beban kerja Anda mencakup ribuan halaman dokumen per hari, perhitungannya berubah lebih cepat daripada perbedaan kualitas apa pun.

• Penyematan. Checkpoint pada disk yang Anda kendalikan tidak akan berubah tanpa sepengetahuan Anda. Itu bernilai uang sungguhan dalam pipeline yang teregulasi, dan itu adalah sifat yang tidak dapat ditawarkan model yang dihosting dengan harga berapa pun.

Ada dua hal di mana ia tidak layak menempati posisinya, dan keduanya layak dikatakan terang-terangan. Yang pertama adalah kerja agentik berhorizon panjang: kartu NVIDIA melaporkan 66,70 pada Terminal-Bench 2.1, 71,10 pada SWE-bench Verified, dan 51,78 pada SWE-bench Pro — cukup terhormat, belum direproduksi, dan tertinggal dari frontier yang dihosting. Yang kedua adalah segala hal yang membuat permintaan yang gagal menjadi mahal, karena model yang bobotnya berumur empat hari memiliki empat hari perhatian dunia di belakangnya dan sama sekali tidak memiliki riwayat operasional.

Angka-angka yang belum boleh Anda percayai, dan mengapa

Seluruh tabel benchmark yang dipublikasikan untuk Nemotron 3.5 Super adalah milik vendor sendiri, yang dikumpulkan melalui harness NeMo Gym milik NVIDIA. GPQA-Diamond 89.52. Humanity's Last Exam hanya teks 31.79. LiveCodeBench v6 88.22. IFBench 70.86. tau2-bench 69.24 ritel, 76.50 maskapai, 73.19 telekomunikasi. BrowseComp 78. Proksi LMArena v3 52.67. Setiap angka itu adalah klaim vendor dengan resep yang dapat direproduksi terlampir, yang lebih baik daripada klaim kosong, dan tetap bukan pengukuran independen.

Gambaran independen jauh lebih tipis, dan itu sendiri adalah fakta paling berguna di halaman ini. Panel pihak ketiga yang memberi skor pada model-model ini menempatkan checkpoint ini pada Intelligence Index di pertengahan 20-an — sekitar 26 — dibandingkan dengan sekitar 58 untuk Opus 5.5. Panel tersebut juga mencatat konsumsi token output yang luar biasa tinggi untuk proses indeks tersebut, yang ditafsirkannya sebagai verbositas, dan verbositas adalah pos biaya, bukan catatan kaki, dalam penerapan apa pun ketika Anda membayar per token atau menunggu per token. Satu titik data independen bukanlah putusan, tetapi itulah satu-satunya yang tidak dihasilkan oleh perusahaan yang menjual model tersebut.

Apa yang belum dipublikasikan oleh siapa pun: bagaimana kuantisasi 4-bit menggeser skor-skor itu. Tag default Ollama adalah q4_K_M. Setiap angka yang dipublikasikan adalah untuk BF16 atau NVFP4. Angka yang benar-benar akan dialami sebagian besar orang karena itu belum terukur, dan itulah yang perlu diperhatikan dalam beberapa minggu ke depan.

Apa yang dapat dan tidak dapat Anda telepon hari ini

Perlu dinyatakan secara tegas, karena inilah kesalahpahaman yang paling umum di halaman seperti ini. Nemotron 3.5 Super tidak ada di OrcaRouter. Kami merutekan sedikit lebih dari dua ratus model dan tidak ada satu pun entri NVIDIA Nemotron di antaranya, jadi jika Anda memerlukan checkpoint spesifik ini, jalur Anda adalah kanal build dan distribusi milik vendor sendiri serta penarikan runtime lokal — bukan kami.

Opus 5.5, sebaliknya, ada di kunci kami, pada harga daftar penyedia yang diteruskan tanpa markup per token, yang berarti perubahan harga vendor langsung berlaku di sisi kami pada hari yang sama, bukan pada pembaruan kontrak berikutnya. Asimetri itu benar-benar berguna untuk keputusan yang ada di hadapan Anda: langkah pertama yang murah adalah mengambil beban kerja yang akan Anda jalankan di empat H100 dan menjalankannya terlebih dahulu terhadap model yang dihosting, melalui satu API, tanpa pengadaan. Jika model yang dihosting mampu menyelesaikan pekerjaan itu dengan harga yang dapat ditoleransi, Anda telah menghemat klaster. Jika tidak — dan salah membaca dokumen teknis yang padat dalam skala besar adalah cara yang masuk akal untuk kegagalan itu — Anda sekarang memiliki bukti, bukan tabel benchmark, dan Anda dapat mengalokasikan unduhan itu untuk kasus-kasus yang bertahan.

Berapa biaya resep deployment secara konkret

Resep vLLM kartu itu sendiri layak dibaca sebagai dokumen anggaran. Paralelisme tensor sebesar 4, pemanfaatan memori GPU 0,85, maksimum 32 sekuens bersamaan, satu gambar dan satu video per prompt, pemangkasan video pada 0,5, dan dekode spekulatif melalui head MTP dengan tiga token spekulatif. Empat H100 pada pemanfaatan 0,85 dengan batas 32 sekuens bukanlah layanan besar — ini adalah penerapan node tunggal yang serius, dan plafon konkurensi memberi tahu Anda apa yang diharapkan vendor dapat ditangani oleh satu replika.

Dua detail dalam resep itu lebih penting daripada yang terlihat. Konfigurasi video menerima satu video per prompt dengan pemangkasan pada setengah laju, yang merupakan petunjuk kuat tentang ke mana anggaran visi pergi pada input panjang. Dan parser penalaran diberi nama nemotron_v3/ sedangkan parser pemanggilan alat adalah qwen3_coder/ — vendor tersebut menggunakan kembali format pemanggilan alat yang tidak diciptakannya sendiri, yang merupakan kabar baik bagi siapa pun yang sudah memiliki kode pemanggilan alat dan layak diketahui sebelum Anda menulis logika penguraian baru.

Sebaliknya, permukaan operasional model yang dihosting adalah kunci API. Perbandingan antara "empat H100 dan resep vLLM" dan "sebuah kunci dan meteran" tidak sebanding dalam hal upaya. Keduanya hanya berdekatan dalam hal biaya, dan hanya pada volume.

Satu hal lagi yang bisa diketahui dari sebuah repositori dan mudah terlewat: sampling yang direkomendasikan berbeda menurut modalitas. Teks menginginkan temperature 1.0 dengan top_p 0.95; visi menginginkan 0.6 dengan 0.95. Deployment yang menetapkan satu pasangan secara global lalu memproses bagan dan halaman hasil pemindaian akan menjalankan bagian visi dari model visi dengan pengaturan bagian teksnya. Jika kesan pertama Anda terhadap model ini pada dokumen buruk, itulah kenop pertama yang perlu diperiksa — sebelum Anda menyimpulkan apa pun tentang checkpoint-nya.

Jadi yang mana

Jika pekerjaan Anda adalah coding agentik berhorizon panjang, atau apa pun yang penalarannya harus sekelas frontier pada percobaan pertama, Claude Opus 5.5 adalah jawabannya dan tier N​emotron bukan penggantinya. Itu bukan keputusan yang nyaris imbang, dan baris-baris agentik yang diterbitkan vendor itu sendiri tidak mengklaim sebaliknya.

Jika pekerjaan Anda adalah pemahaman dokumen dan gambar bervolume tinggi yang pendorong biayanya adalah jumlah halaman, bukan tingkat kesulitan penalarannya, ini adalah salah satu checkpoint terbuka yang lebih menarik yang muncul tahun ini: 120 miliar parameter dengan 12 miliar aktif, lisensi permisif, jalur visi yang benar-benar ada alih-alih sekadar ditempelkan, dan default 4-bit yang muat di satu kartu 96 GB. Tangkapannya adalah versi yang sebenarnya akan dijalankan semua orang — default q4_K_M — tidak punya evaluasi yang diterbitkan di mana pun, model ini baru berumur empat hari, dan spesifikasi yang diterbitkan oleh runtime tidak sepenuhnya cocok dengan spesifikasi yang diterbitkan oleh vendor.

Keduanya adalah alasan untuk mencobanya, bukan alasan untuk mempercayainya. Letakkan beban kerja pada model yang dihosting terlebih dahulu untuk mengetahui apakah beban kerja itu adalah beban yang dapat dipecahkan oleh model frontier dan tidak oleh model kelas menengah. Lalu putuskan apakah kasus-kasus yang bertahan layak mendapat klaster, unduhan, atau satu malam untuk konfigurasi. Dan jika Anda memang menempatkan checkpoint berusia empat hari ke dalam jalur permintaan, rutekan di belakang fallback, karena asuransi termurah terhadap model tanpa riwayat operasional adalah model kedua di belakang panggilan yang sama.

Yang tidak dapat diberitahukan oleh angka-angka itu adalah apakah ada di antaranya yang bermasalah di lapangan: insiden AI dan kegagalan agen yang terdokumentasi seputar model di kelas ini dikumpulkan dalam Arsip Insiden AI OrcaRouter, yang setiap entrinya mencantumkan sumbernya sendiri, tingkat keparahan, nilai keyakinan, dan penanda status sengketa.