Nemotron 3.5 Bolt vs GPT-5.6 Sol: Salah Satu dari Dua Model Ini Memiliki Harga

Anda tidak dapat membandingkan kedua model ini berdasarkan biaya, dan itulah hal yang paling berguna dari perbandingan ini. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB adalah berkas 24GB: unduh, dan harga marginal token ke-sejuta adalah listriknya. GPT-5.6 Sol adalah model unggulan yang dihosting dengan tarif $4,00 per juta token masukan dan $20,00 per juta token keluaran, dengan waktu p50 menuju token pertama yang dipublikasikan sebesar 1,63 detik dan 535,5 juta token trafik selama tujuh hari terakhir. Salah satu dari keduanya memiliki daftar tarif. Yang lainnya memiliki prasyarat perangkat keras, yang merupakan jenis tagihan berbeda yang hanya datang sekali.

Kedua model itu nyata dan keduanya sudah tersedia. Checkpoint NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB berada di Hugging Face sejak 7 Oktober 2026 tanpa apa pun yang terlampir selain kartu model, dan pengumuman lini Bolt dari vendor itu sendiri menyusul pada 15 Oktober — delapan hari kemudian, dalam sebuah posting yang menyebut model ini dan varian 4GB-nya. GPT-5.6 Sol sudah ada di daftar harga OpenAI sejak 9 Juli 2026. Jika Anda memilih di antara keduanya minggu ini, keputusannya bukanlah mana yang lebih pintar. Melainkan apakah beban kerja itu bisa keluar dari mesin Anda.

Apa yang diukur oleh kesenjangan dua puluh satu terhadap lima puluh sembilan

Artificial Analysis memberi Nemotron 3.5 Bolt 74B-A9B skor 21 pada Intelligence Index-nya, menempatkannya di peringkat keempat dari 67 model dalam kelas perbandingan tempatnya berada. GPT-5.6 Sol berada di kisaran lima puluhan tinggi pada versi indeks yang sama. Selisih sekitar empat puluh poin sangatlah besar, dan jika dinyatakan seperti itu, perdebatan pun berakhir sebelum dimulai.

Kesenjangan itu juga merupakan dua pengukuran berbeda yang memakai satu angka. Angka 21 adalah skor terbaik yang pernah dicapai model open-weight mana pun pada ukuran ini — Artificial Analysis mencatat median untuk model open-weight sebanding di angka 8, dan mencatat bahwa Bolt berada "di antara model-model terdepan dalam hal kecerdasan jika dibandingkan dengan model open-weight lain yang berukuran serupa." Angka sekitar 59 adalah apa yang dihasilkan laboratorium terdepan ketika memori bukanlah kendala. Tidak ada angka yang salah. Keduanya menjawab pertanyaan yang berbeda: seberapa banyak kecerdasan yang muat dalam 24GB, dan seberapa banyak kecerdasan yang bisa dibeli dengan uang.

Apa yang tidak dapat diukur oleh panel tersebut lebih menarik daripada apa yang dapat diukurnya. Halaman Artificial Analysis untuk Bolt mencantumkan kecepatan sebagai N/A dan biaya per tugas Intelligence Index sebagai N/A, karena alasan sederhana bahwa tidak ada endpoint terhosting untuk dipanggil. Setiap angka kecepatan yang ada untuk model ini berasal dari bench milik NVIDIA sendiri: catatan riset tersebut menyatakan target desain setidaknya 80 token per detik untuk decoding dan melaporkan 84 token per detik pada AIPerf SPEED-Bench di RTX Spark, dengan 83,99 token per detik dalam proses llama.cpp di Surface Laptop Ultra dengan memori 128GB. Angka-angka itu mungkin saja akurat. Tidak ada siapa pun di luar NVIDIA yang telah mereproduksinya, dan Anda sebaiknya menganggapnya sebagai klaim vendor sampai ada yang melakukannya.

Di mana model yang dihosting secara struktural lebih unggul

Tiga perbedaan sama sekali bukan tentang kecerdasan, dan masing-masingnya membuat file lokal tidak memenuhi syarat untuk suatu kelas pekerjaan.

• Konteks — GPT-5.6 Sol melayani jendela 1.050.000 token dengan output maksimum 128.000 token; Nemotron 3.5 Bolt melayani hingga 262.144 token. Jendela yang empat kali lebih lebar bukanlah fitur kemewahan ketika pekerjaannya adalah repositori atau arsip kontrak dalam satu permintaan. Jendela Bolt juga harus berbagi 24GB dengan KV cache, gambar, bingkai video, dan riwayat percakapan, yang berarti batas praktisnya tercapai lebih awal daripada yang disiratkan spesifikasi.

• Jenis input — GPT-5.6 Sol menerima teks, gambar, dan file; Nemotron 3.5 Bolt menerima teks, gambar, dan video serta mengembalikan teks. Itu adalah keunggulan nyata bagi Bolt pada video dan celah yang signifikan pada dokumen, karena PDF yang dikirim sebagai file tidak perlu dirasterisasi, dipaginasi, atau dianalisis bingkai demi bingkai.

• Ketersediaan — GPT-5.6 Sol adalah URL. Nemotron 3.5 Bolt adalah deployment vLLM yang memerlukan silikon Ampere, Hopper, atau Blackwell, atau menjalankan llama.cpp pada perangkat RTX Spark atau DGX Spark. Salah satunya dapat Anda gunakan dalam waktu empat menit.

Ada perbedaan keempat yang lebih tentang pengukuran daripada kemampuan: setiap panggilan ke model yang dihosting menghasilkan item baris, dan setiap panggilan ke model lokal tidak. Untuk loop klasifikasi atau ekstraksi bervolume tinggi, pembalikan itu lebih penting daripada empat puluh poin indeks.

Apa yang sebenarnya diperoleh dari memiliki file itu

Nemotron 3.5 Bolt 74B-A9B adalah model sparse mixture-of-experts dengan 74 miliar parameter dan 9 miliar parameter aktif per token, dibangun di atas tulang punggung hibrida Mamba-2 dan Transformer yang oleh NVIDIA disebut LatentMoE, dengan encoder visi C-RADIO v4-H dipasang untuk pekerjaan multimodal. Ini adalah artefak kompresi dalam arti paling literal: NVIDIA mengambil model 120B-A12B Nemotron 3.5 Super VL, menerapkan pencarian terpandu router yang disebutnya Star Elastic untuk mengecilkannya menjadi 74B-A9B, lalu menjalankan distilasi sadar-kuantisasi hingga 2,0625 bit per bobot pakar — format IQ2_XXS — agar muat dalam 24GB tanpa pelatihan ulang dari awal. Lisensinya adalah OpenMDW-1.1, yang mengizinkan penggunaan komersial dan non-komersial.

Dua konsekuensi menyusul. Yang pertama adalah bahwa model berjalan berdampingan dengan aplikasi lain di workstation, bukan menggantikannya, dan itulah yang membuat agen lokal layak dijalankan sama sekali. Yang kedua adalah bahwa ia dikirim dengan spekulasi bawaan: drafter LiLiCorr yang digerakkan melalui DFlash mengusulkan tujuh token ke depan, dan dari situlah sebagian signifikan dari 84 token per detik itu berasal.

Tabel benchmark milik vendor itu sendiri, yang belum pernah direproduksi oleh siapa pun di luar NVIDIA, menempatkan checkpoint 24GB di depan setiap baseline dalam tabel yang sama — Qwen3.6 35B, Gemma 4 26B, dan Nemotron 3.5 Lightning 30B-A3B milik NVIDIA sendiri — pada GDPVal-AA-V2 (28.47), Terminal-Bench 2.1 (50.98), GPQA Diamond (86.43), SciCode (41.02), dan BrowseComp (66.75). Bacalah semua itu sebagai klaim tentang bagaimana model 74B terkompresi dibandingkan dengan model tak terkompresi yang sepertiga ukurannya, yang memang persis ingin ditunjukkan oleh klaim-klaim tersebut, dan bukan sebagai perbandingan dengan model unggulan yang dihosting.

Menetapkan harga untuk kedua bagian secara jujur

Bagian yang dihosting memiliki harga yang tidak ambigu. GPT-5.6 Sol ada di katalog OrcaRouter sebagai openai/gpt-5.6-sol dengan harga daftar penyedia OpenAI diteruskan tanpa tambahan markup 0% — $4,00 per juta token input dan $20,00 per juta token output, angka yang sama di halaman kami seperti di halaman vendor, yang berarti perubahan dari pihak vendor langsung berlaku di sisi kami pada hari yang sama, bukan pada perpanjangan kontrak berikutnya. Input 20.000 token dengan 3.000 token output memakan biaya $0,08 untuk input dan $0,60 untuk output, atau sekitar $0,68 per panggilan.

Separuh lokal tidak punya harga yang bersedia kami karang. Tidak ada endpoint terkelola untuk Nemotron 3.5 Bolt, tidak ada daftar tarif, dan tidak ada platform pihak ketiga yang mengukurnya yang bisa kami tunjukkan kepada Anda. Menetapkan harganya berarti menetapkan harga GPU, konsumsi daya, dan periode amortisasi — hitungan yang tempatnya di spreadsheet Anda, bukan di spreadsheet kami, karena jawabannya sepenuhnya bergantung pada seberapa banyak Anda menjalankannya.

Asimetri itulah tempat lapisan perutean melakukan sesuatu yang konkret alih-alih dekoratif. Nemotron 3.5 Bolt tidak ada di katalog kami dan kami tidak menyediakannya; tidak ada apa pun di sini yang merupakan tawaran untuk menghosting checkpoint NVIDIA. Yang benar-benar diberikan oleh satu endpoint adalah kemampuan untuk menjaga bagian lokal dan bagian yang dihosting dari suatu alur kerja di bawah satu kunci, sehingga permintaan dapat dikirim ke GPT-5.6 Sol ketika membutuhkan jendela sejuta token atau input file dan ke deployment Bolt Anda sendiri ketika tidak — dengan aturan yang menentukan mana yang mana ditulis sekali alih-alih di-hard-code ke setiap layanan. Jika penyedia yang dihosting mengalami penurunan kualitas, failover otomatis memindahkan permintaan alih-alih permintaan gagal.

Mana yang harus dipilih

• Pilih Nemotron 3.5 Bolt 74B-A9B 24GB ketika data tidak boleh keluar dari gedung, ketika beban kerja membawa video, ketika volumenya cukup tinggi sehingga penagihan per token menjadi biaya dominan, atau ketika Anda ingin agen berjalan di perangkat keras yang sudah Anda miliki. Terima jendela 262K dan skor indeks yang kira-kira sepertiga dari model yang dihosting. Verifikasi klaim throughput di perangkat Anda sendiri sebelum Anda merencanakan kapasitas berdasarkan klaim tersebut.

• Pilih GPT-5.6 Sol ketika tugas membutuhkan konteks terluas, input berkas, penalaran terkuat yang tersedia, dan kontrak dukungan di baliknya. Bayar $4 dan $20 per juta token untuk keistimewaan itu, dan perhatikan bahwa keluaran maksimum 128K adalah respons tunggal yang lebih panjang daripada yang dapat ditampung dengan nyaman oleh envelope memori 24GB.

• Jalankan keduanya ketika alur kerja terbelah dengan rapi, yang untuk sebagian besar sistem agen memang terjadi. File lokal menangani separuh yang berfrekuensi tinggi, berisiko rendah, dan sensitif privasi; model terkelola menangani permintaan yang membutuhkan jangkauan.

Pertanyaan terbuka itu sama dengan yang diajukan Nemotron terkompresi terakhir dan tak seorang pun menjawabnya: pengukuran throughput dan latensi independen pertama dari bobot 24GB, yang dijalankan oleh seseorang yang tidak bekerja di NVIDIA. Sampai itu ada, batas bawah kecerdasan model ini terverifikasi secara eksternal dan batas atas kecepatannya tidak — dan untuk penerapan lokal, kecepatan adalah separuh yang Anda rasakan.