Hy-Memory-30B-A3B vs Nemotron 3.5 Lightning 30B-A3B Base: Tiga Huruf yang Sama, Dua Objek yang Berbeda

Hy-Memory-30B-A3B dan NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 memiliki aritmetika parameter yang identik — total 30 miliar, 3 miliar aktif — dan di situlah kemiripannya berhenti berguna. Model tim Hunyuan, dirilis sebagai open source pada 15 Oktober 2026, adalah produk jadi: sepenuhnya telah menjalani pasca-pelatihan untuk menjalankan penulisan memori di dalam Mem0, MemOS, dan Hy-Memory, dikirimkan dengan resep penyajian yang kompatibel dengan OpenAI dan tabel tolok ukur yang mengklaim unggul atas Claude Opus 5. Model NVIDIA, yang dirilis 11 Agustus 2026, sama sekali bukan produk. Kata "Base" dalam namanya bersifat literal — tidak ada penyetelan halus terawasi, tidak ada pembelajaran penguatan, tidak ada distilasi yang diterapkan. Ini adalah bahan mentah yang telah dilatih sebelumnya, diterbitkan agar Anda dapat membangun model pasca-pelatihan Anda sendiri di atasnya. Apa yang tidak dapat diberitahukan oleh angka-angka itu adalah apakah ada bagian darinya yang bermasalah di lapangan: insiden AI dan kegagalan agen yang terdokumentasi seputar model di kelas ini dikumpulkan di Arsip Insiden AI OrcaRouter di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, tingkat keyakinan, dan penanda sengketa.

Dua model dengan angka yang sama pada namanya, satu dirancang untuk digunakan dan satu lagi dirancang untuk dimodifikasi. Perbandingan yang layak dilakukan bukanlah mana yang mendapat skor lebih tinggi — keduanya belum dievaluasi pada hal yang sama, dan salah satunya tidak memiliki perilaku mengikuti instruksi untuk dievaluasi. Perbandingan yang layak dilakukan adalah tentang bukti: apa yang telah dipublikasikan masing-masing vendor, seberapa banyak yang dapat Anda periksa sendiri, dan apa yang masing-masing meminta dari Anda sebelum ia melakukan apa pun.

Apa sebenarnya masing-masing model

Hy-Memory-30B-A3B adalah transformer sparse konvensional dengan tugas yang tidak biasa. File konfigurasinya mendeskripsikan 48 lapisan, yang pertama adalah blok feed-forward padat dan 47 sisanya mixture-of-experts, dengan 128 pakar per blok pada perutean top-8 plus satu pakar bersama, ukuran tersembunyi 2.048, lebar intermediate pakar 768, 32 kepala atensi terhadap 4 kepala key-value dengan normalisasi query-key, dan konteks 262.144 posisi. Sekitar 60,1 GB di 51 shard BF16. Model ini dilatih dalam dua tahap — Memory On-Policy Distillation, lalu Attributed Memory Reinforcement Learning — dan inti dari latihan ini adalah menggantikan model serbaguna yang saat ini dipanggil oleh kerangka kerja memori pada setiap giliran. Dilayani dengan vLLM 0.31.0, ia mengembalikan catatan JSON terstruktur yang mendeskripsikan apa yang harus diingat oleh agen.

Nemotron 3.5 Lightning 30B-A3B Base adalah model hibrida. NVIDIA menyisipkan blok state-space Mamba-2 dengan mixture-of-experts dan lapisan atensi, menambahkan head Multi-Token Prediction yang dilatih dalam fase pra-pelatihan lanjutan khusus, dan pra-latih keseluruhan sistem dengan resep NVFP4 pada lebih dari 20 triliun token. Inti dari tumpukan hibrida adalah cache key-value: blok Mamba-2 mencegahnya tumbuh seperti yang dilakukan transformer konvensional, yang memungkinkan NVIDIA mengklaim panjang konteks hingga 1 juta token. Ini dirilis dalam build BF16, NVFP4, dan FP8, dengan konversi dan kuantisasi GGUF dari beberapa pihak ketiga. Lisensinya adalah OpenMDW-1.1, yang mencakup bobot, data pelatihan, dan resep — pemberian yang lebih luas daripada yang biasanya diberikan oleh lisensi model.

Kebetulan jumlah parameternya nyata tetapi dangkal. Keduanya mengaktifkan sekitar 3B parameter per token; itulah satu-satunya keputusan desain yang dibuat dengan cara yang sama oleh kedua tim.

Banner itu adalah elemen paling informatif di halaman ini. NVIDIA menempatkannya di bagian atas repositori dasar dengan sengaja: checkpoint ini bukan yang diinginkan kebanyakan orang, dan vendor mengatakannya sebelum Anda mengunduh 30 miliar parameter.

Perbedaan yang menentukan segalanya: pasca-pelatihan versus pra-pelatihan

Checkpoint dasar tidak mengikuti instruksi. Ajukan pertanyaan kepadanya dan ia akan melanjutkan teks, karena hanya itulah yang diajarkan pra-pelatihan kepadanya. Ia tidak memiliki template chat yang layak disebut, tidak memiliki perilaku pemanggilan alat, tidak memiliki batas penolakan, dan tidak tahu bahwa percakapan memiliki giliran. Kartu NVIDIA menyatakan ini secara terang-terangan, dan spanduk "Mencari model pasca-pelatihan?" di bagian atas repositori menunjuk ke checkpoint saudaranya bagi siapa pun yang menginginkan sesuatu yang dapat diajak bicara.

Fungsi checkpoint dasar adalah sebagai titik awal Anda untuk pasca-pelatihan. Pra-pelatihan lanjutan pada korpus domain, atau fine-tuning terawasi, RL dan distilasi melalui NeMo RL, NeMo Gym dan Megatron-LM — rantai alat yang NVIDIA sebutkan dan sediakan resepnya. Jika Anda memiliki keunggulan data dan pendapat tentang bagaimana sebuah model seharusnya berperilaku, checkpoint dasar adalah titik awal yang memungkinkan Anda bertindak atas keduanya. Jika tidak, itu hanyalah pemberat kertas berparameter 30 miliar.

Hy-Memory-30B-A3B berada di ujung berlawanan dari pipeline tersebut. Ia sudah melalui pasca-pelatihan, dua kali, dan seluruh proposisi nilainya adalah bahwa Anda tidak perlu melakukan pekerjaan itu — Anda mengambil skema yang diberikan kartu kepada Anda, mengarahkannya ke harness Anda, dan ia menulis memori. Ia jauh lebih sempit daripada Nemotron dengan selisih yang sangat besar dan diselesaikan dengan cara yang sengaja tidak dilakukan Nemotron.

Spesifikasi dan kemasan, satu baris per dimensi

• Total / parameter aktif — 30B / ~3B untuk keduanya. Ini satu-satunya baris yang keduanya sepakati.

• Arsitektur — Hy-Memory-30B-A3B adalah transformer sparse dengan satu blok dense dan 47 blok MoE, 128 expert pada top-8 plus satu shared expert; Nemotron 3.5 Lightning 30B-A3B Base adalah hibrida Mamba-2, yang menyelang-seling lapisan state-space, MoE, dan attention dengan head Multi-Token Prediction.

• Konteks — 262.144 posisi untuk Hy-Memory-30B-A3B dari konfigurasinya; hingga 1 juta token untuk Nemotron, dengan 256K sebagai angka praktis yang terdokumentasi pada satu H100.

• Pasca-pelatihan — dua tahap untuk Hy-Memory-30B-A3B (distilasi on-policy, lalu RL ber-atribusi); tidak ada sama sekali untuk checkpoint dasar Nemotron.

Jejak bobot — 60,1 GB BF16 untuk Hy-Memory-30B-A3B tanpa presisi lain yang dipublikasikan, dibandingkan dengan build BF16, NVFP4, dan FP8 dari NVIDIA serta GGUF dari komunitas.

• Lisensi — Apache 2.0 vs OpenMDW-1.1, yang juga mencakup data pelatihan dan resep.

• Jalur penyajian — vLLM 0.31.0 di balik endpoint yang kompatibel dengan OpenAI untuk Hy-Memory-30B-A3B; pasca-latih dulu, lalu sajikan, untuk Nemotron.

• Endpoint yang dihosting — tidak ada satu pun dari kedua model tersebut yang di-deploy oleh penyedia inferensi yang dihosting. Keduanya merupakan proposisi self-hosting.

Bukti: NVIDIA mempublikasikan resep, Hunyuan mempublikasikan tabel

Inilah perbedaan paling mencolok antara kedua rilis ini, dan ini bukan tentang angka-angkanya itu sendiri.

NVIDIA menerbitkan metodologi evaluasinya dengan cara yang dapat Anda tindak lanjuti. Kartu dasar Lightning menyatakan bahwa angka akurasinya diukur di bawah harness yang konsisten — NeMo Gym dan NeMo Evaluator SDK, yang membungkus kontainer sumber terbuka LM Evaluation Harness, dengan RULER dijalankan melalui NeMo Skills — lalu menyebut hal yang jarang dikatakan vendor: angka-angka ini mungkin berbeda dari angka yang dilaporkan sendiri oleh vendor lain. Dokumen itu menautkan resep reproduksibilitas. Angka-angka tersebut tetap berasal dari pengujian NVIDIA sendiri, tetapi harness-nya disebutkan, dikontainerkan, dan dapat diunduh, yang berarti jarak antara "NVIDIA mengukur ini" dan "saya mengukur ini" hanya beberapa jam kerja, bukan sebuah proyek riset.

Rilis Hy-Memory lebih sulit diperiksa dalam dua cara yang berbeda. Desain evaluasinya masuk akal dengan kriterianya sendiri — hanya mengubah penulis memori dan menjaga harness, prompt, konfigurasi pengambilan, model jawaban dan penilai tetap, yang merupakan cara yang benar untuk mengisolasi kontribusi penulis. Tetapi setiap benchmark dalam matriks utama dijalankan secara tetap pada subsampel 20% bukan pada set lengkap, dan margin utamanya tipis: rata-rata makro 55,49 berbanding 54,62 untuk Claude Opus 5, selisih 0,87 poin, dengan harness MemOS ditentukan oleh 0,01 poin. Kendala kedua adalah perangkat keras. Mereproduksi angka dasar NVIDIA berarti memuat checkpoint yang build terkuantisasinya tersedia; mereproduksi milik Hy-Memory berarti memuat 60 GB BF16 tanpa alternatif yang lebih kecil yang dipublikasikan.

Tidak ada satu pun dari kedua kumpulan angka itu yang telah direproduksi secara independen. Perbedaannya terletak pada seberapa masuk akal bahwa Andalah orang yang bisa melakukannya.

Sandingkan kedua sumber utama itu dan kontrasnya sangat mencolok: Evaluasi Hy-Memory terdapat dalam sebuah makalah dengan deskripsi arsitektur dan metode pelatihan, sedangkan milik NVIDIA terdapat dalam kartu model dengan harness bernama yang dapat diunduh. Keduanya adalah vendor yang menilai pekerjaan rumahnya sendiri. Hanya salah satunya yang menyerahkan penggaris kepada Anda.

Dua alasan berbeda untuk melibatkan router ke dalamnya

Kedua model tersebut di-host sendiri, dan baik Hy-Memory-30B-A3B maupun Nemotron 3.5 Lightning 30B-A3B Base tidak ada dalam katalog OrcaRouter — kami tidak menghosting keduanya. Rute menuju keduanya adalah bobot dan GPU Anda sendiri. Namun, pertanyaan tentang router berdampak berbeda di masing-masing sisi perbandingan ini, yang layak ditelusuri karena itulah bentuk praktis dari pilihan tersebut.

Jika Anda mengambil jalur Nemotron, Anda melakukan post-training pada sebuah checkpoint. Itu menghasilkan model yang hanya ada di infrastruktur Anda, dan masalah klasik dengan checkpoint kustom adalah tidak ada tempat untuk menaruhnya: model itu tidak ada di katalog mana pun, sehingga setiap aplikasi yang menginginkannya memerlukan integrasi khusus, dan setiap jalur fallback saat model itu mati harus dibangun secara manual. Router memecahkan tepat masalah itu — satu API key untuk 200+ model, dengan endpoint Anda sendiri terdaftar di sampingnya dan failover otomatis saat performanya menurun. Model fusion adalah bagian lain yang perlu diketahui di sini: ia menjalankan sekelompok model secara bersamaan dalam satu panggilan, yang merupakan cara Anda membandingkan hasil post-train yang baru dengan baseline yang kuat tanpa menulis harness untuk masing-masing.

Jika Anda mengambil jalur Hy-Memory, penulis adalah satu panggilan dalam loop yang jauh lebih besar. Sebuah harness memori memanggil penulis, lalu memanggil model jawaban untuk membaca bank kembali dan merespons — dan panggilan kedua itulah tempat model hosted biasanya berada. OrcaRouter meneruskan harga daftar penyedia dengan markup 0%, sehingga pemotongan harga vendor pada model jawaban langsung berlaku di sisi kami pada hari yang sama, dan DSL perutean menyusun penulis yang dihosting sendiri dan pembaca hosted menjadi satu panggilan. Anda tidak perlu kedua bagian tersebut berasal dari tempat yang sama, dan Anda tidak perlu kontrak kedua untuk menambahkan bagian yang hilang.

Manakah titik awal yang tepat

Jika yang Anda inginkan adalah model yang melakukan sesuatu pada hari Anda mengunduhnya — khususnya, yang membuat memori agen menjadi lebih baik tanpa Anda melatih apa pun — Hy-Memory-30B-A3B adalah satu-satunya dari dua ini yang menjawab. Ini juga model yang tidak dapat Anda uji dengan murah, dan klaim utamanya adalah klaim dengan margin paling tipis. Masuklah dengan ekspektasi harus mengeluarkan biaya untuk perangkat keras sebelum Anda mempelajari apa pun.

Jika yang Anda inginkan adalah fondasi yang dapat Anda bentuk, Nemotron 3.5 Lightning 30B-A3B Base adalah karya terbit yang serius: arsitektur hibrida yang dirancang untuk konteks panjang dan inferensi cepat, dirilis bersama resep pelatihannya dan kerangka evaluasi yang dapat Anda jalankan ulang. Model ini tidak akan menjawab pertanyaan sampai Anda melakukan pasca-pelatihan terhadapnya, dan itulah kesepakatannya, bukan sebuah cacat.

Benturan nama akan terus menempatkan keduanya dalam kalimat yang sama. Jumlah parameternya akan terus sama. Tidak ada hal lain tentang keduanya yang akan sama, dan semakin cepat seorang pembaca memisahkan "30B-A3B" dari "jenis model yang sama," semakin cepat pula perbandingan itu menjadi berguna.

Angka unduhan itu layak dibiarkan tetap di layar. Spesialis pascapelatihan yang dirilis kemarin tanpa build terkuantisasi, tanpa endpoint yang dihosting, dan tanpa pengumuman memiliki nol unduhan dan sembilan suka — dan checkpoint dasar pra-latih milik NVIDIA, yang dipublikasikan dua bulan sebelumnya, berada di kisaran puluhan ribu. Kesenjangan itu bukanlah penilaian kualitas. Itu adalah ukuran seberapa sulit masing-masing tim membuat orang bisa mencobanya.