Nanbeige4.3-33B: 17 dari 20 Kemenangan, Konteks 512K, dan Tidak Ada yang Diuji Secara Independen

Pada 02:49 UTC tanggal 24 Oktober 2026, sebuah repositori Hugging Face bernama Nanbeige/Nanbeige4.3-33B menjadi publik, empat menit setelah checkpoint dasar yang memiliki nama sama. Tidak ada posting peluncuran yang muncul. Tidak ada entri blog, tidak ada pengumuman vendor, tidak ada siaran pers — kartu model adalah seluruh catatan pihak pertama untuk rilis bobot terbuka berparameter 33,1 miliar yang klaim utamanya adalah bahwa model ini mengalahkan Qwen3.8-27B pada 18 dari 20 benchmark. Klaim itu tidak salah. Klaim itu juga belum dapat diverifikasi, dan liputan sejak itu sebagian besar hanya mengulang tabel tersebut tanpa membaca catatan kaki di bawahnya.

Jadi angka-angka itu mengatakan dua hal sekaligus. Nanbeige4.3-33B memimpin 17 dari 20 baris dalam tabelnya sendiri, dan mengalahkan Qwen3.8-27B pada 18 baris di antaranya. Itu hitungan yang berbeda dan keduanya akurat: tiga baris yang tidak dipimpinnya adalah SWE-Bench Pro, tempat Qwen3.8-27B menang 61,7 berbanding 60,3, GDPval, tempat Qwen3.8-27B menang 86,4 berbanding 84,8, dan GPQA Diamond, tempat 91,3 milik Gemma4-31B mengalahkan keduanya. Kalah dua baris dari Qwen3.8-27B dan satu dari Gemma4-31B memberi Anda 18 dari 20 terhadap model Qwen dan 17 dari 20 terhadap seluruh bidang. Sebagian besar tulisan memilih satu angka dan meninggalkan angka lainnya, yang merupakan hal kecil yang memberi tahu Anda seberapa teliti sisanya dibaca.

Apa yang ditetapkan oleh repositori, dan apa yang tidak

Mulailah dengan apa yang dapat diverifikasi dengan membuka file alih-alih mengutip prosa, karena kesenjangan antara keduanya adalah inti cerita di sini.

• Terkonfirmasi: bobotnya ada. Empat belas shard safetensors dengan total 66,259,989,086 byte, bfloat16, dalam repositori yang dibuat pada 02:49:18Z tanggal 24 Oktober 2026 dan terakhir diperbarui 11:11Z pada 25 Oktober. Sebuah checkpoint dasar terpisah, Nanbeige4.3-33B-Base, dibuat tiga menit lebih awal pada 02:46:52Z.

• Terkonfirmasi: lisensinya adalah Apache 2.0, dinyatakan dalam metadata repositori dan di front matter kartu. Tidak ada LICENSE file di antara delapan file non-bobot, yang merupakan celah administratif bukan legal — bidang metadata itulah yang dibaca oleh Hub dan sebagian besar pemindai.

• Terkonfirmasi: arsitekturnya adalah stack Llama biasa, bukan mixture of experts dan bukan desain transformer berulang yang digunakan model-model kecil keluarga ini. Selengkapnya tentang konfigurasi di bawah.

• Terkonfirmasi: tidak ada endpoint yang dihosting vendor. Pemetaan penyedia inferensi Hub untuk repositori ini kosong, dan kartu menawarkan vLLM, SGLang, dan Transformers, dalam semangat itu: bawa GPU Anda sendiri.

• Belum dikonfirmasi: apa pun tentang bagaimana model ini dilatih. Tidak ada jumlah token pra-pelatihan, tidak ada campuran data, tidak ada angka komputasi, tidak ada resep pasca-pelatihan, dan tidak ada bagian keterbatasan atau keamanan. Blok sitasi pada kartu tersebut panjangnya empat baris.

• Belum dikonfirmasi: bahwa angka yang dipublikasikan mana pun dapat direproduksi. Tidak ada harness evaluasi di repositori — tidak ada skrip, tidak ada konfigurasi tugas, tidak ada log — dan per 26 Oktober belum ada pihak ketiga yang menerbitkan skor, rating arena, atau penempatan indeks untuk model ini.

• Belum dikonfirmasi: bahwa rilis tersebut bersifat senyap. Tidak demikian. Rilis itu tidak diumumkan oleh lab, yang merupakan deskripsi yang lebih sempit dan lebih akurat: kartu tersebut adalah dokumen peluncuran lengkap dengan tabel tolok ukur dua puluh baris, dan para agregator mengambilnya dalam waktu satu hari. Yang hilang adalah postingan pihak pertama yang menjelaskan apa yang menurut Nanbeige telah mereka bangun.

Pembedaan itu penting bagi siapa pun yang memutuskan apa yang harus dilakukan dengan rilis tersebut. Lab yang tidak mengatakan apa pun tidak memberi tahu Anda apa pun tentang niat, dukungan, atau checkpoint berikutnya. Lab yang menerbitkan kartu tetapi tidak memposting apa pun telah memberi tahu Anda banyak hal tentang model itu dan membiarkan strateginya tersirat — dan dalam kasus ini, strategi tersebut dinyatakan secara terang-terangan di paragraf kedua kartu itu, begitu Anda menyadarinya.

Kartu itu menyebutnya seorang guru, dan itu membingkai ulang seluruh peluncuran.

Nanbeige4.3-33B digambarkan sebagai "model guru unggulan" untuk seri Nanbeige4.3, dibangun lebih dulu agar laboratorium dapat mendistilasi perilaku agentik ke model yang lebih kecil, "mis. untuk Nanbeige4.3-3B". Kartu tersebut mencantumkan "kinerja agentik mutakhir di antara model terbuka pada kelas parameter ~30B" sebagai tujuan, lalu langsung menggambarkan 33B sebagai fondasi bagi pipeline distilasi alih-alih produk akhir.

Baca itu secara harfiah dan rilis ini adalah artefak pelatihan yang kebetulan dapat dirilis. Ini adalah model yang Anda gunakan untuk menghasilkan trajektori bagi student 3B, dan alasan rangkaian benchmark-nya berat pada tugas agen jangka panjang — Terminal-Bench, DeepSWE, JobBench, Toolathlon — adalah bahwa itu adalah perilaku yang ingin ditransfer seseorang. Nanbeige4.3-3B belum dirilis. Saat hadir, model itu akan menjadi model yang benar-benar dijalankan kebanyakan orang, dan 33B ini akan menjadi hal yang menjelaskan skornya.

Ada efek samping yang perlu disebut: model pengajar dioptimalkan untuk menghasilkan trajektori yang baik dengan anggaran token yang longgar, bukan agar murah saat inferensi. Pengaturan yang direkomendasikan di kartu model membuktikannya — maksimal 65.536 token baru untuk pekerjaan agentic dan 262.144 untuk penalaran dan obrolan, dengan thinking aktif secara default. Model yang diminta mengeluarkan seperempat juta token bukanlah model yang Anda pasang di balik kotak obrolan tanpa anggaran.

33B yang dijelaskan oleh file konfigurasi

Baca config.json dan bentuknya konvensional dalam cara yang tidak dimiliki pemasaran. Lima puluh dua lapisan, ukuran tersembunyi 7,168, 56 kepala kueri terhadap 8 kepala key-value — rasio grouped-query 7:1 — dimensi kepala 128, lebar FFN 22,016, dan kosakata 166,912 token. Basis RoPE adalah 120,000,000 tanpa penerapan penskalaan, dan max_position_embeddings disetel ke 524,288. Versi transformers yang tercantum dalam file adalah 4.51.1.

Jumlah parameter mengikuti angka-angka tersebut. Proyeksi atensi menjadi 117,4 juta parameter per lapisan, MLP tiga lapis menjadi 473,4 juta, sehingga 590,9 juta per blok di 52 blok: 30,7 miliar. Dua matriks embedding tidak terikat pada 166.912 kali 7.168 menambah 2,4 miliar. Totalnya 33,1 miliar, sesuai dengan yang dijanjikan namanya dan yang beratnya 66,3 GB dalam bfloat16.

Terhadap model yang menjadi sasaran serangan tabelnya, perbedaannya lebih tajam daripada yang ditunjukkan oleh skor.

• Ukuran — 33.1B dense untuk Nanbeige4.3-33B vs 27.78B dense untuk Qwen3.8-27B. Keduanya dense; tidak satu pun merupakan campuran para ahli.

• Modalitas — hanya teks, bahasa Inggris dan Tionghoa, untuk Nanbeige4.3-33B vs input native teks, gambar, dan video untuk Qwen3.8-27B. Jika pipeline Anda membaca tangkapan layar, perbandingannya sudah berakhir sebelum benchmark dimulai.

• Attention — attention penuh yang seragam di seluruh 52 lapisan untuk Nanbeige4.3-33B vs tumpukan hibrida untuk Qwen3.8-27B, yang menjalankan 48 lapisan linear DeltaNet bergerbang berbanding 16 lapisan attention penuh dalam pola 3:1. Itulah sebabnya model Qwen murah pada konteks panjang sedangkan yang ini tidak.

• Konteks — 524.288 token native untuk Nanbeige4.3-33B vs 262.144 native, dapat diperluas hingga sekitar 1 juta dengan YaRN, untuk Qwen3.8-27B.

• Lisensi — Apache 2.0 pada keduanya, yang menghilangkan alasan biasa untuk memilih salah satu.

Perbedaan dalam hal perhatian bukanlah catatan kaki. Itulah seluruh alasan bagian berikutnya ada.

512K adalah nilai dalam file konfigurasi, bukan konteks kerja

Setiap ringkasan tentang rilis ini diawali dengan jendela setengah juta token. Hampir tidak ada yang melakukan perhitungannya, dan perhitungan itu tidak bersahabat.

Dengan 52 lapisan, 8 head key-value dengan 128 dimensi, dan penyimpanan bfloat16, setiap token dalam cache membutuhkan 2 × 52 × 8 × 128 × 2 byte — 212.992 byte, atau 208 KiB. Tiga konsekuensi langsung mengikuti.

Dengan 524.288 token penuh, KV cache saja membutuhkan 111,7 GB, sekitar 104 GiB. Itu lebih besar daripada 66,3 GB bobot, dan tidak muat pada satu akselerator pun yang dijual saat ini.

Pada 131.072 token — seperempat dari jendela yang diiklankan — cache-nya adalah 27,9 GB, kira-kira 26 GiB. Tambahkan bobot dan Anda berada pada 92 GB sebelum aktivasi, itulah sebabnya contoh dari kartu itu sendiri menggunakan paralelisme tensor empat arah.

• Pada 32.768 token, cache-nya adalah 6,98 GB, sekitar 6,5 GiB. Ini adalah angka yang penting dalam praktik, dan ini adalah panjang konteks yang sebenarnya ditetapkan oleh contoh llama.cpp dari repositori GGUF komunitas.

Semua ini tidak membuat klaim 512K menjadi tidak jujur. Jendelanya native — tanpa YaRN, tanpa faktor penskalaan, dengan basis rope 120 juta — dan pada node empat GPU dengan memori yang cukup, Anda dapat menyajikannya. Namun, ini berarti angka di judul adalah batas atas yang tidak akan Anda capai pada perangkat keras yang Anda miliki, dan siapa pun yang mengutip "konteks 512K" sebagai alasan pembelian belum memperhitungkan biaya cache-nya. Bandingkan dengan desain Qwen3.8-27B, di mana tiga perempat lapisan menyimpan status rekuren berukuran konstan alih-alih cache yang terus membesar, dan selisih biaya per token konteks panjang bersifat struktural, bukan soal penyetelan.

Satu hal lagi dari konfigurasi, dan ini adalah jenis detail yang memakan waktu seharian: use_cache disetel ke false, di kedua config.json dan generation_config.json. Memuat model melalui cuplikan Transformers dari kartu dan memanggil generate tanpa menimpanya akan menghitung ulang prefiks pada setiap langkah. Jalur vLLM dan SGLang mengelola cache mereka sendiri dan tidak terpengaruh. Jika benchmark pertama Anda terlihat lambat secara tidak wajar, periksa ini sebelum Anda menyalahkan bobot.

Membaca tabel tolok ukur sesuai dengan yang diminta catatan kakinya kepada Anda

Tabel ini terdokumentasi lebih baik daripada sebagian besar tabel vendor, dan dokumentasi itulah tempat segala catatan pentingnya berada. Dua belas catatan kaki berada di bawah dua puluh baris, dan catatan-catatan itu berbicara lebih banyak tentang keterbandingan daripada skornya sendiri.

• Terminal-Bench 2.1 dijalankan dengan Terminus 2. Terminal-Bench 4.0 dan DeepSWE dijalankan dengan mini-swe-agent v2.4.6.

• NL2Repo dijalankan menggunakan harness Claude Code; JobBench menggunakan Claude Code ditambah alat pencarian.

• Jawaban SWE-Atlas-QnA dinilai terhadap 1.304 rubrik khusus tugas menggunakan GPT-6 Sol sebagai juri pada upaya penalaran sedang. Juri rubrik adalah model kedua dalam proses, dan bukan model yang diuji.

• Toolathlon-Verified tidak menetapkan batas max_tokens pada permintaan individual. Claw-Eval hanya dinilai pada subset General, 157 tugas satu giliran. YC-bench hanya menyimpan sepuluh giliran dialog terbaru sebagai riwayat sebelum setiap panggilan. GDPval menggunakan rubrik yang telah direvisi.

• Nanbeige4.3-33B sendiri dievaluasi dengan preserve_thinking=true, yang mempertahankan penalaran asisten sebelumnya lintas giliran. Kartu tersebut merekomendasikan tepat hal itu untuk penggunaan alat multi-giliran, dan justru sebaliknya untuk obrolan biasa.

Jika dibaca bersama, catatan-catatan itu menggambarkan sebuah suite yang dibangun untuk mengukur perilaku agen jangka panjang dengan anggaran yang longgar. Itu adalah hal yang dapat dipertahankan untuk diukur — memang untuk itulah model ini dibuat — tetapi itu juga merupakan rezim di mana pilihan harness paling banyak menggeser skor. Celah terbesar dalam tabel, DeepSWE pada 65,5 berbanding 42,5 untuk Qwen3.8-27B, adalah selisih 23 poin pada tolok ukur yang digerakkan oleh scaffold agen. Celah terkecil berada pada baris-baris di mana scaffold paling tidak berpengaruh: AIME 2026 pada 95,2 berbanding 94,5, Tau3-Bench pada 48,8 berbanding 48,5, EnterpriseOps-Gym pada 41,0 berbanding 40,2.

Pola itu konsisten dengan dua penjelasan. Entah model tersebut memang jauh lebih baik dalam pengodean agentik daripada para pesaingnya, atau baris-baris agentik adalah baris di mana sebuah lab yang menyetel scaffold-nya sendiri terhadap modelnya sendiri memperoleh keuntungan paling besar. Tidak ada apa pun di repositori yang membedakan keduanya, dan posisi jujur sampai seseorang menjalankan ulang suite tersebut adalah bahwa keduanya masih mungkin. Baris-baris tempat model menang dengan selisih satu poin atau kurang — Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval pada 78,3 berbanding 75,2 — adalah baris yang paling kecil kemungkinannya bertahan di harness independen.

Yang tidak ada, per 26 Oktober, adalah angka dari pihak luar sama sekali. Tidak ada entri indeks Artificial Analysis, tidak ada rating arena, tidak ada reproduksi oleh siapa pun. Angka AA-LCR milik kartu itu sendiri sebesar 84.0 adalah Nanbeige yang menjalankan benchmark Artificial Analysis, bukan Artificial Analysis yang menjalankan Nanbeige.

Satu-satunya uji langsung sejauh ini, dan apa yang ditunjukkannya

Satu orang telah mempublikasikan sesuatu dari benar-benar menjalankan bobotnya, dan hasilnya layak dilaporkan justru karena begitu minim. Seorang pengembang Jepang memuat checkpoint bfloat16 penuh di Colab A100 dengan 80 GB, menggunakan Transformers biasa dengan dtype otomatis dan device mapping, dan mengukur sekitar 63 GB VRAM yang terpakai. Balasan pertama, dibatasi pada 1.024 token baru, memakan waktu sekitar sebelas detik. Tidak ada angka token per detik yang diberikan; kesannya adalah model dense 33B pada bfloat16 itu lambat, yang sesuai dengan prediksi aritmetika.

Tiga prompt diikuti. Perbandingan 9,11 versus 9,8 keluar dengan benar, dengan penjelasan desimal yang jelas. Pertanyaan tentang karakter anime menghasilkan jawaban yang secara subjektif baik tetapi nama-namanya kacau. Pertanyaan tentang perdana menteri Jepang menghasilkan jawaban yang salah, klaim batas pengetahuan Juni 2024, dan nama yang dihalusinasi. Rantai pemikiran bahasa Inggris bocor sebelum tag penutup think.

Tiga prompt santai bukanlah evaluasi dan tidak boleh dibaca sebagai evaluasi. Yang sebenarnya adalah titik data yang selaras dengan bentuk tabel vendor: model yang disetel secara keras untuk kerja agentic berbahasa Inggris, pengetahuan dunianya basi dua tahun, dan biasa saja dalam bahasa kedua. Kartu itu mengklaim bahasa Inggris dan Mandarin; belum ada yang menerbitkan uji berbahasa Mandarin juga.

Di mana versi terkuantisasi berhenti menjadi model yang sama

Sebagian besar orang yang menjalankan ini tidak akan menjalankan bfloat16 sebesar 66 GB. Mereka akan menjalankan kuant 4-bit pada satu kartu, dan laporan kuantisasi yang muncul dalam sehari setelah rilis menunjukkan bahwa itu adalah penurunan yang lebih besar daripada biasanya.

Repositori GGUF komunitas memublikasikan divergensi KL dan kesesuaian top-1 terhadap model bfloat16, yang diukur pada tolok ukur teks standar, dan README-nya sendiri memperingatkan bahwa model tersebut "luar biasa sensitif terhadap kuantisasi".

• Q8_0, 35,2 GB — KL 0,0032, kesesuaian top-1 98,0%.

• Matriks kepentingan Q5_K_M, 24,7 GB — KL 0,0213, 94,7% top-1.

• Matriks kepentingan Q4_K_M, 21,2 GB — KL 0,0380, 92,6% top-1.

• llama.cpp Q4_K_M biasa, 20,1 GB — KL 0,0693, top-1 89,9%. Lebar bit sama dengan baris di atas, drift hampir dua kali lipat.

• Matriks kepentingan IQ3_S, 17.1 GB — KL 0.1019, 87.5% top-1. README mencatat bahwa file di bawah 4-bit kehilangan akurasi yang jauh lebih besar.

Konversi MLX 8-bit melaporkan top-1 98,6% pada KL 0,015, dan membandingkan jalur AWQ 4-bit pada top-1 92,1% dengan KL 0,181 — penurunan yang jauh lebih tajam daripada GGUF matriks kepentingan pada lebar nominal yang sama.

Pembacaan praktisnya: jika Anda mengevaluasi model ini pada 4-bit di satu kartu 40 atau 48 GB dan model ini gagal pada tugas agen Anda, Anda telah mengevaluasi model yang setuju dengan model yang dipublikasikan pada sekitar sembilan dari sepuluh token. Untuk prosa, itu tidak terlihat. Untuk panggilan alat, di mana satu argumen yang cacat mengakhiri giliran, tingkat divergensi 7% adalah produk yang berbeda. Jika klaim agentik adalah alasan Anda tertarik, minimum yang jujur adalah Q5 dengan matriks kepentingan, atau bfloat16 pada perangkat keras sewaan untuk menjalankan evaluasi.

Berapa biaya untuk mencobanya, dan bagaimana mencobanya tanpa harus bertaruh padanya

Nanbeige belum mencantumkan harga, karena tidak ada yang perlu diberi harga: model ini berupa bobot, bukan layanan, dan Hub tidak mencantumkan penyedia inferensi untuknya. Itu menyisakan tiga jalur — empat GPU 80 GB untuk bfloat16, satu kartu 48 GB pada Q5, atau menunggu hingga ada penyedia yang mencantumkannya.

Sebagai perbandingan, model yang diklaim hendak dikalahkannya tersedia sesuai permintaan. Qwen3.8-27B berjalan di OrcaRouter dengan harga $0.33 per juta token input dan $2.40 per juta output, dengan jendela 262K dan p50 waktu-ke-token-pertama sekitar 2,95 detik. Prompt agentik 65.536 token ditambah 8.000 token output menghabiskan sekitar empat sen. Itulah angka yang harus dikalahkan oleh model 33B yang dihosting sendiri, dan harus dikalahkan sambil menanggung waktu GPU menganggur, risiko kuantisasi, dan tidak adanya jalur cadangan.

Kami tidak menghosting Nanbeige4.3-33B, dan tidak ada apa pun di sini yang boleh dibaca sebagai klaim bahwa kami menghostingnya. Yang dapat kami lakukan adalah membuat perbandingannya murah ke arah sebaliknya: Orca Connect menempatkan GPU Anda sendiri di balik kunci yang sama dengan katalog yang dihosting, sehingga endpoint Nanbeige yang di-self-host dan Qwen3.8-27B dapat berada di balik satu endpoint dan satu aturan routing selama Anda memutuskan. Arahkan sebagian trafik ke checkpoint baru, pertahankan model yang dihosting sebagai fallback, dan biarkan log permintaan — grade, latensi, biaya per panggilan — menyelesaikan perdebatan yang tidak dapat diselesaikan oleh tabel vendor. Markup 0% penting di sini dengan cara yang spesifik: harga daftar penyedia diteruskan tanpa perubahan, jadi ketika vendor menurunkan harga, perbandingan yang Anda siapkan minggu lalu tetap jujur.

Siapa yang harus bertindak atas ini, dan siapa yang harus menunggu

Jika Anda sedang membangun pipeline distilasi, ini adalah checkpoint terbuka paling menarik bulan ini. Teacher dense 33B dengan lisensi permisif, pengaturan sampling yang terdokumentasi, dan rangkaian benchmark yang dipilih untuk mengukur persis perilaku yang ingin Anda transfer adalah aset yang berguna, dan fakta bahwa lab tersebut mengatakan sedang membangun teacher terlebih dahulu adalah sinyal tentang arah seri ini. Unduh, jalankan eval Anda sendiri, dan simpan catatan harness dari kartu model di samping hasil Anda.

Jika Anda membutuhkan model untuk produksi minggu ini, tunggu dulu. Tidak ada skor independen, tidak ada endpoint yang dihosting, hanya satu laporan uji langsung yang berisi tiga prompt, dan profil kuantisasi yang menurun lebih cepat dari biasanya pada lebar bit yang mampu dijangkau kebanyakan orang. Tidak satu pun dari itu menggugurkan — itu hanya belum menjadi bukti.

Jika Anda memerlukan kemampuan visual, perbandingannya sudah pasti: Qwen3.8-27B membaca gambar dan video, sedangkan model ini membaca teks dalam dua bahasa.

Hal-hal yang perlu diperhatikan bersifat spesifik. Nanbeige4.3-3B, target distilasi, yang akan memberi tahu Anda apakah model guru itu layak dibangun. Run independen pertama Terminal-Bench 4.0, baris dengan selisih terlebar dan sensitivitas scaffold paling tinggi. Dan apakah ada penyedia yang mencantumkan 33B sama sekali — karena begitu seseorang melakukannya, konteks 512K berhenti menjadi nilai konfigurasi dan menjadi pos tagihan, dan aritmetika dalam tulisan ini menjadi faktur seseorang.