
WeMM-Video-4B: Model Audio-Visual 5.6B Tencent yang Senyap
- OrcaBARUOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 per 1 juta token · 185 tok/s
- tencentBARUTencent: Hy4 Flash2026-11-16$0.02 / $0.07 per 1 juta token · 826 tok/s
- AlibabaBARUQwen: Qwen4 Max2026-11-16$1.50 / $4.50 per 1 juta token · 407 tok/s
- GoogleBARUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1 juta token · 87 tok/s
- AnthropicBARUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1 juta token · 150 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1 juta token · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1 juta token · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 per 1 juta token · 83 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 per 1 juta token · 120 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1 juta token · 108 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1 juta token · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 90 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Kecerdasan
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1 juta token · 212 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Kecerdasan
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1 juta token · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Kecerdasan
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 per 1 juta token · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Kecerdasan
File yang diberi label WeMM-Video-4B memiliki ukuran 10,45 GiB dan, pada dua byte per parameter BF16, itu berarti 5,61 miliar parameter — bukan empat. Metadata safetensors milik Tencent sendiri menyatakan hal yang sama: 5.611.746.312 parameter. Angka "4B" dalam nama itu adalah backbone bahasa, bukan checkpoint-nya. Kesalahan aritmetika kecil itu adalah cara masuk yang tepat ke keluarga WeMM-Video, karena hampir semua hal menarik tentang rilis ini adalah kesenjangan antara label dan bendanya: keluarga empat ukuran yang diterbitkan tanpa posting peluncuran, rangkaian benchmark yang mengalahkan Qwen3-Omni-30B-A3B-Instruct dan MiniCPM-o-4.5-9B pada video sekaligus kalah dari Qwen3.5-Omni-Flash pada audio, dan embedding posisi 256K yang secara sukarela dipotong oleh setiap konfigurasi yang dirilis menjadi 8.192 token. Bobotnya nyata, makalahnya publik, dan belum ada yang mengunduh satu pun darinya.
Uraian berikut memisahkan tiga hal yang dicampuradukkan oleh kartu-kartu Hugging Face keluarga ini: apa yang dapat diukur di repositori, apa yang hanya dilaporkan oleh evaluasi Tencent sendiri, dan apa yang belum dikonfirmasi oleh siapa pun di luar WeChat Vision.
File bernama 4B berisi 5,61 miliar parameter
Hugging Face mencatat jumlah parameter total per repositori, dan untuk empat checkpoint dasar WeMM-Video, jumlahnya secara konsisten sekitar 1,2 hingga 1,6 miliar di atas ukuran yang tertera pada namanya.
• WeMM-Video-2B — total 3,28B dibandingkan label "2B".
• WeMM-Video-4B — total 5,61B dibandingkan label "4B".
• WeMM-Video-9B — total 10,49B dibandingkan label "9B".
• WeMM-Video-35BA3B — total 36,18B dibandingkan label "35B-A3B", di mana hanya tiga miliar di antaranya yang aktif per token.
Membaca indeks safetensors model 4B membuat surplusnya terlihat. Dari 1.268 tensor, model bahasanya membawa 4,21B parameter, tumpukan audionya membawa 1,07B, dan menara visinya membawa 0,33B. Sekitar sembilan belas persen checkpoint itu adalah telinga. Makalah tersebut mengonfirmasi bahwa konvensi penamaan itu disengaja: ketiga model dense dibangun di atas Qwen3.5-2B, Qwen3.5-4B, dan Qwen3.5-9B, dan model mixture-of-experts di atas Qwen3.6-35B-A3B.
Itu penting bagi siapa pun yang memperkirakan ukuran deployment. Model "4B" yang membutuhkan ruang untuk 5,61B parameter — 10,45 GiB dalam BF16 sebelum KV cache atau aktivasi apa pun — masuk ke kotak yang berbeda dari yang disiratkan angka pada kartu.
Delapan belas repo, sembilan belas menit, tanpa pengumuman
Keluarga model ini tidak muncul secara bertahap. Stempel waktu pembuatan di Hugging Face menempatkan kedelapan belas repositori — empat ukuran dikali lima presisi — dalam rentang 08:53:50 hingga 08:59:06 UTC pada 17 November 2026, dengan selisih sekitar empat belas detik, yang merupakan ciri khas skrip unggah, bukan seseorang yang mengklik terbitkan. Repositori GitHub Tencent/WeMM-Video dibuat pada 02:29:33 UTC pada hari yang sama, dengan commit awal yang substansial tiba pada 19 November dan revisi README berlanjut hingga 20 November.

Makalah itu menyusul pada 19 November: arXiv 2611.26409, “WeMM-Video: Pushing the Frontiers of Open-Source Omni-Modal Video Understanding,” dua belas penulis, dikirimkan pukul 16:58 UTC. Ini adalah laporan teknis lengkap dengan tujuh tabel hasil dan tautan ke pipeline evaluasi dan reproduksi. Jadi ini bukan rilisan tanpa dokumentasi — melainkan rilisan terdokumentasi yang tidak diumumkan oleh siapa pun. Kami tidak dapat menemukan posting blog Tencent, halaman peluncuran WeChat Vision, siaran pers, atau tier berbayar yang mengarah ke keluarga model ini; kartu model, README GitHub, dan makalah arXiv adalah seluruh catatan publiknya, dan semuanya ditulis untuk saling melengkapi.
Angka penerimaan menunjukkan cerita yang sama. Pada saat penulisan, masing-masing dari empat checkpoint dasar menunjukkan nol unduhan, dan delapan belas repositori di antaranya telah mengumpulkan tiga suka. Baik Artificial Analysis maupun LMArena tidak mencantumkan model WeMM. Tidak ada dari itu yang merupakan bukti tentang kualitas — itu adalah bukti tentang distribusi, dan itulah alasan checkpoint 4B yang mengungguli 30B pada beberapa tolok ukur video tidak memiliki angka independen yang melekat padanya.
Apa yang ada di dalam checkpoint?
Dengan mengesampingkan kerangka keluarganya, 4B adalah stack omni tiga menara standar dengan satu pilihan backbone yang tidak biasa.
• Menara bahasa — 32 lapisan, ukuran tersembunyi 2,560, 16 kepala perhatian terhadap 4 kepala key-value, dimensi kepala 256, kosakata 248,320. Tulang punggungnya hibrida: satu lapisan perhatian penuh setiap blok keempat, dengan tiga lainnya menggunakan perhatian linear, itulah sebabnya setiap resep serving di repositori membawa flag cache SSM float32.
• Menara visi — 24 blok pada ukuran tersembunyi 1.024, ukuran patch 16, penggabungan spasial 2, patch temporal 2, memproyeksikan ke 2.560. Ini adalah encoder asli backbone, dipertahankan alih-alih diganti, dan makalah membekukannya sejak tahap pra-pelatihan kedua dan seterusnya karena "sudah memberikan representasi visual yang cukup kuat."
• Menara audio — Bergaya Whisper, dengan 32 lapisan encoder dan 32 lapisan decoder pada lebar 1.280, dengan Q-Former tingkat jendela yang memampatkan jendela 0,1 detik menjadi 10 token audio per detik. Audio datang pada 16 kHz dalam potongan 30 detik. Ini adalah bagian yang diinisialisasi dari Qwen2.5-Omni, dan dengan 1,07B parameter, ini adalah kesenjangan terbesar antara nama dan berkas.
• Fusion — token visual dan audio saling berselang-seling dalam urutan kronologis dengan stempel waktu tekstual yang eksplisit, alih-alih dikumpulkan ke dalam aliran terpisah.
• Mode — mode Instruct untuk jawaban langsung dan mode Thinking yang mengeluarkan jejak penalaran sebelum respons, dialihkan pada level templat chat dengan enable_thinking.
• Lisensi — Apache 2.0 di seluruh koleksi, dengan file lisensi Tencent yang mengecualikan komponen pihak ketiga yang "tetap tunduk pada ketentuan asli masing-masing." Pengecualian tersebut tidak dirinci dalam kartu model.
256K di konfigurasi, 8K di perintah serving
Konfigurasi teks mendeklarasikan max_position_embeddings sebesar 262.144. Setiap perintah penyajian yang diterbitkan Tencent — baik profil vLLM maupun profil SGLang — meneruskan max-model-len 8192 atau context-length 8192. Angka 256K itu merupakan ruang cadangan arsitektural, bukan konfigurasi yang didukung, dan tidak ada apa pun di repositori yang menjelaskan cara mencapainya.
Anggaran frame memiliki bentuk yang sama. Nilai bawaan prosesor itu sendiri cukup longgar: 2 frame per detik, hingga 128 frame, 25.165.824 total piksel. Resep vLLM menimpa ketiganya ke bawah — fps 2, max_frames 16, total_pixels 262144. Enam belas frame adalah yang Anda dapatkan dengan menyalin perintah tersebut. Klip yang disampel pada 16 frame adalah input yang berbeda dari klip yang disampel pada 128, dan makalah tersebut tidak menyatakan pengambilan sampel mana yang digunakan dalam evaluasi videonya.
• Batas media per permintaan, sebagaimana dirilis — empat gambar, dua video, dua item audio.
• Konteks, sebagaimana disertakan — 8.192 token, dengan audio menghabiskan 10 token per detik sebelum frame video apa pun dihitung.
Bagi model 4B, kedua angka itu adalah batasan yang mengikat untuk pekerjaan nyata. Delapan ribu token kira-kira setara dengan tiga belas menit audio dan tidak lebih; video dengan soundtrack menghabiskan anggaran pada kedua aliran sekaligus. Benchmark video panjang di bawah ini dijalankan dalam kondisi yang tidak dijelaskan oleh repositori.
Benchmark tersebut adalah milik para penulis sendiri
Setiap angka dalam artikel ini berasal dari laporan teknis WeMM-Video. Makalah itu menyatakannya secara gamblang — "Untuk model yang ada, kami melaporkan hasil resmi jika tersedia dan evaluasi kami sendiri jika tidak" — dan belum ada pihak ketiga yang mereproduksi apa pun darinya. Mode juga berpindah-pindah antar tabel, yang lebih penting daripada biasanya karena mode Thinking tidak gratis: tabel video melaporkan Thinking untuk 2B, 4B, dan 9B, tabel audio melaporkan Instruct karena para penulis menilai benchmark audio standar sebagai tugas "persepsi langsung", dan tabel gambar serta teks kembali ke Thinking. Membandingkan baris 4B di tabel audio dengan baris pesaing di tabel video bukanlah sebuah perbandingan.

Dengan catatan itu, tabel video omni-modal adalah tempat 4B membuktikan bahwa ukuran filenya sepadan.
Di mana 4B mengalahkan 30B
Tabel 2 dalam makalah tersebut membandingkan WeMM-Video-4B dengan Qwen3-Omni-30B-A3B-Instruct dan MiniCPM-o-4.5-9B pada benchmark audio-visual gabungan, semuanya dalam mode Thinking. Model 4B unggul di sebagian besar benchmark tersebut, melawan model yang berukuran tujuh kali lebih besar.
• Video-MME dengan audio — WeMM-Video-4B 83,9, Qwen3-Omni-30B-A3B-Instruct 77,3, MiniCPM-o-4.5-9B 69,2.
• Video-MME v2 dengan audio — 48,1 dibandingkan 36,3 dan 28,1, selisih terlebar dalam tabel.
• Daily-Omni — 82,5 dibandingkan dengan 70,7 dan 80,2.
• WorldSense — 60,3 dibandingkan dengan 54,0 dan 55,7.
• OmniVideoBench — 49,7 dibandingkan dengan 45,4 dan 37,2.
Tabel video tanpa suara bahkan lebih kuat, dan itulah yang seharusnya menentukan pembelian. Menghilangkan soundtrack dan menguji penglihatan saja: Video-MME 75,7 dibandingkan 70,5 dan 70,4, LVBench 65,3 dibandingkan 50,2 dan 50,9, LongVideoBench 74,8 dibandingkan 63,5 dan 66,0, EgoSchema 74,2 dibandingkan 66,4 dan 60,4. Keunggulan 15 poin pada LVBench di 4B bukan artefak pembulatan; pemahaman video panjang adalah tepat di mana model omni kecil secara historis gagal.
Baris gambar dan teks bersifat kompetitif, bukan dominan. MMMU 78,4 dibandingkan 76,9 milik Qwen3.5-Omni-Flash, MathVista 85,2 dibandingkan 82,9, DocVQA 96,5 dibandingkan 95,3, IFEval 91,3 dibandingkan 85,2. Itulah baris-baris yang paling mungkin benar-benar dibutuhkan pembaca, dan hasilnya tetap bertahan.
Di mana ia kalah, dan kepada apa
Kerugiannya spesifik dan layak disebutkan, karena tabel yang hanya menampilkan kemenangan adalah hal yang justru ingin dihindari oleh blog ini.
• Audio, dibandingkan dengan model flash proprietary — Qwen3.5-Omni-Flash memperoleh skor 80,4 pada MMAU dan 74,0 pada MMAR, sedangkan WeMM-Video-4B memperoleh 75,2 dan 67,3. Satu-satunya kemenangan audio model 4B adalah MMAU-Pro dengan 68,1 berbanding 64,8.
• Video, di sudut-sudut — Video-Holmes 58,8 versus 64,3 milik MiniCPM-o-4.5-9B, dan FutureOmni 50,9 versus 55,1 untuk Qwen3-Omni-30B-A3B-Instruct serta 56,1 untuk MiniCPM. Dua tolok ukur di mana pesaing yang lebih kecil atau lebih tua menang telak.
• Gambar dan teks — MMMU-Pro 64.7 berbanding 68.2, OCRBench 85.7 berbanding 89.1, GPQA 73.2 berbanding 76.4, MMLU-Pro 78.3 berbanding 79.9. Tertinggal antara satu hingga enam poin dari model proprietary yang berorientasi pada serving, yang bagi checkpoint 5.61B merupakan posisi tertinggal yang terhormat.
Bacaan yang ada adalah bahwa WeMM-Video-4B disetel untuk video audio-visual gabungan dan tetap kompetitif di area lain. Jika tugas Anda adalah mendeskripsikan apa yang terjadi dalam sebuah klip dan merangkum apa yang dikatakan di atasnya, angkanya bagus. Jika tugas Anda adalah OCR padat atau penalaran teks tingkat pascasarjana, checkpoint yang sama merupakan kompromi.
Menjalankannya berarti mem-patch runtime Anda sendiri

Baik vLLM maupun SGLang tidak mendukung arsitektur ini di upstream. Pencarian di pelacak masalah vLLM tidak menemukan permintaan WeMM-Video, dan repositori justru menyertakan direktori patch sebagai gantinya: overlay sumber dengan manifes SHA-256 untuk empat rilis upstream persis — vLLM 0.18.0 dan 0.31.0, SGLang 0.5.16 dan 0.5.19 — masing-masing dipatok ke kombinasi PyTorch, Transformers, dan CUDA 12.9 tertentu, dengan syarat Python 3.12 dan FFmpeg, serta TorchCodec memerlukan CUDA 12 NPP pada jalur linker. SGLang juga mengompilasi kernel CUDA saat pertama kali digunakan, sehingga toolchain C++ dan Ninja merupakan bagian dari instalasi.
Jalur GGUF juga bukan jalan pintas. Ini adalah bundel tiga berkas — berkas bahasa 4,90 GiB, proyektor visi 0,63 GiB, dan berkas audio 2,00 GiB — yang dibuat untuk "WeMM native runtime" yang Anda kompilasi dari repositori, bukan untuk llama.cpp atau Ollama. Manifes Tencent sendiri memberi label pada ekspor exported_unvalidated, dan berkas cakupan yang menyertainya menyatakan quantized_candidate_not_validated. Pelabelan itu sangat terbuka dan harus dibaca secara harfiah: bundel Q4_K_M ditawarkan, bukan dijamin.
Yang diklaim Tencent sebagai tervalidasi memang sempit: vLLM yang ditambal memuat checkpoint pada H20 dan menyelesaikan pemeriksaan generasi untuk teks, gambar, audio, dan video dengan soundtrack, serta checkpoint lokal lolos pemuatan Transformers langsung ditambah pemeriksaan generasi teks di CPU. Tidak ada angka throughput, latensi, jejak memori, maupun konkurensi. Untuk model yang nilai jualnya adalah video, "ia berhasil menghasilkan" adalah batas minimum dari yang dibutuhkan sebuah keputusan deployment.
OrcaRouter tidak menyediakan WeMM-Video-4B. Katalognya sama sekali tidak mencantumkan checkpoint WeMM, jadi tidak ada harga hosted untuk dikutip dan tidak ada endpoint yang bisa dituju; saat ini ini adalah pekerjaan self-host dengan patch yang diterapkan ke mesin inferensi milik pihak lain. Untuk separuh pekerjaan yang khusus visi, ada alternatif terbuka di platform — Qwen3-VL-235B-A22B-Thinking dan Qwen3-VL-8B-Thinking keduanya menerima gambar dan frame video — dapat diakses melalui satu kunci yang kompatibel dengan OpenAI, tanpa padanan WeMM untuk separuh audio. Jika suatu host yang kompatibel mulai menyajikan bobot ini, harga daftar penyedia diteruskan dengan markup 0%, tetapi itu adalah syarat, bukan fakta saat ini.
Apa yang masih belum dikonfirmasi
Empat hal yang biasanya diperoleh pembeli dari sebuah peluncuran dan tidak bisa diperoleh di sini.
• Harga. Tidak ada. Tidak ada endpoint yang dihosting, tidak ada tarif per token, tidak ada daftar mitra. Satu-satunya biaya adalah GPU yang sudah Anda miliki.
• Evaluasi independen. Tidak ada entri Artificial Analysis, tidak ada pengajuan arena, tidak ada reproduksi pihak ketiga. Pipeline evaluasinya publik, yang merupakan hal terbaik berikutnya dan bukan hal yang sama.
• Kondisi evaluasi. Jumlah frame, anggaran piksel, dan panjang konteks yang digunakan untuk penjalanan benchmark tidak dinyatakan dalam makalah, dan resep yang disertakan menggunakan 16 frame sedangkan prosesor secara default menggunakan 128.
• Pengecualian lisensi pihak ketiga. Tencent menyatakan bahwa komponen di dalam koleksi tetap tunduk pada ketentuan aslinya tetapi tidak merincinya. Stack audio berasal dari Qwen2.5-Omni dan backbone-nya dari Qwen3.5, keduanya Apache 2.0, yang melegakan tetapi tidak menentukan.
Itu semua bukan alasan untuk mengabaikan rilis tersebut. Itu justru alasan untuk memperlakukan keluarga ini sebagaimana yang terlihat jelas: delapan belas repositori dan sebuah laporan teknis yang diunggah dalam rentang sembilan belas menit, dengan langkah pengumuman yang dilewati. Dokumentasinya lebih baik daripada kebanyakan peluncuran yang diumumkan. Distribusinya nol.
Bagi tim yang membutuhkan pemahaman audio-visual gabungan pada perangkat keras yang mereka kendalikan, WeMM-Video-4B adalah checkpoint kecil paling menarik yang diterbitkan bulan ini, dan angka-angkanya untuk video membenarkan upaya penambalan. Bagi siapa pun yang membutuhkan endpoint pada hari Jumat, jawaban jujurnya adalah ini belum menjadi salah satunya — bobotnya sudah ada, runtime-nya berupa overlay sumber, dan satu-satunya benchmark adalah milik penulisnya. Pantau reproduksi independen pertama, penggabungan ke upstream vLLM, atau harga hosted. Mana pun yang muncul lebih dulu akan memberi tahu Anda lebih banyak daripada satu baris lagi di Tabel 2.
Dibandingkan dalam artikel ini1
Terdeteksi dari artikel ini
