Thẻ tiêu đề hero ghi 'WeMM-Video-2B', phụ đề 'được phát hành mà không có thông báo', với bốn huy hiệu ghi '2B dense, tổng 3,28B', 'đầu vào video + âm thanh + hình ảnh + văn bản', 'Apache 2.0, bốn mức lượng tử hoá', 'không có lượt tải xuống nào trên Hub'.
Engineering & Research

WeMM-Video-2B: Một mô hình đa phương thức toàn diện 2B mà không ai công bố

Tác giả

Gideon Frost

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Không có bài đăng ra mắt. Không có model card trên trang sản phẩm, không có danh sách chờ, không có bảng giá, không có dòng tweet benchmark nào từ một lãnh đạo T​encent. Thứ tồn tại là một kho Hugging Face được tạo lúc 08:58 UTC ngày 17 tháng 11 năm 2026 và một repo GitHub có commit đầu tiên được đẩy lên sớm hơn sáu tiếng rưỡi, và cả hai đều mô tả WeMM-Video-2B là checkpoint dense 2B trong một dòng mô hình video đa phương thức toàn diện Trung–Anh của WeChat Vision tại T​encent. Sáu ngày sau, repo có hai lượt thích, không lượt tải xuống, và bốn phiên bản lượng tử hóa cùng dòng được tạo cách thời điểm trọng số gốc không quá mười một phút. Vậy nên câu đầu tiên trung thực của bất kỳ bài viết nào về mô hình này là một câu về cách đóng gói của nó: nó công khai, nó có thể tải xuống, và chưa ai nói một lời nào về nó.

Khoảng trống đó đáng được xem xét nghiêm túc thay vì coi đó là một ngày tin chậm. Một họ mô hình phát hành trọng số, một bài báo, bốn định dạng lượng tử hóa, các công thức vLLM và SGLang đã được vá, một runtime C++ gốc và một tệp Docker compose trong cùng một tuần không phải là một mớ nghiên cứu ai đó quên công bố — đó là một bản phát hành đã được chuẩn bị rồi tung ra mà không có lớp tiếp thị. Phần sau phân tách những gì các hiện vật chứng minh khỏi những gì chỉ T​encent có thể xác nhận, và cố ý không quan tâm đến việc quyết định liệu mô hình có tốt hay không.

Kho lưu trữ thực sự chứa những gì

Checkpoint cơ sở là tencent/WeMM-Video-2B, Apache 2.0, 6,12 GiB safetensors BF16 trên hai shard. Tệp chỉ mục báo cáo tổng cộng 3.283.624.264 tham số, điều này cho biết một điều mà tên gọi không nói rõ: "2B" là mô hình ngôn ngữ, không phải toàn hệ thống. Xương sống văn bản là một bộ giải mã thuộc họ Qwen3.5 — 24 lớp, kích thước ẩn 2048, 8 đầu chú ý với 2 đầu KV, từ vựng 248.320 token và embedding vị trí tối đa 262.144 token — với bố cục chú ý lai đặt một lớp chú ý đầy đủ sau mỗi ba lớp chú ý tuyến tính. Nằm phía trước nó là một transformer thị giác 24 lớp với kích thước ẩn 1024, và một ngăn xếp âm thanh được xây dựng từ bộ mã hóa Whisper 32 lớp cấp đầu vào cho Q-Former hai lớp có kích thước ẩn 4104. Các tham số còn lại nằm trong hai bộ mã hóa đó.

Generated scoreboard titled 'WeMM-Video-2B — the scoreboard' with six rows: parameters 3.28B total with a 2B language model, modalities in text, image, audio and video plus soundtrack, output text only, video sampling 2 fps from 4 to 16 frames, an 8,192-token context, and no hosted endpoint as the price. A footer reads 'Vendor-reported; no independent evaluations published.'

Kiến trúc đó trả lời câu hỏi mà cái tên đặt ra. Đây không phải là một trình tạo video. Nó nhận video đầu vào — các khung hình cùng với, tùy chọn, âm thanh gốc — và tạo ra văn bản đầu ra. Các ID token của chính cấu hình xác nhận điều đó: một token video, một token âm thanh, một token hình ảnh và một mô hình ngôn ngữ tạo sinh. Nếu bạn đến với hy vọng về một mục khác trong cuộc đua văn bản-thành-video, kho lưu trữ sẽ làm bạn thất vọng ngay lần đọc đầu tiên của thẻ pipeline, đó là image-text-to-text.

• Các kích cỡ trong dòng mô hình — 2B, 4B, 9B dạng dense, và một mô hình hỗn hợp chuyên gia 35B-A3B, tất cả được công bố cùng nhau vào ngày 17 tháng 11.

• Các bản lượng tử hóa cho 2B — FP8 Block128, AWQ W4A16, GGUF Q4_K_M và NVFP4 W4A16, mỗi bản trong kho lưu trữ riêng, mỗi bản được tạo trong vòng mười một phút sau khi có trọng số gốc.

• Các đường phục vụ — Transformers 5.2.0, vLLM 0.18.0 hoặc 0.31.0 đã được vá, SGLang 0.5.16 hoặc 0.5.19 đã được vá, và một runtime gốc cho bản dựng GGUF chạy trên CPU hoặc CUDA.

• Giới hạn đầu vào trong các công thức được phát hành — tối đa bốn hình ảnh, hai video và hai mục âm thanh cho mỗi yêu cầu, với độ dài ngữ cảnh 8.192 token.

• Giấy phép — Apache 2.0 áp dụng cho các trọng số, kèm một tệp thông báo bên thứ ba riêng bao gồm các thành phần LAVIS, vLLM và SGLang.

Chi tiết về phục vụ đã được vá là thứ phân biệt bản này với một đợt phát hành trọng số mở điển hình. Tencent không tung ra một kho "hoạt động trên lý thuyết"; họ tung ra các bản vá overlay cho các phiên bản vLLM và SGLang cụ thể, các tệp phụ thuộc đã khóa, các image Docker được gắn thẻ CUDA 12.9, và một ghi chú xác thực nói rằng checkpoint đã được tải và hoàn tất quá trình sinh trên phần cứng L20 và H20 với văn bản, hình ảnh, âm thanh và video có nhạc nền. Liệu những bản vá đó có trụ vững bên ngoài cụm của chính Tencent hay không chính là kiểu câu hỏi mà một tuần những người lạ chạy chúng sẽ trả lời, và tuần đó vẫn chưa đến.

Screenshot of the Hugging Face model card for tencent/WeMM-Video-2B, showing the image-text-to-text pipeline tag, Transformers and Safetensors, the qwen3_5 architecture with custom code, an Apache-2.0 licence, a model size of 3B parameters, a downloads figure with no deployments, and a Quantizations section listing the four sibling repositories.

Bài báo khẳng định điều gì và ai đã kiểm chứng điều đó

Báo cáo kỹ thuật là arXiv 2611.26409, ngày 19 tháng 11 năm 2026 — hai ngày sau khi các trọng số xuất hiện — và đây là một bài báo về dòng mô hình, không phải bài báo 2B. Mười hai tác giả, người đứng đầu danh sách là Changli Tang, người cuối danh sách là Jing Lyu, tất cả đều thuộc WeChat Vision.

Tuyên bố chính là về mô hình 35B-A3B, không phải mô hình 2B: rằng nó thiết lập một chuẩn mực mã nguồn mở mới trong đánh giá video đa phương thức toàn diện, vượt trội đáng kể so với Qwen3.5-Omni-Flash và Seed2.0-Mini-0428, đồng thời thu hẹp khoảng cách với Gemini-3.0-Flash. Tuyên bố thứ hai thì đúng là liên quan đến mô hình trong tiêu đề của bài viết này: rằng WeMM-Video-9B vượt qua Qwen3-Omni-30B-A3B-Instruct mã nguồn mở lớn hơn. Mô hình 2B xuất hiện trong phần mô tả dòng mô hình và trong danh mục mô hình, nhưng lập luận của bài báo được gánh vác bởi mô hình anh em lớn nhất của nó.

Mọi con số đó đều do nhà cung cấp tự báo cáo. Không có mục nào trên Artificial Analysis, không có kết quả LMArena, không có tái tạo độc lập, và — tại thời điểm viết bài này — không có bất kỳ đánh giá bên thứ ba nào thuộc bất kỳ loại nào cho bất kỳ thành viên nào của dòng mô hình. Bài báo nói các mô hình đã được đánh giá trên hơn 120 bộ chuẩn; bài không nói ai chạy chúng, và câu trả lời là Tencent. Đó không phải lời buộc tội, mà là tình trạng bình thường của một bản phát hành mới sáu ngày. Nhưng điều đó có nghĩa cách mô tả đúng vị thế của 35B-A3B là "Tencent báo cáo rằng nó dẫn đầu", chứ không phải "nó dẫn đầu".

Một lưu ý nữa mang tính cấu trúc chứ không phải biên tập. Một bộ đánh giá chuẩn gồm 120 tác vụ, do chính phòng thí nghiệm đã huấn luyện mô hình lựa chọn và gán trọng số, là một phép đo mức độ phù hợp — nó cho bạn biết mô hình giỏi những việc mà tác giả của nó nghĩ đến việc đo lường. Nó không cho bạn biết mô hình giỏi những việc bạn cần. Khoảng cách giữa hai câu nói đó chính là nơi phần lớn sai lầm khi chọn mô hình được tạo ra, và đọc bảng nhiều đến đâu cũng không lấp đầy được khoảng cách ấy.

Bốn chế độ và lý do đường dẫn âm thanh lại quan trọng

API suy luận cung cấp năm dạng yêu cầu, và dạng đáng chú ý là dạng cuối cùng. Văn bản và hình ảnh không có gì đặc biệt. Chỉ riêng âm thanh cũng không có gì đặc biệt. Chỉ riêng các khung hình video là trường hợp video đa phương thức tiêu chuẩn. Video với nhạc nền gốc của nó là dạng thay đổi những gì có thể yêu cầu mô hình thực hiện, và đây là một kiểu nội dung riêng trong API phục vụ chứ không phải là hành vi ngầm định.

Trên thực tế, điều đó có nghĩa là bạn có thể đưa cho mô hình một đoạn clip và yêu cầu nó mô tả những gì có trên màn hình và tóm tắt những gì đang được nói, chỉ trong một lần gọi, rồi nhận về câu trả lời phản ánh cả hai. Các ví dụ trong model card cũng làm đúng như vậy — phiên âm lời nói tiếng Anh từ một bản ghi âm Apollo 11, rồi mô tả chính tệp MP4 đó khi có và không có track âm thanh. Liệu suy luận kết hợp có tốt hơn việc chạy một mô hình video và một mô hình giọng nói song song rồi ghép nối các đầu ra hay không là một câu hỏi thực nghiệm, và đó là điều hữu ích nhất mà một bên đánh giá độc lập có thể kiểm tra.

Quyết định thiết kế khác đáng được nêu tên là mẫu trò chuyện hai chế độ. Truyền enable_thinking=False sẽ cho phản hồi trực tiếp; enable_thinking=True sẽ cho một dấu vết suy luận trước câu trả lời. Đó là một núm điều chỉnh giữa độ trễ và chất lượng được phát hành dưới dạng cờ mẫu thay vì hai checkpoint, một lựa chọn hợp lý cho mô hình 2B — bạn không phải trả giá cho bộ trọng số thứ hai để có được hành vi thứ hai.

Chạy nó, và thực trạng trung thực về tính khả dụng

Lộ trình khởi động nhanh là một môi trường Python 3.12, một GPU NVIDIA, một trình điều khiển tương thích với CUDA 12.9 và FFmpeg. Cài đặt Torch 2.10.0, TorchVision 0.25.0 và TorchCodec 0.10.0 từ chỉ mục CUDA 12.9, sau đó là Transformers 5.2.0, Accelerate, Pillow, Librosa, SoundFile, SciPy và Requests. Mô hình được tải thông qua AutoModelForImageTextToText với trust_remote_code=True — kiến trúc là tùy chỉnh, vì vậy cờ đó có vai trò thiết yếu chứ không chỉ để trang trí, và thẻ mô hình hướng dẫn đúng rằng bạn nên đọc mã tùy chỉnh trước khi bật nó.

Nếu bạn muốn có một server thay vì một script, công thức vLLM ghim một bản build 0.18.0 đã được vá và truyền --no-enable-prefix-caching cùng với --mamba-ssm-cache-dtype float32, đây là một sự kết hợp cho bạn biết rằng các lớp attention tuyến tính lai vẫn chưa có prefix cache hoạt động được. Đó là một giới hạn thông lượng thực sự đối với các workload chat, và đó là kiểu chi tiết chỉ lộ ra khi có người thực sự đã thử phục vụ thứ này.

Điều còn thiếu trong mọi tài liệu là giá. Không có endpoint do Tencent lưu trữ cho WeMM-Video-2B, không có mức giá theo token, không có triển khai được quản lý. Bạn tải trọng số về và bạn sở hữu GPU. Về phía OrcaRouter, tuyên bố trung thực cũng là điều tương tự: chúng tôi không phục vụ WeMM-Video-2B. Thứ chúng tôi thực sự cung cấp từ Tencent là dòng văn bản Hunyuan — tencent/hy4, tencent/hy4-flash và các bản preview — trên một endpoint tương thích OpenAI theo giá niêm yết của nhà cung cấp, với mức phụ trội 0%, hữu ích nếu pipeline của bạn cần một mô hình văn bản từ cùng phòng thí nghiệm và vô dụng nếu nó cần mô hình này. Hai sản phẩm khác nhau, một tên nhà cung cấp, và việc nhầm lẫn chúng sẽ là sai lầm dễ mắc phải khi vội vàng.

Screenshot of the OrcaRouter catalogue page for tencent/hy4, showing pricing of $0.56 per million input tokens and $2.24 per million output tokens, a quality score of 90, a speed score of 67, a 1M-token context window, a 64k maximum output, zero-data-retention support and a release date of 4 November 2026.

Từ tò mò đến giới thiệu

Ba điều, theo thứ tự về mức độ tác động mà chúng có thể tạo ra.

Điều đầu tiên là một đánh giá độc lập trên một bộ chuẩn mà T​encent không tự lựa chọn. Bất kỳ lượt chạy đấu trường mù nào — hiểu video, hỏi đáp âm thanh-hình ảnh, hay bất cứ thứ gì gần nhất — sẽ ngay lập tức cho bạn biết liệu vị thế được tuyên bố của dòng mô hình này có đứng vững khi đối chiếu với một bộ lời nhắc trung lập hay không. Cho đến khi điều đó tồn tại, "thành tựu mã nguồn mở mới nhất" của 35B-A3B chỉ là một tuyên bố về một bảng trong một tệp PDF.

Thứ hai là một báo cáo serving từ bên ngoài T​encent. Các bản vá rất cụ thể, phần cứng rất cụ thể, và ghi chú xác thực bao gồm hai mẫu GPU. Liệu nó có chạy trơn tru trên một node H100, một node A100 hay một chiếc 4090 thuê hay không vẫn chưa rõ, và câu trả lời sẽ quyết định liệu 2B là một dự án cuối tuần hay một artifact nghiên cứu.

Điều thứ ba là một thông báo của nhà cung cấp — bất kỳ thông báo nào của nhà cung cấp. Một bài đăng blog, một thẻ mô hình trên trang sản phẩm T​encent, một bậc giá. Hiện tại, bản phát hành chỉ có thể được nhận ra bởi những người đọc dấu thời gian trong kho lưu trữ, và cửa sổ bảy ngày mà điều đó còn đúng đang khép lại. Nếu T​encent không công bố gì, cách hiểu khả dĩ nhất là các trọng số này tồn tại để hỗ trợ bài báo và mô hình 35B, còn 2B chỉ là một checkpoint tiện lợi chứ không phải là một sản phẩm.

Đó chính là điểm mấu chốt thực sự. WeMM-Video-2B là một mô hình đa phương thức thực sự, có thể tải xuống, theo giấy phép Apache-2.0, mà chưa ai công bố, chưa ai tải xuống và chưa ai kiểm thử độc lập. Nếu công việc của bạn liên quan đến hiểu biết kết hợp âm thanh-hình ảnh và bạn có một GPU dư thả cùng một buổi chiều, thì chi phí để tìm hiểu xem nó làm được gì chính là việc tải nó về. Nếu công việc của bạn liên quan đến việc phát hành sản phẩm vào tháng sau, chi phí để tìm hiểu sẽ cao hơn thế, và điều có trách nhiệm là chờ số liệu của người khác.

So sánh trong bài viết này1

Phát hiện từ bài viết này