
WeMM-Video-4B: Tencent의 조용한 5.6B 오디오-비주얼 모델
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 185 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 826 tok/s
- AlibabaNEWQwen: Qwen4 Max2026-11-16$1.50 / $4.50 100만 토큰당 · 407 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 87 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 150 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 83 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 120 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 108 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 90 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 212 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 100만 토큰당 · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
...라는 라벨이 붙은 파일인 WeMM-Video-4B의 용량은 10.45 GiB이고, BF16 파라미터당 2바이트로 계산하면 56억 1,000만 개 파라미터가 된다 — 40억 개가 아니다. Tencent 자체의 safetensors 메타데이터도 같은 말을 한다: 파라미터 수 5,611,746,312개. 이름에 있는 "4B"는 체크포인트가 아니라 언어 백본이다. 그 작은 산술적 착오는 WeMM-Video 제품군으로 들어가는 올바른 길이다. 이번 공개에 관한 거의 모든 흥미로운 점이 라벨과 실제 대상 사이의 간극이기 때문이다: 출시 글이 없이 공개된 네 가지 크기의 제품군, 비디오에서는 Qwen3-Omni-30B-A3B-Instruct와 MiniCPM-o-4.5-9B를 이기지만 오디오에서는 Qwen3.5-Omni-Flash에 지는 벤치마크 스위트, 그리고 모든 출시 구성이 자발적으로 8,192토큰으로 줄여버리는 256K 위치 임베딩. 가중치는 실제로 존재하고, 논문은 공개되어 있으며, 아직 아무도 이 중 어느 것도 다운로드하지 않았다.
다음은 해당 패밀리의 Hugging Face 카드들이 한데 뒤섞어 놓은 세 가지, 즉 저장소에서 측정 가능한 것, Tencent 자체 평가만 보고하는 것, 그리고 WeChat Vision 외부의 누구도 확인하지 않은 것을 구분한다.
4B라는 파일은 56억 1천만 개의 파라미터를 담고 있습니다.
Hugging Face는 저장소별로 총 파라미터 수를 기록하며, 네 개의 WeMM-Video 기본 체크포인트의 경우 이름에 표시된 크기보다 약 12억에서 16억 개 더 많게 일관되게 나타납니다.
• WeMM-Video-2B — "2B"라는 표기에 비해 총 3.28B.
• WeMM-Video-4B — "4B"라는 표기에 비해 총 5.61B입니다.
• WeMM-Video-9B — "9B" 라벨 대비 총 10.49B.
• WeMM-Video-35BA3B — "35B-A3B"라는 표기와 달리 총 36.18B이며, 이 중 토큰당 30억 개만 활성화됩니다.
4B의 safetensors 인덱스를 읽어 보면 잉여분이 눈에 보인다. 1,268개 텐서 중 언어 모델은 4.21B 파라미터를, 오디오 스택은 1.07B를, 비전 타워는 0.33B를 담고 있다. 체크포인트의 약 19퍼센트가 귀인 셈이다. 논문은 이 명명 관례가 의도적임을 확인한다. 세 개의 dense 모델은 Qwen3.5-2B, Qwen3.5-4B, Qwen3.5-9B를 기반으로 하고, mixture-of-experts 모델은 Qwen3.6-35B-A3B를 기반으로 한다.
배포 규모를 산정하는 누구에게나 이는 중요합니다. 5.61B 파라미터를 위한 공간이 필요한 "4B" 모델은 — KV 캐시나 활성화를 고려하기 전에도 BF16에서 10.45GiB를 차지하므로 — 카드에 적힌 숫자가 시사하는 것과는 다른 장비에 들어갑니다.
저장소 18개, 19분, 공지 없이
이 패밀리는 조금씩 공개된 것이 아니었다. Hugging Face 생성 타임스탬프에 따르면 18개 저장소 전체—4가지 크기 × 5가지 정밀도—가 2026년 11월 17일 08:53:50부터 08:59:06 UTC까지의 구간에 약 14초 간격으로 들어가 있으며, 이는 사람이 퍼블리시를 클릭한 것이 아니라 업로드 스크립트가 남긴 특징이다. GitHub 저장소 Tencent/WeMM-Video는 같은 날 02:29:33 UTC에 생성되었고, 실질적인 최초 커밋은 11월 19일에 도착했으며 README 수정은 11월 20일까지 이어졌다.

논문은 11월 19일 뒤이어 나왔다: arXiv 2611.26409, "WeMM-Video: 오픈소스 옴니모달 비디오 이해의 최전선을 확장하다", 저자 12명, 16:58 UTC 제출. 결과 표 7개와 평가 및 재현 파이프라인 링크를 갖춘 완전한 기술 보고서다. 따라서 이는 문서화되지 않은 무단 공개가 아니라, 아무도 공표하지 않은 문서화된 공개다. 우리는 이 제품군을 가리키는 Tencent 블로그 글, WeChat Vision 출시 페이지, 보도자료, 유료 티어를 찾을 수 없었다; 모델 카드, GitHub README, arXiv 논문이 공개 기록의 전부이며, 그것들은 서로를 위해 작성되었다.
반응 수치는 같은 이야기를 들려준다. 이 글을 쓰는 시점에 네 개의 기본 체크포인트는 모두 다운로드 0회를 기록했고, 그 사이에 있는 18개 저장소가 모은 좋아요는 3개였다. Artificial Analysis도 LMArena도 WeMM 모델을 목록에 올리지 않는다. 그중 어느 것도 품질에 대한 증거는 아니다. 그것은 배포에 대한 증거이며, 여러 비디오 벤치마크에서 30B를 앞서는 4B 체크포인트에 독립적인 수치가 붙어 있지 않은 이유다.
체크포인트 안에는 무엇이 있나요?
패밀리 프레이밍을 걷어내면, 4B는 독특한 백본 선택이 하나 들어간 표준 3-타워 옴니 스택이다.
• 언어 타워 — 32개 레이어, 은닉 크기 2,560, 4개의 키-값 헤드에 대한 16개의 어텐션 헤드, 헤드 차원 256, 어휘 크기 248,320. 백본은 하이브리드입니다. 네 번째 블록마다 완전 어텐션 레이어가 하나씩 있고 나머지 세 개는 선형 어텐션을 사용하기 때문에, 저장소의 모든 서빙 레시피에 float32 SSM 캐시 플래그가 포함되어 있습니다.
• 비전 타워 — 히든 크기 1,024의 블록 24개, 패치 크기 16, 공간 병합 2, 시간 패치 2, 2,560으로 투영. 이는 백본의 기본 인코더로, 교체되지 않고 유지되며, 논문에서는 "이미 충분히 강력한 시각적 표현을 제공"하기 때문에 두 번째 사전 학습 단계부터 이를 동결한다.
• 오디오 타워 — Whisper 스타일이며, 너비 1,280의 32개 인코더 및 32개 디코더 레이어를 갖추고 있고, 0.1초 창을 초당 10개의 오디오 토큰으로 압축하는 윈도우 수준 Q-Former가 있습니다. 오디오는 16 kHz로 30초 청크 단위로 들어옵니다. 이 부분은 Qwen2.5-Omni에서 초기화된 부분이며, 1.07B 매개변수 기준으로 이름과 파일 사이의 가장 큰 단일 차이입니다.
• Fusion — 시각 및 오디오 토큰이 명시적인 텍스트 타임스탬프와 함께 시간 순서대로 인터리브되며, 별도의 스트림으로 풀링되지 않습니다.
• 모드 — 직접 답변을 위한 Instruct 모드와 응답 전에 추론 트레이스를 출력하는 Thinking 모드가 있으며, 채팅 템플릿 수준에서 enable_thinking.
• 라이선스 — 컬렉션 전체에 Apache 2.0이 적용되며, Tencent의 라이선스 파일은 "각자의 원래 조건이 계속 적용되는" 제3자 구성 요소를 별도로 구분합니다. 이 예외는 모델 카드에 항목별로 명시되어 있지 않습니다.
설정에는 256K, 서빙 명령에는 8K
텍스트 구성은 max_position_embeddings의 값이 262,144임을 선언합니다. Tencent가 공개하는 모든 서빙 명령 — vLLM 프로필 두 개와 SGLang 프로필 두 개 모두 — 은 max-model-len 8192 또는 context-length 8192를 전달합니다. 256K 수치는 아키텍처상의 여유 공간일 뿐 지원되는 구성이 아니며, 저장소 어디에도 여기에 도달하는 방법은 설명되어 있지 않습니다.
프레임 예산도 같은 형태입니다. 프로세서 자체의 기본값은 넉넉합니다: 초당 2프레임, 최대 128프레임, 총 25,165,824픽셀입니다. vLLM 레시피는 세 가지를 모두 낮춥니다 — fps 2, max_frames 16, total_pixels 262144. 명령을 그대로 복사하면 16프레임이 나옵니다. 16프레임으로 샘플링한 클립은 128프레임으로 샘플링한 클립과 다른 입력이며, 논문은 비디오 평가에 어떤 샘플링을 사용했는지 명시하지 않습니다.
• 요청당 미디어 제한(출시 기준) — 이미지 4개, 동영상 2개, 오디오 항목 2개.
• 출시 당시의 컨텍스트 — 8,192토큰이며, 오디오는 어떤 비디오 프레임도 집계되기 전에 초당 10토큰을 소비합니다.
4B 모델에게 그 두 숫자는 실제 작업에서 결정적인 제약 조건입니다. 8,000토큰은 약 13분 분량의 오디오일 뿐 그 외에는 아무것도 아니며, 사운드트랙이 있는 비디오는 예산을 두 스트림에 동시에 사용합니다. 아래의 긴 비디오 벤치마크는 리포지토리에 설명되지 않은 조건에서 실행되었습니다.
벤치마크는 저자들이 직접 만든 것입니다.
이 기사의 모든 숫자는 WeMM-Video 기술 보고서에서 나온 것입니다. 논문은 이를 분명히 밝힙니다 — "기존 모델의 경우, 가능한 경우 공식 결과를 보고하고 그렇지 않은 경우 우리 자체 평가를 보고합니다" — 그리고 어떤 제3자도 이 중 어느 것도 재현하지 않았습니다. 모드 또한 표마다 달라지는데, 이는 평소보다 더 중요합니다. 왜냐하면 Thinking 모드는 공짜가 아니기 때문입니다: 비디오 표는 2B, 4B, 9B에 대해 Thinking을 보고하고, 오디오 표는 저자들이 표준 오디오 벤치마크를 "직접 지각" 과제로 판단했기 때문에 Instruct를 보고하며, 이미지와 텍스트 표는 다시 Thinking으로 돌아갑니다. 오디오 표의 4B 행을 비디오 표의 경쟁 모델 행과 비교하는 것은 비교가 아닙니다.

그런 유의점을 전제로 하면, 옴니모달 비디오 테이블은 4B가 파일 크기를 정당화하는 곳이다.
4B가 30B를 이기는 곳
논문의 표 2는 WeMM-Video-4B를 Qwen3-Omni-30B-A3B-Instruct 및 MiniCPM-o-4.5-9B와 오디오-시각 결합 벤치마크에서 비교하며, 모두 Thinking 모드로 진행한다. 4B 모델은 자신보다 일곱 배 큰 모델을 상대로 대부분의 벤치마크에서 승리한다.
• 오디오 포함 Video-MME — WeMM-Video-4B 83.9, Qwen3-Omni-30B-A3B-Instruct 77.3, MiniCPM-o-4.5-9B 69.2.
• 오디오 포함 Video-MME v2 — 36.3 및 28.1 대비 48.1, 표에서 가장 큰 격차.
• Daily-Omni — 70.7 및 80.2 대비 82.5.
• WorldSense — 60.3 대 54.0 및 55.7.
• OmniVideoBench — 45.4와 37.2 대비 49.7.
무음 영상 표가 훨씬 더 강력하며, 구매를 결정해야 하는 기준은 바로 이것입니다. 사운드트랙을 제거하고 시각만 테스트한 결과: Video-MME 75.7 대 70.5 및 70.4, LVBench 65.3 대 50.2 및 50.9, LongVideoBench 74.8 대 63.5 및 66.0, EgoSchema 74.2 대 66.4 및 60.4. 4B에서 LVBench 15포인트 우위는 반올림 오류가 아닙니다. 긴 영상 이해는 소형 옴니 모델이 역사적으로 무너져 온 바로 그 지점입니다.
이미지 및 텍스트 항목은 압도적이라기보다 경쟁력이 있습니다. MMMU는 78.4 대 Qwen3.5-Omni-Flash의 76.9, MathVista는 85.2 대 82.9, DocVQA는 96.5 대 95.3, IFEval은 91.3 대 85.2입니다. 이는 독자가 실제로 가장 필요로 할 가능성이 높은 항목들이며, 충분히 견고합니다.
어디에서 지며, 무엇에 지는가
손실은 구체적이며 이름 붙일 만한 가치가 있다. 승리만 보여주는 표야말로 이 블로그가 피하려는 바로 그런 것이기 때문이다.
• 오디오, 독점 플래시 모델 대비 — Qwen3.5-Omni-Flash는 MMAU에서 80.4, MMAR에서 74.0을 기록했으며, WeMM-Video-4B는 각각 75.2와 67.3을 기록했습니다. 4B가 오디오에서 거둔 유일한 우위는 MMAU-Pro에서 68.1 대 64.8입니다.
• 비디오, 코너에서 — Video-Holmes 58.8 대 MiniCPM-o-4.5-9B의 64.3, FutureOmni 50.9 대 Qwen3-Omni-30B-A3B-Instruct의 55.1 및 MiniCPM의 56.1. 더 작거나 더 오래된 경쟁자가 완승하는 두 가지 벤치마크입니다.
• 이미지 및 텍스트 — MMMU-Pro는 64.7 대 68.2, OCRBench는 85.7 대 89.1, GPQA는 73.2 대 76.4, MMLU-Pro는 78.3 대 79.9입니다. 서빙 지향 독점 모델에 1~6점 뒤지는데, 5.61B 체크포인트로서는 뒤처져 있어도 괜찮은 위치입니다.
WeMM-Video-4B가 오디오-비주얼 결합 비디오에 맞춰 튜닝되었고 그 외 모든 영역에서도 제 몫을 해냈다는 해석이다. 클립에서 무슨 일이 일어나는지 설명하고 그 위에서 말하는 내용을 요약하는 것이 당신의 일이라면, 수치는 좋다. 당신의 일이 밀도 높은 OCR이나 대학원 수준의 텍스트 추론이라면, 같은 체크포인트는 타협안이다.
그것을 실행한다는 것은 자신의 런타임을 패치하는 것을 의미합니다

vLLM과 SGLang 모두 업스트림에서 이 아키텍처를 지원하지 않습니다. vLLM 이슈 트래커를 검색해도 WeMM-Video 요청은 나오지 않으며, 저장소는 patch 디렉터리를 대신 제공합니다: 정확히 네 개의 업스트림 릴리스—vLLM 0.18.0 및 0.31.0, SGLang 0.5.16 및 0.5.19—에 대한 SHA-256 매니페스트가 포함된 소스 오버레이가 들어 있으며, 각각 특정 PyTorch, Transformers 및 CUDA 12.9 조합에 고정되어 있습니다. Python 3.12와 FFmpeg가 필요하고 TorchCodec은 링커 경로에 CUDA 12 NPP가 필요합니다. SGLang은 추가로 첫 사용 시 CUDA 커널을 컴파일하므로 C++ 툴체인과 Ninja가 설치 과정의 일부입니다.
GGUF 경로도 지름길이 아닙니다. 이는 세 파일로 구성된 번들로, 4.90 GiB 언어 파일, 0.63 GiB 비전 프로젝터, 2.00 GiB 오디오 파일로 이루어져 있으며, llama.cpp나 Ollama용이 아니라 저장소에서 직접 컴파일하는 "WeMM 네이티브 런타임"을 위해 빌드된 것입니다. Tencent 자체 매니페스트는 이 내보내기에 exported_unvalidated라는 레이블을 붙였고, 함께 제공되는 범위 파일에는 quantized_candidate_not_validated라고 적혀 있습니다. 이는 이례적으로 솔직한 레이블링이며, 문자 그대로 받아들여야 합니다. Q4_K_M 번들은 제공되는 것이지 보증되는 것은 아닙니다.
Tencent가 검증되었다고 주장하는 범위는 좁다. 패치된 vLLM이 H20에서 체크포인트를 로드하고 사운드트랙이 포함된 비디오와 텍스트, 이미지, 오디오에 대한 생성 검사를 완료했으며, 로컬 체크포인트는 직접적인 Transformers 로드와 CPU 텍스트 생성 검사를 통과했다. 처리량, 지연 시간, 메모리 사용량, 동시성 수치는 없다. 판매 포인트가 비디오인 모델에게 “생성되었다”는 것은 배포 결정에 필요한 것의 최저 기준일 뿐이다.
OrcaRouter는 WeMM-Video-4B를 서비스하지 않습니다. 카탈로그에 WeMM 체크포인트가 전혀 없으므로 제시할 호스팅 가격도, 가리킬 엔드포인트도 없습니다. 현재로선 다른 곳의 추론 엔진에 패치를 적용하는 자체 호스팅 작업입니다. 작업의 비전 전용 절반을 위해서는 플랫폼에 공개 대안이 있습니다 — Qwen3-VL-235B-A22B-Thinking과 Qwen3-VL-8B-Thinking 모두 이미지와 비디오 프레임을 입력으로 받습니다 — 사용 가능한 경로는 하나의 OpenAI 호환 키이며, 오디오 절반에 대응하는 WeMM 동등 제품은 없습니다. 호환 호스트가 이 가중치를 실제로 서비스하기 시작하면 제공업체 정가가 0% 마크업으로 그대로 전달되지만, 이는 조건일 뿐 현재의 사실은 아닙니다.
아직 확인되지 않은 것은 무엇인가?
구매자가 일반적으로 출시에서 얻을 수 있지만 여기서는 얻을 수 없는 네 가지.
• 가격. 그런 것은 없습니다. 호스팅 엔드포인트도, 토큰당 요금도, 파트너 목록도 없습니다. 유일한 비용은 이미 보유한 GPU뿐입니다.
• 독립 평가. Artificial Analysis 항목 없음, 아레나 제출 없음, 제3자 재현 없음. 평가 파이프라인은 공개되어 있으며, 이는 그다음으로 좋은 것이고 같은 것은 아닙니다.
• 평가 조건. 벤치마크 실행에 사용된 프레임 수, 픽셀 예산 및 컨텍스트 길이는 논문에 명시되어 있지 않으며, 배포된 레시피는 프로세서 기본값이 128프레임인데도 16프레임을 사용합니다.
• 제3자 라이선스 예외 조항. Tencent는 컬렉션 내 구성 요소가 원래 조건을 유지한다고 밝히지만 이를 열거하지는 않는다. 오디오 스택은 Qwen2.5-Omni에서, 백본은 Qwen3.5에서 파생되었으며 둘 다 Apache 2.0이라는 점은 결정적이기보다는 안심이 되는 부분이다.
그중 어느 것도 이 릴리스를 일축할 이유가 아니다. 오히려 이 제품군을 눈에 보이는 그대로 다뤄야 할 이유다: 19분이라는 시간 안에 온라인에 올라온 18개의 저장소와 기술 보고서, 그리고 공지 단계는 건너뛴 채로. 문서는 대부분의 공지된 출시보다 낫다. 배포는 전무하다.
하드웨어를 직접 통제하는 팀이 오디오-비주얼 공동 이해를 필요로 한다면, WeMM-Video-4B는 이번 달 공개된 가장 흥미로운 소형 체크포인트이며, 비디오 수치들은 패치 작업의 가치를 뒷받침합니다. 금요일까지 엔드포인트가 필요한 사람에게 솔직한 답은 이것이 아직 그런 엔드포인트는 아니라는 것입니다. 가중치는 존재하지만 런타임은 소스 오버레이 형태이고, 벤치마크는 저자들의 것뿐입니다. 첫 독립 재현, vLLM 업스트림 병합, 또는 호스팅 가격 중 무엇이 먼저 나오는지 지켜보십시오. 무엇이 먼저 도착하든 Table 2의 또 한 줄보다 더 많은 것을 알려줄 것입니다.
이 글에서 비교한 모델1
이 글에서 자동 인식
