MiniCPM-V 4.7 35B-A3B vs MiniCPM-V 4.7: 이 이름 중 하나는 모델이 아니다

MiniCPM-V 4.7을 검색하면 모델 카드, 벤치마크 표, 휴대폰 데모, 다운로드 버튼이 나옵니다. MiniCPM-V 4.7 35B-A3B를 검색해도 같은 것들이 나옵니다. 두 이름이 같은 릴리스를 가리키기 때문이며, 바로 이것이 둘을 비교할 때의 어려움 전부입니다. OpenBMB의 모델 카드는 이 점을 단번에 정리하는 문장으로 시작합니다. MiniCPM-V 4.7은 시리즈의 최신 모델이며 35B-A3B 변형으로 제공되고, 35B-A3B는 해당 시리즈의 첫 MoE입니다. 접미사 없는 이름은 배너입니다. 접미사가 붙은 이름은 체크포인트입니다. 350억 파라미터 규모의 희소 전문가 혼합 모델을 한쪽에 두고 배너를 다른 쪽에 둔다면, 그것은 비교가 아니라 어느 아티팩트를 다운로드하려 했는지에 대한 질문입니다. 그 질문에 답하면 이 페이지의 나머지는 사양표일 뿐입니다.

이름, 결정됨

"MiniCPM-V 4.7"이라는 이름에 해당하는 것은 세 가지인데, 그중 다운로드할 수 있는 것은 둘뿐이다.

• openbmb/MiniCPM-V-4.7 — 존재하지 않습니다. 해당 URL은 가중치 페이지가 아니라 인증 오류를 반환합니다. 이 이름으로 된 베어 체크포인트는 존재한 적이 없으며, 한쪽 수치 세트를 다른 쪽 레이블 아래 인용하는 보도는 저장소가 전혀 없는 이름 아래에 35B 수치를 인용하는 것입니다.

• 이 시리즈는 — OpenBMB가 관리하는 Hugging Face 컬렉션으로, 4.7 배너 아래에 13개의 리포지토리를 담고 있습니다: 기본 35B-A3B 체크포인트, GGUF 빌드, FP8, AWQ, GPTQ 및 int4 양자화 버전, 짝을 이루는 DSpark 추측 드래프트 헤드, 그리고 소형 모델을 위한 동일한 6종 구성이 다시 포함됩니다. 이 컬렉션이 제품 라인으로 사용될 때 "MiniCPM-V 4.7"이 의미하는 바입니다.

• openbmb/MiniCPM-V-4.7-35B-A3B — 발표에서 다루는 체크포인트로, 2026년 10월 7일 07:07 UTC에 생성되었고 Apache-2.0 라이선스가 적용되었으며, 10월 12일에 전체 모델 카드가 추가되었습니다. 현재 이 제품군에서 벤더 벤치마크 표를 제공하는 유일한 항목입니다.

그러니까 "MiniCPM-V 4.7 vs MiniCPM-V 4.7 35B-A3B"에 대한 솔직한 답은, 이 질문이 결국 하나의 시리즈 안에서 어떤 변형을 고르느냐의 문제로 귀결되며, 시리즈 이름만으로는 파일을 얻을 수 없다는 것입니다. 그 시리즈 이름으로 실제 얻을 수 있는 단 하나의 파일은 35B-A3B이고, 그래서 독자들은 둘이 같은 것이라고 생각한 채로 찾아옵니다.

런칭이 실제로 무엇으로 구성되는지

OpenBMB의 자체 README에는 두 가지 변형과 하나의 공유 비전 타워가 설명되어 있으며, 릴리스 날짜를 2026년 10월 12일로 명시합니다 — 가중치가 업로드된 지 5일과 6일 후입니다. 릴리스 날짜를 인용한다면 그 간격은 중요합니다. 저장소는 10월 6일과 7일에 생성되었고, 카드와 라이선스 태그, 차트, 발표는 모두 12일에 공개되었습니다. 매개변수는 12일에 변하지 않았습니다. 문서가 변했습니다.

문서에서 다루는 내용은 두 가지 변형 모두 다음과 같습니다:

• 두 개의 체크포인트 — 35B-A3B 희소 MoE와 1B 덴스 모델로, 계보 이름과 비전 타워를 공유하고 그 아래에는 다른 무엇도 공유하지 않는다.

• 공유 비주얼 경로 — 패밀리 고유의 minicpmv4_7_vision 타워로, 은닉 크기 1,152에서 27개 층, 패치 크기 14, 이미지 크기 980이며, 레이어 6에서 언어 스택에 접합되고, 그 앞에는 OpenBMB가 LLaVA-UHD v4의 공적으로 돌리는 intra-ViT 조기 압축이 있습니다.

• 혼합 4x/16x 비주얼 토큰 압축 — 요청별로 선택 가능하며, 처리량을 위해 기본값은 16x이고 세부 묘사를 위해 4x입니다. 이 카드에는 비교 표의 다른 어떤 모델도 이 선택지를 제공하지 않는다고 나와 있으며, 이 설정을 채팅 템플릿과 generate 호출 모두에 전달해야 한다고 언급합니다. 그렇지 않으면 플레이스홀더 개수와 비전 인코더가 서로 맞지 않습니다.

• 더 이상 가중치에 관한 이야기가 아닌 배포 스토리 — iOS, Android, HarmonyOS 대상, Rockchip, Houmo, Intel, AMD, Arm의 데이원 칩 지원, Intel CPU/GPU/NPU용 OpenVINO, 그리고 SGLang, vLLM, llama.cpp, Ollama 전반에 걸친 프레임워크 지원. 여기서 제품은 앱과 양자화 빌드이며, BF16 다운로드가 아닙니다.

두 개의 체크포인트, 차원별로

6가지 차원, 양쪽 모두, 각 숫자가 실제로 얼마의 가치인지에 대한 설명과 함께.

• 파라미터와 구조 — MiniCPM-V 4.7 35B-A3B: 저장된 파라미터 35,212,875,824개, 희소(sparse), 토큰당 8개가 활성화되는 256개의 전문가, 전문가 중간 크기 512에 더해 같은 크기의 공유 전문가 1개. MiniCPM-V 4.7의 1B 변형: 파라미터 1,554,476,272개, dense, 모든 토큰에서 그중 전부가 활성화됩니다. 두 총계는 같은 수량이 아니며, MoE의 토큰당 활성 예산은 공개되지 않았으므로, "A3B"는 dense 모델과 비교할 수 있는 측정값이 아니라 이름의 일부로 읽으십시오.

• 다운로드 규모 — MiniCPM-V 4.7 35B-A3B: KV 캐시는 제외하고도 BF16의 safetensors 샤드 16개에 나누어 담긴 70.4GB. MiniCPM-V 4.7 1B: 단일 가중치 파일에 약 3.1GB. 한쪽은 다운로드량이 22배이며, 이들 중 어느 것이 별다른 설정 없이 핸드셋 모델인지를 정직하게 따지는 기준은 — 사다리에서 양자화 하나를 선택하기 전까지는 둘 다 아니다.

• 텍스트 백본과 깊이 — MiniCPM-V 4.7 35B-A3B: Qwen 계열의 희소 MoE 텍스트 스택으로, hidden size 2,048에서 40개 레이어, 16개의 쿼리 헤드 대 2개의 키/값 헤드, 어휘 크기 248,144. MiniCPM-V 4.7 1B: Qwen 계열의 밀집 텍스트 스택으로, hidden size 1,024에서 24개 레이어, 8개의 쿼리 헤드 대 2개의 키/값 헤드, 어휘 크기 248,094. 동일한 설계 아이디어를 한 단계 아래로 옮긴 것.

• 어텐션 — 두 모델 모두: 선형 어텐션 대 전체 어텐션의 고정된 3:1 반복입니다. 35B의 40개 레이어 중 30개는 선형 경로를, 10개는 기존 방식을 택합니다. 1B의 24개 중 18개는 선형 경로를, 6개는 기존 방식을 택합니다. 이 지점에서 두 모델은 진정으로 동일한 아키텍처를 확장한 것이며, KV 캐시가 폭발하지 않으면서 두 모델 모두 256K 컨텍스트를 감당하는 이유이기도 합니다.

• 컨텍스트 — 두 모델 모두: 최대 262,144 포지션, 동일한 canvas 멀티모달 로터리 임베딩 모드. 변형 페널티 없음, 소형 모델에서 잘림 없음.

• 라이선스 — 둘 다: Apache-2.0이며, 저장소 프런트 매터에 명시되어 있고 README에서도 이를 밝히고 있습니다. 둘 다 Hugging Face와 ModelScope에도 배포됩니다. 저울질할 만한 약관 차이는 없습니다.

그중 하나에는 벤치마크 테이블이 존재합니다.

실제로 결정을 좌우하는 비대칭이 여기 있다. 35B-A3B 체크포인트는 OpenBMB의 비교 표를 제시한다 — MMMU 약 80.2, OCRBench 약 91.2, OmniDocBench v1.6은 90점대 후반, CharXiv 추론은 70점대 중반, TextVQA는 80점대 중반 — 이는 Instruct 모드에서 35B-A3B급 Qwen 모델 두 개, 31B Gemma 하나, 27B Qwen 두 개와 대비된다. 이 기사는 해당 릴리스가 문서화되었을 때 그 표들이 얼마나 가치가 있는지 다뤘다; 짧게 말하면 벤더가 보고하고, 벤더가 하네스를 돌렸으며, 재현되지 않았고, 공개된 점수 표가 아니라 PNG 차트에서 뽑아낸 것이다.

1B는 같은 문서 안에 자체 차트를 가지고 있는데, 거기서의 비교 대상은 더 작은 범위다. 두 크기 중에서 고르고 있다면, 이 카드들이 주는 유용한 정보는 점수가 아니다. 더 큰 체크포인트가 바로 그 효율성 논거를 위해 작성된 것이라는 점이다. 이번 릴리스 전체를 떠받치는 온디바이스 수치, 즉 iPhone 17 Pro Max에서 약 3 GB의 메모리로 초당 13개 이상의 토큰이라는 수치는 35B-A3B의 수치이며, Lookahead Expert Scheduling이 양자화된 가중치를 통해 여러 레이어에 걸쳐 전문가를 프리페치하는 방식으로 산출된 것이다. 작은 덴스 모델에는 그런 기법이 필요 없다. 15억 5천만 개의 덴스 파라미터는 그런 것 없이도 휴대폰의 작업 메모리에 들어가기 때문이다.

곱씹어볼 만한 역전이다. 작은 모델은 단순명료하고 벤치마크 측면에서는 문서화가 거의 되어 있지 않으며, 큰 모델은 문서가 방대하지만 실행하기 어렵다. 어느 쪽 위치도 명백히 더 낫지는 않다.

사람들이 실제로 다운로드하는 것은 어느 것인가요?

Hugging Face 카운터는 두 모델 카드 어디에도 명시되지 않은 사실을 더해주며, 이는 더 큰 모델에 힘을 실어준다. 2026년 10월 13일에 확인한 바, 베이스 openbmb/MiniCPM-V-4.7-35B-A3B 저장소는 다운로드 630회를 기록했고, 동일 체크포인트의 -gguf 빌드는 10,000회를 조금 넘겨 트래픽이 약 16배다. 1B의 경우 베이스 저장소와 해당 GGUF 빌드는 각각 263회와 2,064회로, 훨씬 작은 절대 규모에서 비슷한 비율을 보인다.

두 가지 해석이 가능하며, 둘 다 데이터와 부합합니다. 사람들이 실제로 실행되는 빌드이기 때문에 양자화 빌드를 먼저 내려받는 경우이거나, BF16 체크포인트는 아무도 배포하지 않는 것이기 때문에 BF16 수치가 단순히 뒤처지는 경우입니다. 어느 쪽이든, 다운로드 카운터는 어떤 아티팩트가 중요한지를 측정하고 있으며, 그 아티팩트는 이름에 크기가 들어 있는 것이 아닙니다. 이 결정의 규모를 가늠하고 있다면, 70.4 GB가 아니라 GGUF 또는 AWQ 빌드를 기준으로 가늠하세요.

반대 방향으로 작용하는 목록 세부 정보가 하나 더 있습니다. 두 리포지토리 모두 MiniCPM-V 제품군의 나머지에서 물려받은 "On-Device Model" 태그를 달고 있는데, 70GB BF16 MoE에서 이 태그는 양자화와 전문가 스트리밍을 거친 뒤에야 1B의 3.1GB 파일에서 이 태그가 뜻하는 바를 뜻합니다. 이 태그를 사양이 아니라 제품군 라벨로 취급하세요.

호스팅된 API가 질문을 바꾸는 경우

어느 체크포인트도 OrcaRouter에 호스팅되어 있지 않으며, 이 비교에서 그 점은 결정적인 구조적 사실임이 드러난다. 둘 다 직접 서빙하는 오픈 웨이트이므로, 35B-A3B는 당신에게 아마 없을 하드웨어를 요구하고 1B는 당신에게 분명히 있을 하드웨어를 요구한다 — 그리고 "어떤 GPU"와 "휴대폰" 사이의 간극이 "35B-A3B vs 4.7"의 실제 내용이다.

라우터가 진가를 발휘하는 곳은 경계입니다. 1B를 골랐는데 요청에 충분하지 않다면, 그 작업은 어딘가로 가야 하고, 그 어딘가는 보통 공급자별로 일일이 관리하고 싶지 않은 호스팅 모델입니다: OrcaRouter는 각 공급자의 정가로 아무것도 더 얹지 않고 하나의 키 뒤에 수백 개의 호스팅 모델을 제공하며, 한 공급자가 성능이 저하되면 공급자 간에 장애 조치합니다. 그러한 호스팅 ID 중 하나인 qwen/qwen3.6-35b-a3b는 이 글에서 다루는 체크포인트에 대한 직접적인 호스팅 대응물입니다 — 동일한 35B-A3B 형태이고, 가속기를 소유하지 않고도 접근할 수 있어, 로컬 버전에 자신의 디스크 70GB를 투입하기 전에 테스트할 자연스러운 상한선이 됩니다.

그것은 두 번째 통합이 아니라 라우팅 결정이며, 이 선택에서 되돌리는 데 비용이 전혀 들지 않는 유일한 부분입니다.

선택

제약 조건이 휴대폰, 노트북 또는 단일 소형 GPU라면 1B가 유일한 후보입니다. 3.1 GB, 상업적 사용을 허용하는 라이선스, 그리고 첫 주부터 제공되어 온 양자화 사다리까지 갖추고 있죠. 목표가 OpenBMB가 실제로 주장하는 효율성 결과라면 35B-A3B를 원할 것이고, 70 GB 원본보다는 양자화된 빌드로 원할 것입니다. 왜냐하면 그것이 다른 모든 다운로더가 선택한 것이고, 온디바이스 주장이 측정된 대상이기 때문입니다.

당신이 해서는 안 되는 일은 두 이름을 서로 바꿔 쓸 수 있는 것으로 취급하는 것입니다. 그중 하나는 오늘 오후에 실행할 수 있는 체크포인트입니다. 다른 하나는 두 이름 중 어느 쪽을 의도했든 계속 35B-A3B의 모델 카드를 반환하는 레이블입니다.