MiniCPM-V 4.7 1B vs MiniCPM-V 4.7: 두 개의 체크포인트, 하나의 이름, 그리고 전혀 다른 역할

MiniCPM-V 4.7이라는 체크포인트는 존재하지 않습니다. OpenBMB는 그런 체크포인트를 공개한 적이 없으며, 그것을 담고 있을 모델 URL은 가중치 페이지가 아니라 권한 오류를 반환합니다. 그 이름은 시리즈를 가리킵니다. 2026년 10월 12일, 그 시리즈는 독자가 그 이름으로 합리적으로 의미할 수 있는 두 가지를 출시했습니다: 휴대폰의 작업 메모리에 상주하도록 만들어진 dense 15억 5천만 파라미터 모델인 MiniCPM-V 4.7 1B, 그리고 출시 당시의 모든 핵심 주장 — 온디바이스 데모, 파레토 프런티어 차트, "온디바이스에서 원활하게 실행되는 최초의 오픈 소스 MoE"라는 문구 — 을 담고 있는 350억 파라미터의 희소 전문가 혼합(MoE) 체크포인트입니다. 이 둘을 비교하는 것은 공정한 싸움이 아니며, 애초에 그럴 의도로 만들어진 것도 아닙니다. 그것은 여러분이 얼마나 많은 메모리를 기꺼이 쓸 것인지, 그리고 벤더 자체의 수치가 그만큼 메모리를 쓸 만한 가치가 있다고 정당화할 만큼 강력한지에 관한 질문입니다.

그 이름은 모델이 아니라 시리즈입니다.

MiniCPM-V 4.7이라는 이름을 가진 리포지토리가 두 개 있고, 세 번째는 접미사를 붙여 그 이름을 사용합니다. openbmb/MiniCPM-V-4.7-1B는 2026년 10월 6일 17:40 UTC에 생성되었습니다. openbmb/MiniCPM-V-4.7-35B-A3B는 10월 7일 07:07 UTC에 뒤이어 나왔습니다. openbmb/MiniCPM-V-4.7-1B-DSpark — 소형 모델을 위한 2억 1,300만 개 파라미터의 추측성 드래프트 헤드 — 는 10월 8일에 공개되었습니다. 세 개 모두 Apache-2.0입니다. 접미사 없는 openbmb/MiniCPM-V-4.7 리포지토리는 존재하지 않습니다. 그리고 상당수 보도가 그것이 존재하는 것처럼 쓰고 한쪽의 숫자 묶음을 다른 쪽의 이름 아래 인용하기 때문에, 이 점을 분명히 말할 가치가 있습니다. OpenBMB README는 릴리스 자체를 10월 12일로 기록하는데, 날짜가 필요하다면 이 날짜를 사용해야 합니다: 리포지토리는 먼저 업로드되었고 나흘 뒤에 발표되었으니, 이는 일반적인 순서입니다.

그러므로 "1B vs 4.7"에 대한 정직한 표현은 같은 이름을 가진 소형 모델과 대형 모델 사이의 비교가 아니다. 그것은 해당 시리즈가 실제로 제공하는 두 가지 크기 등급 사이의 비교이며, 그중 하나는 시리즈 이름만으로 검색했을 때 찾을 수 있는 유일한 것이다.

1B의 실체

safetensors 메타데이터에서 읽어보면, dense 체크포인트는 BF16 기준 1,554,476,272개의 파라미터입니다 — 단일 가중치 파일로 약 3.11 GB이며, 이는 핸드셋을 고려하는 사람이라면 누구나 주목할 대표적인 수치입니다. 언어 백본은 qwen3_6_text(으)로 태그되어 있고, 24개 레이어 깊이에 히든 크기는 1024이며, 어텐션은 선형 3개 대 완전 어텐션 1개의 패턴을 사용합니다. 즉 24개 레이어 중 18개는 선형 경로를, 6개는 일반적인 어텐션을 사용합니다. 어휘는 248,094개 토큰입니다. 비전 타워는 이 계보 고유의 minicpmv4_7_vision입니다 — 27개 레이어, 히든 크기 1152, 패치 크기 14, 이미지 크기 980이며, 언어 스택의 6번째 레이어에 삽입됩니다. 문서 작업에서 다른 무엇보다 중요한 두 가지 설정이 있습니다: downsample_mode는 16x이고, mrope_mode는 canvas인데, 이는 이 패밀리가 잘린 이미지 전반에서 공간 구조를 온전하게 유지하기 위해 사용하는 멀티모달 로터리 임베딩 방식입니다. 최대 위치 임베딩은 262,144이므로, 컨텍스트 윈도우는 명목상의 256K가 아니라 진짜 256K입니다.

이 글을 쓰는 시점에 해당 저장소는 다운로드 14회와 좋아요 22개를 기록하고 있습니다. 이는 적은 수치이며, 지금까지 커뮤니티가 이 모델을 얼마나 활용해 왔는지를 있는 그대로 보여주는 척도입니다.

플래그십이 실제로 무엇인지

35B-A3B 체크포인트는 BF16 기준 35,212,875,824개 파라미터, 즉 70.4 GB이며 열여섯 개의 safetensors 샤드에 나뉘어 있습니다. 이는 단일 다운로드 기준으로 dense 모델 크기의 22배입니다. 아키텍처적으로는 완전히 다른 짐승입니다. 40개 레이어에 히든 크기 2048, 그리고 토큰당 256개 전문가 중 8개가 활성화되는 희소 MoE 피드포워드 구조이며, moe_intermediate_size는 512로 설정되어 있습니다. 어휘 크기는 248,144로 1B보다 약간 더 넓습니다. 어텐션 패턴은 같은 아이디어를 더 깊게 쌓은 것으로, 선형 레이어 30개에 풀 어텐션 10개입니다. MiniCPM-V 계열 최초의 MoE이며, 벤더의 효율성 서사가 실제로 다루는 체크포인트이기도 합니다. OpenBMB의 주장은 iPhone 17 Pro Max에서 약 3 GB 메모리로 초당 13토큰 이상을 낸다는 것이며, Lookahead Expert Scheduling이 레이어 전반에 걸쳐 전문가 가중치를 프리페치하여 희소 라우팅이 메모리 대역폭에서 정체되지 않도록 하고, 여기에 짝을 이룬 MTP 헤드와 4x/16x 혼합 비주얼 토큰 압축이 더해집니다. 이는 벤더가 벤더의 데모에서 측정한 벤더 수치입니다. 아직 다른 누구도 이를 재현하지 못했습니다. 저장소는 다운로드 166회와 좋아요 43개를 기록하고 있으며, 이는 1B가 끌어들인 관심보다 한 자릿수 더 큰 규모입니다.

차원별로 비교

6개 차원, 양쪽 모두, 각 수치가 얼마나 큰 비중을 지니는지에 대한 설명과 함께.

• 파라미터와 구조 — MiniCPM-V 4.7 1B: 1.55B 밀집형이며, 모든 토큰에서 모든 파라미터가 활성화됩니다. MiniCPM-V 4.7의 플래그십: 총 35.2B, 희소형, 토큰당 256개 전문가 중 8개. 두 총계는 서로 비교 가능한 수치가 아닙니다. MoE의 활성 예산이 토큰당 연산량을 결정하며, OpenBMB는 이를 공개하지 않습니다. "A3B"는 측정값이 아니라 이름의 일부로 읽으세요.

• 가중치 용량 — MiniCPM-V 4.7 1B: 단일 BF16 파일에 3.11 GB이며, 이것이 이 모델이 존재하는 이유의 전부다. MiniCPM-V 4.7 35B-A3B: BF16으로 16개 샤드에 걸쳐 70.4 GB. 벤더가 내세운 온디바이스 3 GB 수치는 더 큰 모델에만 양자화 및 전문가 스트리밍 후에 적용되며, 원시 다운로드에는 적용되지 않는다.

• 어텐션과 컨텍스트 — 둘 다: 256K 포지션, 3:1 선형 대 전체 어텐션 패턴, 그리고 동일한 캔버스 mRoPE 모드. MiniCPM-V 4.7 1B는 이를 24개 레이어에 걸쳐 실행하고, 플래그십은 40개에 걸쳐 실행합니다. 이것은 두 모델이 진정으로 동일한 설계를 스케일만 달리한 유일한 차원입니다.

• 비전 경로 — 둘 다: 패밀리 자체의 minicpmv4_7_vision 타워(16배 다운샘플링). 차이는 압축 단계의 반대편에 있습니다: 플래그십의 차트는 1B가 주장하지 않는 4x/16x 혼합 방식을 광고합니다.

• 라이선스 — 둘 모두: Apache-2.0, 저장소에 선언되어 있고 프로젝트 README에서도 단언되어 있다. 이는 일주일 전 같은 시리즈가 보였던 모습과 정반대이기 때문에 중요하다; 여기에서는 어느 체크포인트에 대해서도 보고할 모호성이 없다.

• 품질의 증거 — MiniCPM-V 4.7 1B: 벤더 차트뿐. MiniCPM-V 4.7 35B-A3B: 벤더 차트, iPad M4와 iPhone에서의 벤더 데모 영상, 그리고 공개된 온디바이스 초당 토큰 수 주장. 둘 다 독립적인 평가가 없고, 둘 다 고정된 하네스를 기준으로 제3자가 벤치마크한 적이 없습니다.

벤더 자체 차트가 주장하는 내용

OpenBMB는 두 체크포인트 모두에 대한 벤치마크 차트를 공개했으며, 이들이 지원할 수 있는 범위의 차이는 시사하는 바가 크다. 1B 차트는 모델을 MMBench 83.17, OCRBench 86.10, OmniDocBench v1.6 85.39에 위치시키며, 같은 그림에서 바로 옆에 놓인 이전 세대 1.3B급 모델보다 세 항목 모두 앞선다(각각 81.89, 83.80, 82.52). 이 수치들은 벤더가 보고한 것이며 재현되지 않았고, 차트 자체의 열 레이블은 주의 깊게 읽어야 하는데, 그 안의 한 행에는 이 크기의 모델로서는 믿기 어려운 값이 찍혀 있기 때문이다. 절대 수치는 마케팅으로 취급하고, 이전 세대 대비 델타만을 내적 논리를 지닌 유일한 부분으로 보라.

35B-A3B 차트는 비교 대상이 더 많아서 더 읽기 쉽습니다. 이 차트는 MMMU 80.22, MathVista 88.00, OCRBench 91.20, OCRBench_v2 68.47, OmniDocBench v1.6 94.24, CharXiv 추론 75.60, TextVQA 84.99, CCOCR 81.14를 보고하며, 이는 두 개의 35B-A3B급 전문가 혼합(MoE) 모델, 31B Gemma, 27B Qwen3.8을 포함하는 경쟁 모델군과 비교한 것입니다. 벤더 자체 수치에 따르면 MoE는 대부분의 항목에서 근소하게 앞서고 몇 개는 뒤처집니다. MMMU-Pro와 MathVision은 반대입니다. 다시 말하지만: 벤더가 보고한, 재현되지 않은 수치이며, 유일하게 공정한 해석은 "벤더가 동등하거나 더 낫다고 믿는다"는 것이지 "동등하거나 더 낫다"는 것이 아닙니다.

해결하기보다는 짚어둘 만한 라벨링 문제가 있습니다. 저장소 이름은 1B입니다. Hugging Face 사이드바에서는 이 모델을 2B 파라미터라고 설명합니다. safetensors 메타데이터에는 1,554,476,272 — 약 1.55B라고 적혀 있습니다. 벤더 자체 차트는 해당 행을 1.3B로 표시합니다. 네 가지 출처, 네 가지 숫자, 그리고 그중 가장 작은 숫자는 마케팅이 가리키는 차트에 있습니다. 이 중 어느 것도 모델이 하는 일을 바꾸지는 않지만, 스펙 시트를 기준으로 메모리 예산을 잡는다면, 어떤 라벨보다도 3.11 GB 파일을 기준으로 예산을 잡으세요.

어느 걸 진짜 원해

제약이 스마트폰, 노트북, 단일 소형 GPU, 또는 전력 예산이 제한된 무엇이든 간에, 이들 중 후보가 되는 것은 단 하나뿐이다. MiniCPM-V 4.7 1B는 256K 컨텍스트 멀티모달 모델이 몇 기가바이트 안에 들어가도록 하기 위해 정확히 존재하며, 상업적 사용을 허용하는 라이선스로 배포되고, 양자화 생태계도 이미 갖춰져 있다 — GGUF, AWQ, GPTQ, int4 및 FP8 빌드, 그리고 Rockchip, Houmo, Intel, AMD, Arm 하드웨어 벤더와 OpenVINO의 첫날 지원까지. 3 GB 풋프린트에서의 온디바이스 OCR, 스크린샷 이해, 문서 파싱을 위해, 이 시리즈에서 그 질문에 답하는 버전이다.

MiniCPM-V 4.7 35B-A3B는 다른 질문에 답한다. 이것은 같은 제품의 더 큰 버전이 아니다. 35B급 모델의 품질을 유지하면서 토큰당 8개 전문가에 대해서만 비용을 지불하려는 시도이며, 공급업체의 처리량 주장이 사실로 확인된다면 둘 중 더 흥미로운 엔지니어링 결과다. 또한 BF16에서 70.4GB이므로 서버나 워크스테이션용 다운로드이며, 온디바이스에서의 활용은 Hub에서 받는 파일이 아니라 양자화와 전문가 스트리밍을 통해 이루어진다.

라우터가 적합한 경우와 그렇지 않은 경우

두 체크포인트 중 어느 것도 OrcaRouter에 호스팅되지 않습니다. MiniCPM은 우리 카탈로그에 전혀 나타나지 않으며, 이 둘 중 하나를 실행하려는 사람에게 올바른 조언은 가중치를 다운로드해 직접 서빙하는 것입니다 — llama.cpp, Ollama, vLLM 또는 SGLang 모두 해당 아키텍처를 지원하며, 위의 출시 첫날 지원 목록은 이렇게 갓 출시된 릴리스치고는 이례적으로 광범위합니다. 라우팅 질문은 다음 단계에서야 등장합니다. 즉, 특정 요청에 작은 로컬 모델로 충분하지 않아 작업이 호스팅된 무언가로 넘어가야 할 때 벌어지는 일입니다. 그 인계는 두 번째 계약이라기보다 라우팅 결정입니다: OrcaRouter는 200여 개의 호스팅 모델을 하나의 키 뒤에 배치하며, 각 제공업체의 정가로 아무것도 추가하지 않고, 제공업체가 성능 저하될 때 페일오버를 제공합니다. 그 목록의 호스팅 비전 모델 중에는 1B와 같은 체급에 속하는 몇 가지가 있습니다 — qwen/qwen3-vl-8b-instruct 및 그 사고형 변형, qwen/qwen3-vl-235b-a22b-instruct 는 대형 쪽을 위해, 그리고 deepseek/deepseek-v4-flash-vision-exp 는 긴 컨텍스트 문서 작업을 위한 것입니다. 그것은 이 패밀리보다 위의 계층이지 이를 대체하는 것이 아니며, 각 모델이 경계의 어느 쪽에 있는지 분명히 하는 것이 좋습니다.

볼 만한 것

이 비교를 매듭지을 두 가지가 있는데, 둘 다 아직 존재하지 않습니다. 첫 번째는 독립적인 평가입니다. 동일한 하드웨어에서 두 체크포인트 모두에 대해 동일한 하네스를 실행하고, 벤더가 프롬프트를 고르지 않는 평가입니다. 그것이 나오기 전까지 이 글의 모든 정확도 수치는 벤더 자체의 수치이며, 그 사실을 함께 명시해 인용해야 합니다. 두 번째는 DSpark 드래프트 헤드로, 이미 1B용으로 공개되었으며, 휴대폰에서 소형 모델 추론을 유의미하게 더 빠르게 만들어 줄 메커니즘입니다. 이 규모에서 추측 디코딩이 광고된 대로 작동한다면, dense 1B는 그 크기가 시사하는 것보다 상당히 더 나은 답이 되고, 35B-A3B는 요청이 정말로 그것을 필요로 할 때에만 선택하게 되는 모델로 남습니다.

무엇도 기다릴 필요가 없는 것은 라이선스, 아키텍처, 풋프린트, 툴링입니다. 그것들은 저장소에 있고, 두 체크포인트 모두 Apache-2.0이며, 오늘 당신의 하드웨어에 둘 중 어느 것이 맞는지 결정하기에 충분합니다.

그 패턴에서 호스팅되는 쪽은 두 번째 계약이 아니라 라우팅 결정입니다. 각 공급자의 정가이며, 우리가 부과하는 마크업은 없습니다 MiniCPM-V 4.7 체크포인트 중 어느 것도 OrcaRouter의 호스팅 모델이 아닙니다. 둘 다 직접 서빙하는 가중치입니다.