Ming-3.0-audio-flash vs MiniCPM-V 4.7: 소리를 듣는 모델과 주머니에 쏙 들어가는 모델

만약 다음 둘 중에서 고른다면Ming-3.0-audio-flash와 MiniCPM-V 4.7 35B-A3B, 결정은 당신이 보통 고려하는 어느 축에서도 접전이 아니다. 왜냐하면 둘은 같은 자리를 두고 경쟁하지 않기 때문이다. 하나는 1,260억 매개변수의 오디오-언어 전문가 혼합 모델로, 활성 매개변수는 65억이며, inclusionAI가 2026년 9월 3일에 업로드하고 6주 뒤 문서를 공개했고, 참조 구성에서는 80GB GPU 8개가 필요하다. 다른 하나는 352억 매개변수의 희소 비전-언어 모델로, OpenBMB가 2026년 10월 6일 저녁 모델 카드가 전혀 없는 상태로 Hugging Face에 공개했고, 10월 12일에 카드를 게시했으며, 약 3GB 메모리를 사용해 iPhone 17 Pro Max에서 초당 13토큰 이상으로 디코딩한다고 주장한다. 하나는 듣고 랙에 들어간다. 다른 하나는 보고 손에 들어간다. 이 둘을 같은 페이지에 올릴 가치가 있는 이유는, 둘 다 같은 6주 동안 중국 연구소들에 의해 조용히 출시되었고, 둘 다 오픈 가중치이며, 둘 다 아키텍처에 정확히 한 자리만 있는 팀들이 평가하고 있다는 점이다. 이와 같은 비교의 배경이 되는 문서화된 AI 실패와 배포 사고는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이견 표시가 함께 있다.

먼저 결정 규칙을 제시하고, 그다음 그 근거를 제시하겠습니다. 입력이 오디오라면 — 통화, 회의, 방언, 음악, 검증해야 하는 생성 보이스오버 — 이들 모델 중 하나만 시작할 수 있습니다. 입력이 이미지, 문서, 차트, 스크린샷 또는 비디오 프레임이라면, 다른 하나만 가능합니다. 겹치는 부분은 둘 다 처리하는 파이프라인이며, 그 파이프라인에서 이들은 두 후보가 아니라 두 단계입니다. 아래의 모든 수치는 벤더가 보고한 것입니다: inclusionAI의 수치는 자체 평가 이미지에서, OpenBMB의 수치는 10월 12일에 공개된 카드에서 나온 것이며, 어느 쪽도 제3자에 의해 재현되지 않았습니다.

각자가 하지 않으려는 것

차이를 가장 빨리 확인하는 방법은 각 모델이 허용하지 않는 항목을 나열하는 것입니다. 스펙 목록은 바로 이것을 숨기기 위해 작성되기 때문입니다.

Ming-3.0-audio-flash는 어떤 것도 보지 못합니다. 이 모델의 입력은 오디오와 텍스트 지시문뿐이며, 저장소에는 이미지 인코더가 없고, 구성(config)에는 비전 타워가 없으며, 10월 15일 재업로드에서 비디오-언어 변형과 해당 패치 토큰이 제거된 이후로 비디오 경로도 없습니다. 프레임이 중요하더라도 이 모델은 이를 볼 수 없습니다.

• MiniCPM-V 4.7 35B-A3B는 어떤 것도 듣지 않습니다. 이 모델은 image-text-to-text로 태그되어 있고, 프로세서는 이미지와 비디오 프레임을 처리하며, 70.4 GB의 가중치 어디에도 오디오 타워, ASR 경로, TTS 헤드는 없습니다. WAV 파일은 이 모델이 표현을 갖고 있는 입력이 아닙니다.

• Ming-3.0-audio-flash는 이미지, 편집물 또는 3D 에셋을 생성하지 않습니다. 텍스트 이외의 선택적 출력은 내장 음성과 참조 음성을 갖춘 Talker 모듈을 통한 음성입니다.

• {{1}}MiniCPM-V 4.7 35B-A3B{{/1}}는 말하지 않습니다. 페이지를 읽고 텍스트로 답합니다. 음성 기능을 위해서는 별도의 합성기를 덧붙여야 하며, 이는 별개의 제품 결정입니다.

그것이 이 비교의 전체 윤곽이다. 그 밖의 모든 것, 즉 맥락, 희소성, 라이선싱, 하드웨어는 모달리티 집합들이 서로 교차하지 않는다는 사실에 비하면 부차적이다.

희소성을 띠는 두 가지 매우 다른 방식

두 모델 모두 전문가 혼합(mixture-of-experts) 설계이며, 그 단어 뒤에는 상반된 엔지니어링 선택이 숨어 있다.

Ming-3.0-audio-flash는 엄청나게 크기 때문에 희소합니다. 42개 레이어, 히든 크기 2,560, 토큰당 8개가 선택되는 512개 전문가, 총 126B 및 활성 6.5B에 더해 32개 레이어와 너비 1,280, 128개 mel 빈을 갖춘 Whisper 스타일 오디오 인코더가 있습니다. 이 희소성은 그렇지 않으면 학습도 서빙도 불가능했을 모델에서 처리량을 얻어 줍니다. 하지만 작은 크기를 얻어 주지는 않습니다. 25개의 bfloat16 샤드에 Talker와 VAE 한 쌍을 더하면 디스크에서 약 259GB가 되며, 벤더의 128K 서빙 프로파일은 80GB H800 8대에 걸친 텐서 병렬 처리입니다.

MiniCPM-V 4.7 35B-A3B는 반대 이유로 희소하다: 352억 개의 저장 파라미터를 토큰당 256개 중 8개로 라우팅하며, 40개가 넘는 텍스트 레이어에 3개의 선형 어텐션 대 1개의 풀 어텐션 패턴을 적용하고, 텍스트 스택의 6번째 레이어에 삽입되는 히든 크기 1,152의 27층 비전 타워 뒤에 둔다. 그 설계에 붙은 주장은 클러스터에서의 처리량이 아니라 휴대폰에서의 실행 가능성이다. OpenBMB의 Lookahead Expert Scheduling은 다음 레이어가 필요로 할 전문가를 예측하고, 미리 가져오며, 로드와 연산을 겹친다 — 데이터센터의 FLOPs가 아니라 핸드셋의 메모리 대역폭이 병목일 때에만 고안하게 되는 종류의 기법이다.

• 총 매개변수 — Ming-3.0-audio-flash 126B; MiniCPM-V 4.7 35B-A3B 35.2B.

• 활성 파라미터 — 약 3B 대비 6.5B(256개 전문가 중 8개 + 공유 전문가 1개).

• 컨텍스트 — 262,144 대비 131,072 토큰.

• 디스크상의 가중치 — 16개 샤드에 걸쳐 70.4GB 대비 약 259GB.

• 레퍼런스 하드웨어 — 80GB H800 8개 대 iPhone 17 Pro Max, 초당 13+ 토큰 및 약 3GB.

• 라이선스 — MIT 대 Apache-2.0, 둘 다 각각의 카드에 명시되어 있습니다.

중국어 작업이 실제로 다른 부분

두 모델 모두 중국 연구소에서 개발되었고 둘 다 중국어에서 가장 뛰어나지만, 서로 다른 부분에서 강점을 보이며, 벤더 표를 보면 그것이 유난히 분명해진다.

Ming-3.0-audio-flash는 음성이 어려워지는 바로 그 지점에서 가장 강력합니다. 자체 평가 이미지에서 중국어 ASR 평균 오류율 3.45, 방언 평균 9.40을 보고합니다. 광둥어 4.09, 상하이어 11.15, 푸젠어 12.84, 후베이어 9.46, 후난어 8.76이며, 방언 평균에서 Gemini 3.8 Flash 참조값은 48.41입니다. 같은 이미지에서 화자 분리(AMI 25.29 대 MiMo-V2.6 Pro의 11.16)와 장시간 오디오 추론(Chain 점수 12.31 대 Qwen3.8-Omni Flash의 34.54)에서는 뒤처지는 모습을 보여줍니다. 따라서 솔직히 해석하면 억양 있는 발화 전사에는 뛰어나지만, 누가 말했는지와 녹음이 무엇을 의미했는지 파악하는 데는 평범합니다.

MiniCPM-V 4.7 35B-A3B는 시각적 중국어 밀집 작업에서 가장 강력합니다: OCRBench 91.20, OCRBench_v2 68.47, OmniDocBench v1.6 94.24, CCOCR 81.14, MMMU 80.22, MathVista 88.00, CharXiv 추론 75.60, TextVQA 84.99 — 모두 OpenBMB 자체 차트의 수치이며 모두 재현되지 않았고, 여러 행은 35B급 Qwen 및 Gemma 모델을 근소한 차이로 앞선다고 표시되어 있습니다. 비전 타워의 혼합 4x/16x 토큰 다운샘플링이 그 메커니즘입니다: 16x는 속도를 위해 토큰을 병합하고, 4x는 세밀한 디테일을 위해 네 배 더 많은 토큰을 유지하며, 이 설정은 프로세서와 generate() 모두에 전달해야 하며 그렇지 않으면 둘이 불일치합니다.

따라서 중국어 처리 능력에서 겹치는 부분은 좁지만 실재합니다. 음성 메모가 첨부된 스캔한 중국어 문서는 두 모델이 필요한 문제이며, 어느 모델도 나머지 절반을 처리하지 못합니다.

둘 중 하나를 프로덕션에 투입하는 데 드는 비용

이것들은 비교할 수 있는 숫자가 아니며, 그렇지 않은 척하는 것이 이런 종류의 글에서 흔히 나타나는 실패다.

Ming-3.0-audio-flash는 노드 하나의 비용이 든다. 80GB H800 8개는 128K 컨텍스트에 대한 벤더의 프로파일이며, 검증된 SGLang 대안은 GPU 4개를 사용하고 텍스트만 반환한다. 총 9.3B, 활성 2.7B인 형제 모델 Ming-3.0-audio-tiny는 대형 카드 한 장에 들어가지만, 공개된 수치는 동일한 표에서 일관되게 더 나쁘다 — long-audio Chain은 12.31 대비 10.56, LongAudioSpan은 41.12 대비 35.45, URO-Bench-Pro는 81.92 대비 54.15 — 따라서 이는 더 저렴한 제품이 아니라 다른 제품이다.

MiniCPM-V 4.7 35B-A3B는 휴대폰 하나로, GPU 한 장으로, 또는 사용자가 기기를 직접 가져온다면 전혀 비용 없이 실행됩니다. 이 모델에는 Ming에 없는 활발한 생태계가 있습니다: 며칠 만에 공개된 GGUF, FP8, int4, GPTQ, AWQ 변형, DSpark 추측 디코딩 드래프트 모델, llama.cpp와 Ollama는 물론 vLLM과 SGLang에서의 지원, 메인 저장소에서 76,000회 다운로드와 1,000개 이상의 좋아요. 다른 점이 무엇이든, 이것은 이미 다른 사람들이 실행하고 있는 모델입니다.

채택률의 그 차이는 이 글에서 의사결정에 가장 중요한 사실이며, 품질과는 아무 관련이 없습니다. 다운로드 수가 76,000회인 모델에는 이미 여러분의 버그를 겪은 커뮤니티가 있습니다. 다운로드 수가 22회인 모델에는 저장소와 모델 카드가 있을 뿐입니다.

그러면 그들은 어디에서 만나나요?

정확히 하나의 아키텍처 안에서: 듣고 보는 일을 모두 해야 하는 애플리케이션. 명백한 사례는 지원 또는 컴플라이언스 파이프라인입니다 — 방언 화자가 참여한 중국어 통화 녹음과 발신자가 업로드한 스캔 양식, 그리고 이 둘을 연결해야 하는 요약이 있습니다. Ming은 오디오를 전사하고 오디오에 관한 질문에 답합니다. MiniCPM은 양식을 읽고 필드를 추출합니다. 어느 쪽도 상대의 절반을 할 수 없으며, 둘 사이의 연결은 텍스트입니다.

그 연결 지점은 대부분의 팀이 가장 과소평가하는 부분이다. 오픈 가중치 체크포인트 두 개는 라이선스 검토 두 번, 배포 방식 두 가지, 실패 모드 두 가지, 그리고 어느 문서를 어디로 보낼지 결정하기 위한 모델 호출 한 번 더를 의미한다. Ming의 경로는 trust_remote_code=True를 사용하는 Transformers와 수백 GB 규모의 메모리 최소 요구량이고, MiniCPM의 경로는 노트북 위의 양자화된 파일 하나다. 동일한 파이프라인의 두 절반 사이의 운영상 대비는 대부분의 경쟁 모델 간 대비보다 더 크다.

라우팅 계층과 그 한계

OrcaRouter는 두 체크포인트 중 어느 것도 호스팅하지 않습니다. 둘 다 직접 실행하는 오픈 웨이트이며, 둘 다 우리 카탈로그에 없고, 여기 어떤 문장도 엔드포인트 제공 제안으로 읽혀서는 안 됩니다. 라우터가 실제로 관여하는 부분은 연결 조직입니다. 들어오는 자산이 오디오인지 이미지인지 판단해 올바른 노드로 보내는 분류기, 추출의 틀을 잡는 프롬프트, 두 출력을 하나의 보고서로 병합하는 요약기입니다.

이것들은 일반적인 텍스트 호출이며, 이를 0% 마크업으로 200개 이상의 모델을 위한 하나의 API 뒤에 두는 근거는 간단합니다 — 공급자 목록 가격이 그대로 전달되므로 공급업체의 가격 인하는 같은 날 우리 쪽에도 적용되고, 세 개의 계약 대신 하나의 키만 있으면 됩니다. 라우팅 DSL은 바로 이 특정 문제에 맞는 부분입니다. 오디오용 분기와 이미지용 분기가 있는 파이프라인은 모델 문제이기 전에 라우팅 문제이며, 자동 페일오버는 분류 모델이 잠시 오류를 일으켜도 디스패처를 계속 살아 있게 해 주는데, 이는 체인에서 잃어서는 안 되는 유일한 호출입니다.

한계도 똑같이 단순하다. 라우팅은 259 GB 체크포인트를 호스팅된 상태로 만들지 않으며, 휴대폰 크기의 비전 모델을 ASR 시스템으로 만들지도 않는다.

짧은 버전

Ming-3.0-audio-flash는 야심은 더 크지만 오늘날 활용도는 더 낮은 모델입니다. 동급에서 수치를 공개한 모델 중 가장 뛰어난 방언 중국어 음성 인식을 보여주지만, 독립적 검증이 없고, 병합된 서빙 통합도 없으며, GPU 노드가 없는 사람은 접근할 수 없게 만드는 하드웨어 요구 사항이 있습니다. MiniCPM-V 4.7 35B-A3B는 더 완성도 높은 제품입니다. 모델 카드, 퀀트, 프레임워크 지원, 진정으로 참신한 온디바이스 스토리, 그리고 커뮤니티가 있습니다. 다만 비전 모델이므로, 다른 모델이 존재하는 이유인 그 일은 할 수 없습니다.

모달리티로 고르면 비교는 30초면 끝난다. 야망으로 고르면 한 달을 들여 그 야망 있는 쪽의 다운로드 수가 22회라는 걸 알게 될 것이다.