
Ming-3.0-audio-flash vs Ming-3.0-audio-tiny: 매개변수는 13배, 작업량은 2.5배
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 185 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 228 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 89 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 98 tok/s
- orcaNEWOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 100만 토큰당 · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
Ming-3.0-audio-flash와 Ming-3.0-audio-tiny는 2026년 9월 3일 Hugging Face에 4분 간격으로 등장했습니다. tiny는 11:45 UTC, flash는 11:49였고, 그 이후로 이 둘은 서로 혼동되어 왔습니다. 오늘 아침 그 혼동은 말 그대로 현실이 되었습니다. flash 저장소는 08:26 UTC에 "Flash BBA 점수를 99.8%로 업데이트하고 전체 #1 리더보드 결과 추가"라는 제목의 커밋으로 편집되었고, tiny 저장소는 2분 8초 후 "공유 Flash BBA 점수를 99.8%로 업데이트…"라는 제목의 커밋으로 편집되었으며, 같은 문장과 같은 리더보드 PNG를 담고 있었습니다. tiny 모델은 자체 Artificial Analysis 항목이 없으므로, Ming-3.0-audio-tiny에 99.8%가 귀속된 것을 보았다면 그 숫자는 더 큰 형제 모델의 것이었고 복사하여 붙여넣기로 옮겨온 것입니다.
그건 먼저 말할 가치가 있습니다. 나머지 모든 것의 틀을 잡아 주기 때문입니다. 이 둘은 두 경쟁자가 아닙니다. 이들은 두 가지 규모로 된 하나의 설계로, 토크나이저와 컨텍스트 윈도, 라이선스, 서빙 코드 경로를 공유하고config.json 내부의 몇 개 정수에서만 차이가 납니다. 흥미로운 질문은 어느 쪽이 이기느냐가 아니라 — flash는 공개된 모든 품질 수치에서 이깁니다 — 그 정수들 중 어떤 것에 실제로 비용을 지불하고 있는지, 그리고 더 작은 쪽이 진정으로 더 잘하는 것이 무엇인지입니다.
두 저장소가 실제로 공유하는 것
동일한 부분부터 시작하세요. 13.5× 파라미터 격차에서 예상할 수 있는 것보다 그런 부분이 더 많기 때문입니다.
• 아키텍처 이름 — 둘 다 model_type: bailing_moe_v3_audio를 선언하며, 동일한 사용자 지정 Transformers 코드 경로를 사용합니다.
• 토크나이저 — 둘 다 157,184개 토큰의 어휘를 사용하며, 오디오 플레이스홀더는 인덱스 157,168에 있습니다. 한쪽용으로 작성된 프롬프트는 다른 쪽에서도 로드됩니다.
• 컨텍스트 창 — 둘 다 다음을 선언합니다: max_position_embeddings: 131072, 동일한 RoPE theta 6,000,000을 사용하며 스케일링이 적용되지 않습니다.
• 라우팅 폭 — 둘 다 토큰당 8개의 전문가를 활성화합니다. 이 수치가 두 모델을 애초에 비교 가능하게 만드는 숫자입니다.
• 입력 및 출력 — 오디오와 텍스트 지시문이 입력되고, 텍스트 또는 선택적 Talker를 통한 합성 음성이 포함된 텍스트가 출력됩니다.
• 라이선스 — 둘 다 MIT이며, 동일한 법적 면책 고지 파일을 사용합니다.
• 코드 — tiny 모델의 README에서는 git clone으로 flash 모델의 GitHub 저장소를 복제하라고 안내합니다. 구현은 하나, 예제 스크립트 세트도 하나, 음성 가이드도 하나뿐입니다.
코드가 공유되기 때문에 두 체크포인트는 API 수준에서 별도 수정 없이 상호 교체할 수 있다. 하나에서 다른 것으로 전환하는 것은 모델 이름을 바꾸는 일이며, 이는 2단계 파이프라인을 저렴하게 구축할 수 있게 하는 바로 그 속성이자 잘못된 모델의 점수를 공개하기 쉽게 만드는 속성이기도 하다.

공유되지 않은 네 개의 정수
에는 차이가 나는 모든 것이 있습니다text_config. 그리고 중요한 숫자는 단 네 개뿐입니다.
• 레이어 — flash 42, tiny 24.
• 전문가 — flash 512, tiny 128.
• 전문가 너비 — flash moe_intermediate_size 768, tiny 512.
• 히든 크기 — flash 2,560, tiny 1,536.
그 수치들을 곱해 보면 카드가 제시하는 핵심 수치가 나옵니다. flash의 경우 총 126B 파라미터에 6.5B가 활성이고, tiny의 경우 총 9.3B에 2.7B가 활성입니다. 디스크상 차이는 25개 샤드에 담긴 259.33GB의 bfloat16 가중치와 2개에 담긴 20.7GB입니다.
이제 절대 수치가 아니라 비율을 보세요. 스펙 시트가 묻어두는 부분이 바로 여기입니다. 전체 파라미터는 13.5배 차이 납니다. 디스크 상의 가중치는 12.5배 차이 납니다. 하지만 활성 파라미터는 2.4배 차이에 불과합니다. flash 모델은 훨씬 더 큰 전문가 라이브러리를 유지하면서 그중 비슷한 수를 참조합니다. tiny 모델은 더 작은 라이브러리를 가지고 그중 비슷한 수를 참조합니다. 따라서 flash는 tiny보다 토큰당 13배 더 비싼 것이 아니라 2.5배에 가깝고, 메모리 풋프린트는 13배 더 크면서 대부분 유휴 상태로 남아 있습니다. 이것이 전형적인 sparse-MoE 트레이드오프이며, 이는 flash를 선택할 때의 실제 비용이 처리량이 아니라 용량이라는 뜻입니다. 더 큰 라이브러리를 사는 것이고, 주어진 클립이 그 라이브러리에서 빌려 쓰든 쓰지 않든 전체 라이브러리를 상주시켜야 합니다.

한 가지 결과는 사람들을 놀라게 합니다. 두 모델 모두 동일한 131,072토큰 창을 표방하며, 이를 두고 두 모델이 같은 오디오를 처리한다고 결론 내리기 쉽습니다. 하지만 그렇지 않습니다. 컨텍스트는 한계일 뿐 역량이 아니며, 다음 섹션에 있는 공급업체 자체 수치들은 작은 모델의 이해력이 창이 가득 차기 훨씬 전에 어디서 한계에 부딪히는지를 정확히 보여 줍니다.
공급업체 자체 표가 말하는 것
두 카드의 평가 이미지는 inclusionAI가 제작했으며 두 모델을 나란히 제시합니다. 이는 공급업체가 제공한 수치로 감사를 거치지 않았고, 과제 선택도 공급업체의 몫입니다. 그래도 이것은 여전히 존재하는 유일한 과제별 비교입니다. Artificial Analysis는 flash만 채점하기 때문입니다.
• 장시간 오디오 체인 점수 — flash 12.31, tiny 10.56.
• LongAudioSpan — flash 41.12, tiny 35.45.
• URO-Bench-Pro — flash 81.92, tiny 54.15.
• VoiceBench — flash 86.74, tiny 74.29.
두 가지를 짚고 넘어갈 만하다. 첫째, 순위다. tiny는 그 모든 항목에서 뒤지므로, 누구도 동등한 성능을 기대하며 그것을 선택해서는 안 된다. 둘째, 덜 명백한 점이다. 격차는 긴 오디오 벤치마크(1.75점, 5.67점 하락)보다 오디오 추론 벤치마크(URO-Bench-Pro, 27.8점 하락, VoiceBench, 12.5점 하락)에서 훨씬 크다. 추가된 전문가와 레이어가 무엇을 얻어냈든, 그것은 주로 긴 녹음에 대한 순수한 지구력이 아니라 들은 내용에 대한 추론을 얻어낸 것이다.
그리고 flash 자체의 장시간 오디오 수치는 절대적으로 약합니다. 해당 벤치마크의 척도가 무엇이든 그중 12.31의 체인 점수이며, 같은 카드에서 Qwen3.8-Omni Flash는 34.54, Gemini 3.8 Flash는 49.63입니다. 따라서 이 둘에 대한 정직한 해석은 'flash는 좋고 tiny는 나쁘다'가 아닙니다. 두 체크포인트 모두 장시간 녹음 모델이 아니며, tiny는 단시간 오디오 벤치마크가 측정하는 모든 항목에서 그저 더 약할 뿐입니다.
하드웨어의 한계선은 파라미터가 아니라 바이트에 의해 결정된다
보통 이 지점에서 선택은 저절로 내려지며, 두 README는 자신들이 검증한 프로필에 대해 이례적으로 구체적으로 설명한다.
• Ming-3.0-audio-flash — 80GB H800 여러 대에서 텐서 병렬성 4로 구성된 참조 128K 서빙 프로파일이며, 긴 오디오는 해당 구성에서 OOM이 발생할 수 있고 8-GPU 폴백이 문서화되어 있습니다. SGLang은 텍스트 출력에 대해 4개 GPU에서 검증되었습니다. SGLang-Omni는 --thinker.tp_size 2로 카드 두 장에서 구성됩니다.
• Ming-3.0-audio-tiny — vLLM-Omni에서 Thinker를 한 GPU에 두고 텍스트와 ASR을 처리하거나, 음성의 경우 Thinker는 GPU 0에, Talker는 GPU 1에 배치합니다. SGLang은 한 GPU에서 텍스트용으로 검증되었습니다. SGLang-Omni는 단일 카드에서 --talker.gpu 0.
그 대목들은 스펙이 아니라 인프라 결정으로 읽어야 합니다. Flash는 멀티 GPU 노드와 그것을 점유할 이유가 필요합니다. Tiny는 카드 한 장이면 되고, 전사나 오디오 질의응답만 원한다면 Talker가 전혀 없는 카드 한 장이면 됩니다. 음성 합성 단계도, 두 번째 프로세스도, 음성 선택도 필요 없습니다. 둘 사이의 실질적인 차이는 GPU가 네 배라는 데 있지 않습니다. 배포하려는 것이 이미 보유한 머신에 들어가느냐에 있습니다.
운영에서 드러나는 2차 효과가 있습니다. 25개 샤드, 259GB 체크포인트는 이를 서비스하는 모든 노드로 가져와야 하고, 버전 관리되어야 하며, 웜 상태로 유지되어야 합니다. 8-GPU 폴백 프로필은 용량 계획이 동일한 트래픽에 대해 때때로 두 배의 카드가 필요한 모델을 감내해야 함을 의미합니다. 2개 샤드, 20.7GB 체크포인트는 컨테이너 이미지 레이어에 들어가고, 몇 초 만에 시작되며, 레플리카를 추가해 확장할 수 있습니다. 버스트가 잦은 내부 툴링에서는 그 차이가 이 글의 모든 품질 수치를 압도합니다.

이 두 체크포인트가 구축된 목적인 2단계 파이프라인
이 두 모델 조합이 실제로 담당하는 사용 사례는 다음과 같으며, 어느 모델 카드에도 설명되어 있지 않습니다: tiny 모델은 모든 것에 실행하고, flash 모델은 살아남은 것에만 실행하는 것입니다.
Ming-3.0-audio-tiny로 저렴하게 1차 처리하면 "이 파일에 음성이 있는가", "어떤 언어인가", "화자가 몇 명인가", "오디오가 전사할 가치가 있을 만큼 깨끗한가"에 답할 수 있으며, 카드 한 장에서 그 카드가 지속할 수 있는 속도로 이를 수행할 수 있습니다. 추론, 방언 처리 또는 신중한 전사가 필요한 클립만 Ming-3.0-audio-flash로 넘어갑니다. 토크나이저, 프롬프트 형식, 서빙 코드가 공유되므로 두 번째 호출은 모델 이름만 다른 동일한 요청입니다. 재인코딩도, 프롬프트 재작성도, 유지해야 할 두 번째 통합도 없습니다.
경제성이 핵심이다. 오디오의 5분의 1이 어려운 경우, flash 모델은 전체 볼륨의 5분의 1만 보게 되므로 피크가 아니라 그 비율에 맞춰 노드 규모를 산정할 수 있다. 오디오 거의 전부가 어렵다면 캐스케이드는 아무 이득이 없으며 flash만 단독으로 실행해야 한다. 이는 H800 4대에 투자하기로 결정하기 전에 일주일간 소형 모델 트리아지를 통해 배울 수 있는 유용한 교훈이다.
같은 형태가 한 계층 위, 즉 오디오 모델을 둘러싼 텍스트 호출에서 나타납니다: 클립이 어느 티어에 속하는지 결정하는 분류기, 트랜스크립트에서의 구조화된 추출, 이후에 작성되는 요약입니다. 이들은 일반적인 채팅 완성이며, OrcaRouter는 이를 하나의 키로 0% 마크업으로 200개 이상의 모델에 걸쳐 자동 장애 조치와 함께 라우팅합니다 — 따라서 값비싼 오디오 티어를 게이트하는 분류기가 파이프라인을 중단시키는 구성 요소가 되지 않습니다. 라우팅 DSL은 티어 결정을 코드가 아닌 구성으로 표현할 수 있게 하는 부분입니다: 짧고 깨끗한 클립은 한쪽으로, 길거나 억양이 있는 클립은 다른 쪽으로 보내고, 제공자가 성능 저하를 보일 때 폴백 모델이 공백을 메우도록 하세요. Ming 체크포인트는 어느 것도 제공하지 않습니다; 둘 다 직접 실행하는 다운로드입니다.
자신의 오디오로 해결하는 방법
두 체크포인트 모두 MIT 라이선스이고, 둘 다 동일한 코드 경로에 맞으며, 작은 규모의 경우에는 조달 논의 없이도 테스트할 수 있을 만큼 작습니다. 따라서 오후 한나절 동안 측정하는 것이 위의 어떤 수치보다도 더 많은 정보를 줍니다.
자체 트래픽에서 클립 200개를 뽑되, 어려운 쪽에 가중치를 두세요 — 억양이 있는 발화, 화자가 겹치는 경우, 배경 소음, 실제로 보유한 긴 녹음 말입니다. 두 모델을 동일한 프롬프트로 실행하고 세 가지를 평가하세요: 정답 데이터가 있는 클립에서의 전사 정확도, 언어 레이블이 올바른지 여부, 그리고 출력이 단순히 틀린 것이 아니라 사용 불가능했던 빈도입니다. 그런 다음 캐스케이드를 실행하고 tiny 모델이 충분히 잘 처리해서 flash 모델이 전혀 필요 없었던 클립이 몇 개인지 측정하세요.
그 마지막 숫자만이 인프라를 결정합니다. 그 숫자가 높게 나오면, 테일을 위해 큰 모델을 뒤에 둔 단일 GPU 배포가 됩니다. 낮게 나오면, 당신의 워크로드가 flash 모델이 만들어진 바로 그 워크로드이며 tiny는 티어가 아니라 유용한 실험이었다는 것을 알게 됩니다. 어느 답이든 비용은 저렴합니다. 파라미터 수로 추측하는 것은 그렇지 않습니다. 카드에서의 13.5×와 컴퓨트 예산에서의 2.4×가 완전히 다른 하드웨어를 가리키며, 당신이 어느 쪽을 사고 있는지는 오직 당신의 기록만이 알려줄 수 있기 때문입니다.
