Ming-3.0-asr-tiny vs Moonshine 250M: 한 모델은 듣기를 절대 멈추지 않고, 다른 모델은 말을 마치기 전까지 절대 시작하지 않는다

무엇보다 먼저 정리해야 할 명명 문제가 있습니다. 이것은 이 비교의 성격을 바꾸기 때문입니다. Moonshine은 세 가지 체크포인트를 공개합니다 — Tiny는 34M, Small은 123M, Medium은 245M — 그리고 Moonshine 250M은 커뮤니티가 해당 제품군의 최상위 모델을 가리킬 때 쓰는 약칭으로, 저장소 이름이 moonshine-streaming-medium이고 safetensors 인덱스의 실제 총 파라미터 수가 265,898,112개인 체크포인트입니다. Moonshine 조직 어디에도 250M이라는 이름의 파일은 없습니다. 이 모델은 슬라이딩 윈도우 인코더와 자기회귀 디코더를 갖춘 영어 스트리밍 인식기로, 노트북이나 휴대폰용으로 만들어졌으며 2026년 1월 MIT 라이선스로 출시되었습니다. Ming-3.0-asr-tiny는 87억 7천만 파라미터 규모의 중·영어 인식기로 2026년 10월 14일 별도 발표 없이 Hugging Face에 가중치가 공개되었으며, Whisper 형태의 인코더와 128개 전문가로 구성된 Mixture-of-Experts 디코더를 중심으로 구축되었고, 한 번에 전체 클립을 읽도록 설계되었습니다. 이 둘은 같은 시장의 경쟁자가 아닙니다. 이들은 인식기가 언제 말할 수 있는가라는 질문에 대한 서로 다른 두 가지 답입니다. 이 글에서 Moonshine 250M이라고 부르는 체크포인트는 Moonshine Streaming Medium 모델 카드에 문서화되어 있으며, 여기서 safetensors 인덱스는 카드의 245M 표기와 달리 265,898,112개의 파라미터를 보고합니다. 이와 같은 릴리스 뒤에 있는 문서화된 AI 실패 및 에이전트 사고는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 플래그가 포함되어 있습니다.

그 질문이 유용한 틀이며, 정확도 표보다 더 깔끔한 결정을 만들어냅니다. Moonshine 250M은 오디오가 아직 들어오는 동안 약 0.1~1 TOPS에서 단어를 내보냅니다. Ming-3.0-asr-tiny는 완전한 파일을 넘겨주기 전까지 아무것도 내보내지 않으며, 그다음에는 타임스탬프가 전혀 없는 전사문을 내보냅니다.

각각이 실제로 무엇을 하도록 만들어졌는지

Moonshine의 아키텍처는 일반적인 스트리밍 절충안을 의도적으로 뒤집은 것입니다. 인코더는 경계가 있는 로컬 어텐션을 사용하고 위치 임베딩이 전혀 없는 슬라이딩 윈도 트랜스포머입니다 — 카드에서는 이를 에르고딕이라고 부르며, 처음 두 레이어와 마지막 두 레이어에서는 (16, 4)로, 중간 레이어에서는 (16, 0)으로 윈도잉되어 약 80밀리초의 룩어헤드를 제공합니다. 위치 정보는 인코더 이후의 어댑터에 의해 주입되며, RoPE를 사용하는 표준 인과 디코더로 전달됩니다. 오디오 프런트엔드는 mel 스펙트로그램 대신 단순한 시간 영역 연산을 사용하여 50 Hz로 동작합니다.

디코더는 자기회귀 방식이며, Moonshine은 그에 따르는 비용을 분명히 밝힙니다. 첫 토큰까지의 시간이 짧더라도 전체 출력 지연 시간은 트랜스크립트 길이에 따라 늘어납니다. 이것이 이 설계의 솔직한 한계이며, 스트리밍 관련 주장을 비교할 때 명심해야 할 단 한 문장입니다. 스트리밍은 첫 단어들이 빠르게 나타난다는 뜻이지, 마지막 단어가 그에 비례해 빠르게 나타난다는 뜻은 아닙니다.

Ming은 스트리밍하지 않으며, 그 카드에도 명시되어 있습니다: 번들 예시는 스트리밍 입력을 받지 않습니다. 긴 오디오는 8,192 위치 컨텍스트를 고려한 인수를 통해 청크로 나눌 수 있지만, 파일을 청크로 나누는 것은 라이브 피드를 소비하는 것과 같지 않으며, 구성의 출력 형식 필드는 plain(으)로 설정되어 있습니다. 대신 Ming이 하는 일은 컨텍스트를 전달하는 것입니다. 핫워드나 직전 대화 턴을 전사 프롬프트의 일부로 받아들이며, 후난, 민난, 광둥어, 촨위, 상하이, 안후이, 둥베이, 허난, 후베이, 장쑤, 하카, 산시, 산둥, 톈진, 윈난 등 열다섯 개 중국어 방언 테스트 세트 전반에서 평가됩니다. Moonshine은 영어 전용이며 이 모든 것을 갖추지 못했습니다.

두 매개변수 개수와 이들이 다른 이유

곰곰이 생각해 볼 만한 세부 사항인데, 이런 종류의 것이 비교 표를 조용히 망가뜨리기 때문입니다: Moonshine 자체 카드에는 Medium이 245M 파라미터, 14개 인코더 및 14개 디코더 레이어, 768차원 인코더와 640차원 디코더로 나와 있습니다. 같은 저장소의 safetensors 인덱스는 265,898,112를 보고합니다. 차이는 약 2,100만, 대략 8.5퍼센트이며, 반올림 오류가 아닙니다 — 이는 백본을 세는 것과 함께 제공되는 모든 것을 세는 것의 차이입니다.

Ming은 더 큰 규모에서도 같은 문제를 안고 있습니다. Ming의 인덱스는 8,865,800,992개의 파라미터를 보고하지만, 차트에서는 이 모델을 8.6B-A2B, 즉 총 86억 개 중 토큰당 약 20억 개가 활성화된다는 약칭으로 표기합니다. 이 표기는 인덱스보다 약 2억 7,000만 개 낮습니다.

• 총 매개변수 — Ming-3.0-asr-tiny 8.87B(인덱스) 대 Moonshine 250M 266M(인덱스); 공급업체 표기에는 8.6B 및 245M으로 되어 있습니다.

• 토큰당 활성 — Ming의 경우 약 2B입니다. 128개 전문가 중 8개가 각 단계에서 라우팅되기 때문입니다. Moonshine은 밀집형이므로 전체 266M입니다.

• 인코더 — 32개 레이어, 1,280차원, 20개 헤드, 128개 멜 빈의 Whisper 형태이며, 50Hz 프런트엔드 위에서 768차원의 14레이어 에르고딕 슬라이딩 윈도 트랜스포머와 대비됩니다.

• 디코더 — 24개 층, 128개 전문가, 자기회귀 방식; 대비 14개 층, 덴스, 자기회귀 방식.

• 지연 모델 — 클립 전체를 입력받아 전사본을 출력하며 스트리밍은 없음; 약 80ms의 룩어헤드와 오디오가 아직 도착하는 중에 첫 토큰이 나오는 방식과 대비됩니다.

• 출력 — 타임스탬프와 화자 분리가 없는 일반 전사 텍스트; 카드에 타임스탬프 경로도 없는 자기회귀 디코더의 전사 텍스트와 비교.

• 언어 — 중국어와 영어, 그리고 15개의 중국어 방언 테스트 세트; 영어만 사용하는 경우와 비교.

• 라이선스 — 둘 다 MIT이며, Ming의 저장소에 번들된 Apache-2.0 헤더가 유지됩니다.

정확성, 단 동일한 오디오로 테스트된 적이 없다는 전제 하에

Moonshine의 카드에는 Medium의 8개 영어 세트에서 평균 WER이 6.65로 보고됩니다: AMI에서 10.68, Earnings-22에서 11.90, GigaSpeech에서 9.46, LibriSpeech test-clean에서 2.08, test-other에서 5.00, SPGISpeech에서 2.58, TED-LIUM에서 2.99, VoxPopuli에서 8.54입니다. 약 300,000시간의 음성으로 훈련되었습니다.

Ming은 자사의 영어 공개 세트 — LibriSpeech clean 및 other, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English, VoxPopuli — 에서 평균 WER 3.99를 보고하며, 중국어 세트에서는 평균 CER 3.55를 보고합니다. 공개되지 않은 규모의 데이터로 학습되었습니다.

3.99를 6.65 옆에 놓고 Ming이 영어에서 더 정확하다고 선언하고 싶은 유혹이 든다. 그렇게 하지 마라. 다섯 개 영어 세트 중 두 개가 다르고, 집계 방식도 다르며, Moonshine의 카드는 Ming의 다섯 세트에 깔끔하게 대응되는 세트별 세부 내역을 공개하지 않으며, 어느 벤더도 상대방을 실행하지 않았다. 두 쪽 모두 보고하는 유일한 세트인 VoxPopuli에서 Ming은 본문에 세트별 영어 수치를 전혀 공개하지 않고 평균만 공개하므로, 그 단 하나의 겹치는 부분조차 카드만으로는 비교할 수 없다. 여기의 모든 수치는 벤더가 보고한 것이며 재현되지 않았다.

공유된 테스트 세트 없이 말할 수 있는 것은 구조적인 것뿐이다. Moonshine은 30만 시간의 영어로 학습된 2억 6,600만 파라미터의 dense 모델이다. Ming은 약 20억 개가 활성화되는 88억 7,000만 파라미터의 mixture-of-experts 모델로, 설명하지 않는 데이터로 학습되었고, 방언 비중이 큰 중국어와 영어로 평가된다. 활성 파라미터가 17배 많고 언어 모델 사전(prior)이 있는 모델이라면 어려운 영어 오디오에서 더 정확해야 하며, 그렇지 않다면 놀라운 일일 것이다. 그것은 측정이 아니라 아키텍처에서 나온 기대다.

배포 현실이 갈라지는 지점

Ming에는 CUDA GPU, Python 3.12, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2가 갖춰진 Linux 머신과 자체 모델링 코드를 로드하기 위한 trust_remote_code=True가 필요합니다. 가중치는 두 개의 샤드에 걸쳐 BF16으로 약 17.7GB입니다. 특정 어댑터 커밋에 고정된 SGLang 서빙 경로가 있는데, 이는 벤더가 이 기능이 데스크톱이 아니라 API 뒤에서 실행되기를 기대한다는 신호입니다.

Moonshine 250M은 1GB 미만의 메모리와 대략 0.1~1 TOPS를 목표로 합니다. 엣지 디바이스용 Moonshine Voice 프레임워크와 Transformers를 통해 실행되며, 해당 카드에는 Transformers 경로가 아직 완전히 효율적인 스트리밍을 구현하지 않았다고 분명히 명시되어 있습니다. 이는 flash-attention의 슬라이딩 윈도 지원에 의존합니다. 아키텍처가 약속하는 스트리밍 동작을 원한다면, 이를 제공하는 것은 프레임워크 경로입니다.

저장소는 체크포인트 라인이 실제로 드러나는 곳입니다. Tiny, Small, Medium 패밀리 전반에 걸친 스물네 개의 태그와, 실제 스트리밍을 원할 때 카드가 사용하라고 안내하는 프레임워크가 있습니다. 그것은 Ming에게 아직 없는 유지보수 이야기이며, 선택의 실용적인 절반입니다.

그게 두 문장으로 요약한 비교의 전부입니다. 한 모델은 기기 안에서 잊히도록 설계되었고, 다른 모델은 핫워드 목록이 덧붙은 채 GPU에서 서비스되도록 설계되었습니다.

중국어 우선 팀이 실제로 해야 할 일

제품이 영어 실시간 자막이나 음성 명령이라면, Moonshine 250M은 Ming이 전혀 할 수 없는 일을 해내고 있으며, 정확도 격차가 — 그것이 얼마로 밝혀지든 — Ming이 라이브 스트림을 처리할 수 없다는 사실보다 더 중요할 가능성은 낮습니다. 스트리밍은 전체 클립을 읽는 아키텍처에 나중에 추가하는 기능이 아니라, 인코더의 속성입니다.

제품이 중국어 음성이나 지역 방언을 다루거나, 전사본이 사후에 생성되고 이름이 중요한 배치 파이프라인이라면, Ming은 둘 중 이 문제를 해결하는 유일한 모델이며, 출시된 지 5일밖에 되지 않았고 다운로드 수는 수십 건 수준입니다. 솔직한 권장은 자체 오디오로 비교 평가를 하되, 문자 오류율이 아니라 개체명 재현율로 점수를 매기는 것입니다. 그것이 바로 Ming이 겨냥해 만들어진 축이기 때문입니다.

그런 비교 평가를 진행하는 팀에게 운영상의 문제는 모델이 아니라 연결 배관입니다. 두 개의 스택, 두 세트의 의존성, 두 세트의 자격 증명이 있고, 테스트 하네스를 구축하지 않고서는 동일한 트래픽에서 두 모델을 비교할 방법이 없습니다. OrcaRouter는 두 모델 중 어느 것도 호스팅하지 않습니다 — Ming-3.0-asr-tiny와 Moonshine 250M은 자체 호스팅하는 오픈 가중치 모델입니다 — 하지만 200개 이상의 호스팅 모델을 자동 장애 조치와 함께 하나의 API 키 뒤에 배치하여, 별도의 계약 없이도 비교 기준으로 삼는 호스팅 베이스라인을 자체 호스팅 후보 옆에 둘 수 있습니다. 공급업체 정가는 0% 마크업으로 그대로 전달되는데, 이는 토큰당 비용이 아니라 오디오 시간당 비용을 비교할 때 중요한 수치입니다.

주목할 만한 미해결 질문

Ming의 카드에는 핫워드는 힌트일 뿐 보장이 아니며, 출력은 단어 수준 타임스탬프나 화자 분리(diarisation)가 없는 텍스트라고 적혀 있습니다. Moonshine의 카드에는 짧거나 잡음이 많은 구간에서 디코더가 단어를 환각하거나 구절을 반복할 수 있다고 적혀 있습니다. 두 제품 모두 실패 모드에 대해 솔직하게 밝히고 있는데, 이는 대부분의 카드가 해내지 못하는 일이며, 두 제품은 같은 근본적 타협을 반대쪽 끝에서 설명하고 있습니다. 즉, 유창한 텍스트를 생성하는 자기회귀 디코더는 때때로 실제로 말해지지 않은 유창한 텍스트를 생성하기도 한다는 것입니다.

이 비교를 결정지을 것은 벤치마크가 아니라 사용 사례다. 두 모델을 같은 20분 분량의 자신의 오디오에 돌려 보라 — 절반은 라이브, 절반은 배치, 절반은 영어, 절반은 그렇지 않은 — 그러면 결정은 완전히 파라미터 수의 문제가 아니게 된다. 그때까지 이 대결에 대한 올바른 설명은 한 모델은 지속적으로 듣도록 만들어졌고 다른 모델은 꼼꼼히 읽도록 만들어졌으며, 더 작은 쪽의 이름은 사실 2억 6600만 개 파라미터인 체크포인트를 가리키는 마케팅용 약칭이라는 것이다.