LFM3-Omni-2B vs Ming-3.0-audio-flash: 랙에 맞선 휴대폰

벤치마크가 한마디 하기도 전에 이미 BOM(부품 명세)이 이 비교의 승부를 가른다. Ming-3.0-audio-flash는 1,260억 개 파라미터에 bfloat16 가중치가 약 259 GB이며, 80 GB H800을 텐서 병렬로 묶은 참조 서빙 프로파일을 기반으로 한다 — 128K 구성에서는 4대, 긴 오디오가 메모리를 소진하면 8대다. LFM3-Omni-2B는 21억 7천만 개 파라미터로, 일반적인 BF16 가중치 형태로 제공되며, 휴대폰에서 실행되도록 설계됐다. 둘 다 오디오를 입력받고, 둘 다 소리 내어 답할 수 있다. 하나는 데이터센터 자산이고 다른 하나는 앱에 넣을 수 있는 기능이며, 이 둘에 관한 거의 모든 나머지 차이는 이 한 가지 사실에서 비롯된다.

두 모델 역시 별다른 요란 없이 등장했다. Liquid AI는 2026년 10월 27일 LFM3 제품군을 발표했으며, LFM3-Omni-2B는 한 게시물에서 소개된 2B급 모델 여섯 개 중 하나였다. 해당 모델의 저장소는 2026년 10월 21일부터 공개되어 있었다. inclusionAI는 2026년 9월 3일 Ming-3.0-audio-flash를 거의 문서 없이 업로드했고, 6주 뒤인 10월 19일에야 제대로 된 모델 카드를 공개했다. 두 벤더 모두 독립적인 벤치마크가 없고, 두 모델 모두 토큰 단위로 임대할 수 있는 호스팅 엔드포인트가 없다.

모델에 입을 붙이는 두 가지 방법

아키텍처상의 차이는 규모에 관한 것이 아닙니다. 오디오가 어디에 위치하는지에 관한 것입니다.

Ming-3.0-audio-flash는 가능한 한 오래 오디오를 오디오로 유지한다. Whisper 스타일 인코더(32개 레이어, 폭 1,280, 멜 빈 128개)는 소리를 표현으로 변환해 512명의 전문가 중 토큰당 8명을 선택하는 42개 레이어의 전문가 혼합 백본에 입력한다. 음성은 내장 중국어 음성과 참조 클립 음성 프롬프팅을 갖춘 선택적 Talker 모듈을 통해 다시 나온다. 선언된 컨텍스트는 128K인데, 이 수치는 10월 13일 커밋이 위치 임베딩을 8,192에서 131,072로 올리기 전까지 설정에서 주장되지 않았다.

LFM3-Omni-2B는 모든 것을 하나의 스트림으로 토큰화한다. 비디오는 초당 2프레임으로 샘플링되고, 각 2×2 이미지 패치는 하나의 언어 토큰이 되며, 오디오는 LFM3 인과적 오디오 인코더를 거쳐 텍스트와 동일한 128,000토큰 어휘로 들어간다. 음성 출력은 24 kHz의 LiquidCodec이고, 오디오 입력은 16 kHz 모노이다. 전체 모델은 32K 창에 들어간다.

그것은 압축에 관한 논리이며, 양날의 검입니다. LFM3-Omni-2B의 접근 방식은 2.17B 모델을 핸드셋에서 실행 가능하게 만드는 방법입니다 — 모든 것이 같은 종류의 토큰이므로 모든 것이 같은 방식으로 저렴합니다. Ming의 접근 방식은 126B 모델이 운율을 버리지 않고 한 시간 분량의 녹음을 기억 속에 담아 둘 수 있게 하는 방법입니다. 어느 쪽도 공짜 점심은 아닙니다.

나란히 놓고 비교해 볼 만한 숫자들

• 총 파라미터 — LFM3-Omni-2B는 2.17B dense, Ming-3.0-audio-flash는 512개 전문가 혼합 구조에서 126B.

• 활성 매개변수 — 추론 단계당 6.5B 대비 약 2.17B.

• 디스크상의 가중치 — 약 259GB의 bfloat16 샤드와 Talker에 비해 불과 몇 기가바이트

{{1}}참조 하드웨어{{/1}} — 128K 프로파일에서는 텐서 병렬로 구성된 80GB H800 4개(긴 오디오가 메모리를 초과할 때는 8개)와 비교되는 휴대폰, 노트북 또는 엣지 보드입니다.

• 컨텍스트 — 입력과 출력을 합쳐 32K 토큰이며, 선언된 128K와 대비됩니다.

• 음성 출력 — 19개 음성 로캘을 지원하는 24kHz LiquidCodec; Ming은 Talker를 통해 텍스트 또는 텍스트와 음성을 반환하며, 내장 음성과 참조 클립 복제 기능을 갖추고 있습니다.

• 라이선스 — 매출 임계값 라이선스인 LFM Open License v1.0, MIT와 비교.

• 가격 — 어느 쪽도 토큰당 가격을 책정하지 않습니다. 두 벤더 모두 이 체크포인트에 대한 추론을 판매하지 않기 때문입니다.

활성 매개변수는 속도계가 아닙니다

"6.5B 활성" 옆에 "2.17B dense"를 보고 Ming이 토큰당 비용이 겨우 세 배라고 결론짓기 쉽다. 그런 해석은 양방향 모두 틀렸다.

전문가 혼합(MoE)은 연산뿐 아니라 메모리 대역폭도 소모한다. 126B 중 6.5B의 활성 파라미터를 서빙한다는 것은 매 레이어마다 전문가 가중치를 캐시로 옮겨야 한다는 뜻이며, 배치 크기 1 — 음성 비서가 작동하는 환경 — 에서는 토큰마다 259GB의 상당 부분을 읽는 것에 가깝다. 8×H800 구성은 최대 처리량을 위한 권장 사항이 아니라 가중치를 담아 두기 위해 필요한 구성이다. 2.17B의 LFM3-Omni-2B는 반대 문제를 안고 있다. 희소성으로 얻는 이점은 없지만 스왑할 대상도 없으며, 이는 바로 휴대폰에서의 실행을 현실성 있게 만드는 프로필이다.

실질적인 결과는 두 모델의 스케일링 곡선이 서로 다르다는 것입니다. Ming은 배치로 처리할수록 토큰당 비용이 낮아지며, 이는 녹음된 통화 대기열을 처리하는 전사 파이프라인에 적합합니다. LFM3-Omni-2B는 발화당 비용이 대략 일정하게 유지되며, 이는 배치 크기가 1이고 지연 시간 예산이 수백 밀리초인 실시간 대화에 적합합니다.

그 1260억으로 무엇을 살 수 있을까

inclusionAI는 평가 결과를 표가 아닌 이미지로 공개하는데, 이는 그 자체로 일종의 메시지이지만 숫자는 읽을 수 있다. 자사 하네스에서 Ming-3.0-audio-flash는 중국어 ASR 평균 오류율 3.45, 영어 3.69, 광둥어·상하이어·후난어·푸젠어(호키엔) 평균 9.40, AISHELL-4에서 화자 분리 오류율 8.58을 보고한다. 오디오 추론 항목에는 BigBenchAudio 99.40과 MMAU 82.00이 포함된다. 이는 자체 평가 행을 별표로 표시한 공급업체 하네스상의 공급업체 수치다. 아무도 이를 재현하지 않았다.

공급업체가 그럼에도 표기한 약점은 긴 오디오 추론입니다. Long-audio Chain 점수는 12.31, LongAudioSpan은 41.12로, 둘 다 자체 비교에 포함된 호스팅 모델들보다 크게 뒤처집니다. 따라서 126B가 '오디오 이해'에서 일률적으로 더 나은 것은 아닙니다. 이 모델은 누가 어떤 억양으로 말했는지를 정확히 듣는 데는 더 뛰어나지만, 긴 녹음을 머릿속에 붙잡아 두고 그 전반에 걸쳐 추론하는 능력은 상당히 덜 뛰어납니다.

21억 7천만으로 무엇을 살 수 있나

LFM3-Omni-2B는 영어 ASR 단어 오류율 6.36, 다국어 오류율 6.72, TTS UTMOSv2 3.80, VoiceBench 64.73, MMAR 51.40, 도구 호출 점수 52.20을 보고합니다. 오디오 입력은 16kHz 모노로 제한되는데, 이는 음성에는 적합하지만 음악에는 쓸모가 없습니다.

6.36을 Ming의 3.69와 비교하려는 충동을 참으세요. 이 둘은 같은 테스트가 아닙니다. Ming의 영어 평균은 자체 영어 벤치마크 세트에서 계산된 것이고, Liquid의 6.36은 자체 프롬프트와 greedy decoding으로 실행된 하나의 평가에서 나온 하나의 숫자입니다. 방어 가능한 유일한 진술은 방향성에 관한 것입니다. Ming의 ASR이 아마 더 나을 것입니다. Whisper 스타일 타워를 갖춘 126B 오디오 네이티브 모델은 더 나아질 여지가 더 크고, inclusionAI가 앞세우기로 선택한 것이 방언 처리이기 때문입니다. 그것이 2점만큼 더 나은지 0.5점만큼 더 나은지는 이 두 카드로는 알 수 없습니다.

LFM3-Omni-2B가 얻는 것은 정확도가 아니다. 그것은 모델이 마이크가 있는 곳에서 실행된다는 점이다. 통화 녹음 파이프라인에서는 무관하다. 실시간 사용자가 있는 모든 경우에는 아키텍처가 달라진다. 업로드도, 왕복도, 분당 요금도 없고, 오디오가 기기를 떠나지도 않는다.

라이선스가 조용한 차이를 만듭니다.

Ming-3.0-audio-flash는 MIT입니다. 이는 가능한 한 관대한 편입니다: 상업적 사용, 수정, 재배포, 매출 기준 없음, 사용 분야 제한 없음. LFM3-Omni-2B는 LFM Open License v1.0에 따라 배포됩니다. 이는 Liquid가 LFM3 전반에 적용하는 제품군 라이선스이며, OSI 승인 오픈 소스 라이선스가 아니라 매출 기준 라이선스입니다. 그 위에 제품을 만들기 전에 읽어 보세요. 기준 미만의 스타트업에게 그 차이는 이론적인 것에 불과하지만, 기준을 넘는 회사에게 MIT는 실질적인 금전적 가치가 있습니다.

통합은 서류 작업이 드러나는 지점이다

Ming의 서빙 이야기는 아직 진행 중입니다. inclusionAI의 출시 프레이밍은 오늘 vLLM-Omni로 그 제품군을 서빙할 수 있다고 암시했지만, 저장소가 실제로 보여주는 것은 열린 풀 리퀘스트들입니다. 하나는 tts-tiny 체크포인트를 다루고, 다른 하나는 audio-flash 지원을 추가합니다. 그것들이 병합되기 전까지 Ming-3.0-audio-flash를 실행하려면 메모리가 충분한 머신에서 Transformers를 사용하거나, 벤더가 문서화한 SGLang-Omni 경로를 이용해야 합니다. 가능은 하지만 `pip install` 한 번으로 되는 일은 아닙니다.

LFM3-Omni-2B의 이야기는 정반대입니다. 파인튜닝 레시피를 문서화한 Hugging Face 카드와 이미 배포된 Ollama 빌드가 있죠. 그 빌드는 카드의 32K와 달리 125K 컨텍스트를 내세우는데, 이는 패키징이 문서화보다 빠르게 움직였음을 보여줍니다 — 긴 오디오를 넣을 계획이었다면 중요한 사소한 차이입니다.

둘 중 어느 것도 당신에게 맞는 형태가 아니라면, 대안은 역량을 소유하는 대신 임대하는 것이며, 이는 별도의 예산 항목입니다. OrcaRouter는 그 선택지의 호스팅 측면입니다. 제공업체 정가에 0% 마크업으로 200개 이상의 모델을 아우르는 단일 API를 제공하고, 제공업체에 장애가 발생하면 자동으로 페일오버합니다. 그리고 LFM3-Omni-2B와 Ming-3.0-audio-flash는 현재 그 카탈로그에 없습니다. 이것이 솔직한 설명입니다. 이 글은 호출할 수 있는 두 모델이 아니라 다운로드하는 두 모델에 관한 것입니다.

누가 무엇을 골라야 할까요?

다른 용도로 쓰지 않는 GPU가 있고, 오디오가 억양이 있는 중국어 또는 영어이면서 여러 화자가 등장하며, 긴 녹음에 대해 정확한 전사나 근거 있는 답변을 만들어야 하는 작업이라면 Ming-3.0-audio-flash를 선택하세요. MIT 라이선스 덕분에 상업용 제품을 구축하기에 둘 중 더 안전한 선택지이며, 128K 컨텍스트는 둘 중 유일하게 회의 하나를 한 번에 담을 수 있게 해 줍니다.

오디오가 엣지에서 생성되고, 사용자가 기다리고 있으며, 답변을 바로 음성으로 돌려줘야 한다면 LFM3-Omni-2B를 선택하세요. 앱에 맞는 배포를 얻는 대신, 더 작은 모델의 정확도, 더 좁은 언어 목록, 수익 조항이 있는 라이선스를 감수하세요.

둘 중 어느 쪽이든 그 전에 먼저 물어야 할 질문은 이것이다: 오디오는 어디로 가는가? 답이 "아무 데도"라면 비교는 끝난 것이다.