LFM3-Omni-2B 대 MiniCPM-V 4.7 35B-A3B: 신예와 기존 강자

두 숫자, 둘 다 사실이고, 둘 다 판결로 읽으면 오해를 부르는 숫자: MiniCPM-V 4.7 35B-A3B는 약 289,000회 다운로드되었고, LFM3-Omni-2B는 83회 다운로드되었습니다. 이 격차는 압도적인 승리처럼 보입니다. 하지만 실제로는 달력입니다. OpenBMB의 가중치는 2026년 10월 6일에 공개되었고, Liquid AI의 가중치는 10월 21일에 공개되어 10월 27일에 발표되었습니다. 이는 이 숫자들을 확인한 하루 전입니다. 일주일 동안 존재한 모델은 다운로드 이력을 가질 수 없으며, 6주 앞서 시작했고 기존 MiniCPM 팔로워층이 있는 모델은 그럴 자격이 있든 없든 다운로드 이력을 갖게 됩니다.

그래서 흥미로운 비교는 인기가 아닙니다. 그것은 기기를 위해 작은 멀티모달 모델을 선택하는 팀이 실제로 저울질해야 하는 것입니다: 소리를 들을 필요가 있는지, 여섯 가지 방식으로 양자화되어야 하는지, 그리고 제품에 수익이 생겼을 때 어떤 라이선스가 여전히 부담 없을지.

각 모델이 무엇인지

MiniCPM-V 4.7 35B-A3B는 OpenBMB의 첫 번째 전문가 혼합(mixture-of-experts) 비전-언어 모델입니다. 저장된 파라미터 352억 개를 토큰당 256개 중 8개로 라우팅하며, 활성 파라미터는 약 30억 개이고, 텍스트 레이어는 40개이며, 히든 크기 1,152의 27층 비전 타워가 텍스트 스택의 6번째 레이어에 삽입됩니다. 이미지, 다중 이미지 세트, 비디오, 텍스트를 읽고 텍스트로 답합니다. 70.4GB의 가중치 어디에도 오디오 경로는 없습니다. 이 카드의 핵심 주장은 정확성이 아니라 실행 가능성입니다. 약 3GB의 메모리를 사용하는 iPhone 17 Pro Max에서 초당 13개 이상의 토큰을 처리하는데, 이는 다음 레이어의 전문가를 예측해 현재 레이어가 계산하는 동안 미리 가져오는 Lookahead Expert Scheduling 기법 덕분입니다.

LFM3-Omni-2B는 LFM3 제품군에서 Liquid AI의 옴니 모델입니다. LFM3-1.7B 백본 위에 21억 7천만 개의 dense 파라미터를 갖추고 있으며, LFM3 비전 인코더와 LFM3 인과적 오디오 인코더가 하나의 128,000토큰 어휘로 입력을 공급합니다. 텍스트, 이미지, 소리가 있거나 없는 비디오, 16kHz 오디오를 읽고, 텍스트 또는 24kHz 음성을 출력하며, 단일 응답에서 텍스트와 음성을 교차 배치할 수도 있습니다. 설계상 비추론 모델로 — 모델 카드에는 enable_thinking=True가 지원되지 않는다고 명시되어 있습니다 — 휴대폰, 노트북 및 엣지 하드웨어를 겨냥합니다.

둘 다 휴대폰에 맞습니다. 오직 하나만이 그에 맞춰 설계되었습니다.

둘 다 "기기 위의 소형 모델"이라는 항목에 넣고 넘어가기는 쉽다. 하지만 그 밑에 깔린 엔지니어링은 정반대다.

OpenBMB의 문제는 핸드셋에서의 메모리 대역폭이었습니다. 그래서 이 모델은 토큰당 읽어야 하는 양을 줄이는 방식으로 희소합니다. 저장된 것은 35.2B, 실제로 건드리는 것은 3B입니다. Lookahead Expert Scheduling이 결정적인 단서입니다. 병목이 가중치를 곱하는 것이 아니라 옮기는 것일 때만 전문가 프리페칭을 구축하게 되니까요. LFM3-Omni-2B는 진짜로 작다는 점으로 같은 문제를 해결합니다. 2.17B dense, 라우팅은 전혀 없고, 모든 것이 16-bit인데도 여전히 몇 기가바이트입니다.

그 트레이드오프는 양자화에서 드러난다. MiniCPM-V 4.7은 GGUF, AWQ, GPTQ, FP8, INT4, BitsAndBytes 빌드를 제공하며, 추측성 디코딩을 위한 DSpark 드래프트 체크포인트까지 갖추고 있다 — 어떤 가속기를 선택하든 완벽한 메뉴다. LFM3-Omni-2B는 Hugging Face에 BF16 가중치가 있고 Ollama 빌드도 유통되고 있는데, 그 Ollama 목록에는 모델 카드의 32K와 달리 125K 컨텍스트가 표기되어 있다. 그것이 패키징 버그인지 문서화되지 않은 기능인지는 이 글을 쓰는 시점 기준으로 아직 확인되지 않았다. Rockchip NPU나 Intel 노트북에서 실행해야 한다면, 여섯 가지 양자화 포맷을 갖춘 벤더가 첫날부터 더 안전한 선택이다.

대부분의 배포를 결정하는 한 줄

MiniCPM-V 4.7 35B-A3B는 들을 수 없습니다. 오디오 타워도, ASR 경로도, 음성 헤드도 없습니다. LFM3-Omni-2B는 들을 수 있고 소리 내어 답할 수 있으며, 19개 음성 로캘과 16개 텍스트 언어를 지원합니다.

문서, 차트, 스크린샷 또는 비디오 프레임 작업에서는 그 차이가 무의미하며, MiniCPM이 거의 모든 다른 측면에서 더 강력한 선택입니다 — 더 크고, 더 폭넓게 테스트되었으며, 도구 지원도 더 좋습니다. 마이크가 개입되는 모든 경우에는 비교가 즉시 끝납니다. 별도의 ASR 모델과 그다음 TTS 모델을 추가하지 않고서는 MiniCPM-V 4.7에 청각 기능을 덧붙일 수 없으며, 그렇게 되면 하나의 2.17B 체크포인트가 기본적으로 수행하는 일을 하기 위해 세 개의 모델을 실행하게 됩니다.

반대의 경우도 성립합니다. LFM3-Omni-2B는 이미지를 읽지만, 이미지를 읽는 모델은 2.17B 모델입니다. 이 모델의 카드에는 OCRBench 806, DocVQA 92.47, MMMU 42.44가 보고되며, MMMU-Pro는 27.28로 낮습니다. 이는 모델 크기에 비해 respectable한 수치이지만, 어려운 문서 레이아웃에서는 35B 모델과 경쟁력이 없습니다. 작업이 밀집된 표와 스캔된 양식이라면, 실행 비용을 낮춰 주는 256개 중 8개 라우팅을 고려하기 전에도 더 큰 모델이 해당 작업에서 우세합니다.

숫자가 바닥나는 곳

불편한 부분은 이렇습니다. 솔직한 일대일 비교 표는 존재하지 않습니다. OpenBMB가 MiniCPM-V 4.7 결과를 숫자 표가 아니라 차트 이미지로 공개하기 때문입니다. 35B-A3B 카드에서 인용할 MMStar, MMMU 또는 OCRBench 수치는 없습니다. 그 열에 숫자를 넣는 것은 무엇이든 1B 형제 모델 — 다른 아키텍처의 다른 모델 — 에서 온 것이거나 지어낸 것입니다.

이와 대조적으로 LFM3-Omni-2B의 카드는 전체 표로 구성되어 있습니다. MMStar 55.67, MMMU 42.44, MMMU-Pro 27.28, MMBench 73.68, SEEDBench 75.07, RealWorldQA 66.54, MathVista 62.50, POPE 89.34, DocVQA 92.47, InfoVQA 64.08, OCRBench 806, MVBench 58.03, Video-MME 57.70에 더해, 영어 ASR의 6.36 단어 오류율에서 TTS UTMOSv2의 3.80까지 이어지는 음성 항목 열이 포함되어 있습니다. 이 모든 수치는 Liquid AI가 측정한 것으로, 비교 대상 각 모델의 자체 채팅 템플릿과 그리디 디코딩을 사용했으며, 그중 어느 것도 재현되지 않았습니다.

벤더 표가 벤더 차트보다 낫긴 하지만, 독립적인 평가와 같은 것은 아닙니다. 두 모델 모두 독립 평가가 없습니다. 이것이 현재 전체 소형 옴니 카테고리의 현황이며, 그래서 MMMU 1점보다 배포 제약이 더 중요해지는 이유입니다.

라이선스: 프로토타입이 출시되기 전에 읽어 보세요

MiniCPM-V 4.7은 Apache 2.0입니다. 매출 기준도, 사용 분야 제한 조항도, 협상도 없습니다. LFM3-Omni-2B는 LFM Open License v1.0에 따르며, 이는 Liquid가 LFM3 전반에 적용하는 매출 기준 라이선스입니다. 취미 프로젝트나 초기 스타트업이라면 실제로 둘은 사실상 동일합니다. 매출 기준을 넘어선 기업이라면 둘 중 하나는 변호사와 상담해야 하고 다른 하나는 그럴 필요가 없습니다 — 그리고 그 상담은 모델이 제품에 들어간 뒤보다 지금 하는 편이 훨씬 저렴합니다.

이것은 이 비교에서 가장 매력적이지 않은 축이며, 실제 기업에서는 승부를 결정지을 가능성이 가장 큰 축입니다.

두 가지가 하나의 아키텍처에 어떻게 들어맞는지

대부분의 팀에게 현실적인 답은 "하나를 고르는 것"이 아니다. 일반적인 경우에는 온디바이스 모델을, 기기 모델이 처리하지 못하는 요청에는 호스팅 모델을 쓰는 것이다. 그 두 번째 부분을 이식 가능하게 유지하는 것이 기기 모델이 바뀌어도 살아남는 부분이다: OrcaRouter는 200개 이상의 호스팅 모델에 대해 제공업체 정가에 0% 마크업으로 하나의 API를 제공하고, 제공업체가 서비스를 중단하면 자동 장애 조치를 수행하며, 코드 변경 없이 요청을 다른 모델로 이동시키는 라우팅 DSL을 제공한다. LFM3-Omni-2B도 MiniCPM-V 4.7도 그 카탈로그에 없다 — 둘 다 가중치 다운로드이며, 이 글은 그렇지 않다고 말하는 것이 아니다. 핵심은 기기 티어가 바뀔 때마다 폴백 티어를 다시 구축해서는 안 된다는 것이며, 기기 티어는 몇 주마다 계속 움직이고 있으므로 바뀔 것이다.

기기에 어느 것을 넣을까요?

비전 품질, 실제로 배포할 수 있는 양자화 형식, Apache 2.0, 그리고 6주간의 현장 보고서가 뒷받침하는 생태계가 필요하다면 MiniCPM-V 4.7 35B-A3B를 선택하세요. 다운로드 수는 품질 신호는 아니지만, 289,000회 다운로드와 함께 올라오는 버그 리포트는 LFM3-Omni-2B가 아직 갖지 못한 일종의 테스트입니다.

제품에 음성이 필요하거나, 기기의 메모리 제약이 커서 3GB의 활성 가중치조차 여전히 너무 많거나, ASR+LLM+TTS 스택 대신 하나의 체크포인트를 원한다면 LFM3-Omni-2B를 선택하세요. 더 작은 모델의 비전 점수, 매출 임계값 라이선스, 그리고 발표된 지 하루 지난 모델의 얼리 어답터가 된다는 사실을 감수하세요.

이걸 확실히 매듭지어 줄 것은 단 한 번의 독립적 실행이다 — 같은 하네스, 두 모델, OCRBench와 MMMU, 그리고 음성 과제 하나. 아직 아무도 해내지 않았다. 누군가 해내기 전까지, 정직한 순위는 이렇다: 보는 일은 MiniCPM, 말하는 일은 LFM3-Omni, 그 외 모든 것은 스프레드시트다.