LFM3-Omni-2B vs MiniCPM-V 4.7 1B: 더 작은 모델이 더 잘 읽을 때

서류상으로는 공정한 싸움이 아니다. LFM3-Omni-2B는 21억 7천만 개의 파라미터를 갖고 있고, MiniCPM-V 4.7 1B는 1B 모델로 마케팅된다. 더 큰 모델이 비전 벤치마크에서 이겨야 마땅하다. 하지만 이기지 못한다. MiniCPM은 OCRBench에서 80.6에 맞서 86.1점을, MMStar에서 55.67에 맞서 69.5점을, MMMU에서 42.44에 맞서 56.9점을, MathVista에서 62.5에 맞서 74.3점을 기록한다. 두 모델 카드가 공통으로 다루는 모든 비전 벤치마크에서 이름이 더 작은 쪽이 우세하며, 대개 큰 격차로 앞선다. 게다가 MiniCPM은 컨텍스트 윈도우도 8배 더 크다. 퓨전은 단일 모델로 라우팅하는 것보다 호출당 비용이 더 든다. 청구는 공급자 정가로 추가 마크업 없이 이루어진다.

이를 설명하는 세 가지 이유가 있으며, 그중 어느 것도 두 모델 중 어느 쪽의 결함도 아닙니다. MiniCPM-V 4.7 1B는 전체 파라미터 예산을 보는 능력에 쏟아부은 전문가입니다. LFM3-Omni-2B는 예산을 보고, 듣고, 말하는 데 쓴 범용 모델입니다. 그리고 가장 중요한 MiniCPM 수치인 OCRBench 86.1은 4× 시각 토큰 설정으로 측정되었는데, 이 설정은 이미지당 2,048토큰 제한으로는 할 수 없는 방식으로 연산량을 들여 세부 정보를 얻습니다. 그 트레이드오프를 이해하는 것이 결정의 전부입니다.

더 작은 모델이 더 잘 읽는 이유

MiniCPM-V 4.7 1B는 하나의 아이디어를 중심으로 만들어졌습니다. 바로 시각 토큰을 이른 단계에서 압축하고, 사용자가 압축 강도를 선택할 수 있게 하는 것입니다. 이 모델은 언어 모델이 무엇이든 보기 전에 비전 인코더 내부에서 4× 또는 16× 토큰 압축을 적용합니다. 16×에서는 저렴하고 빠르며, 캡셔닝과 장면 설명에 적합합니다. 4×에서는 네 배 더 많은 토큰을 유지하는데, 이는 문서 OCR과 밀집 차트 판독에 필요한 것입니다. OpenBMB의 대표 수치는 4× 설정에서 보고됩니다.

LFM3-Omni-2B는 정반대 접근을 취한다. 이미지를 원본 해상도로 처리하지만 이미지당 시각 예산을 2,048 토큰으로 제한하며, 이 상한은 2.17B dense 네트워크 내부의 오디오 인코더, 비디오 경로, 음성 디코더와 공유된다. 2,048 토큰 상한은 세 가지 다른 모달리티와 함께 휴대폰에 들어가야 하는 모델에게 합리적인 선택이다. 이는 언어 모델에 도달할 수 있는 페이지 세부 정보의 양에 대한 엄격한 상한이며, DocVQA 92.47은 모델이 그 상한에서 많은 것을 끌어낸다는 점을 시사하지만, OCRBench 80.6은 같은 페이지에 4배 많은 토큰을 쓸 수 있는 전문 모델을 이기기에는 충분하지 않다고 말한다.

덜 눈에 띄는 두 번째 요인이 있습니다. MiniCPM의 컨텍스트 창은 262,144토큰입니다. LFM3-Omni-2B는 32,768토큰입니다. 스크린샷 한 장만 놓고 보면 둘 다 문제가 되지 않습니다. 하지만 40페이지 PDF, 긴 영상 또는 멀티턴 문서 대화에서는 그 차이가 벤치마크의 한 줄이 아니라, 해당 작업이 애초에 가능한지 여부를 가릅니다.

마케팅용 반올림 없이, 사양

비교에 앞서 숫자 하나를 바로잡아야 합니다. MiniCPM-V 4.7 1B는 1B 모델이라고 불리며, 비전 타워를 어떻게 세느냐에 따라 dense 파라미터 수는 대략 13억에서 15억 5천만 개입니다. Hugging Face의 사이드바는 이를 "2B params"로 반올림하는데, 이렇게 해서 1B 모델이 카탈로그에서 2B 모델처럼 보이게 됩니다. 가장 정확한 기준은 파일 크기입니다. BF16 기준 약 3.1GB이며, LFM3-Omni-2B는 4.3GB입니다.

• 매개변수 — LFM3-Omni-2B는 2.17B dense인 반면, MiniCPM-V 4.7 1B는 대략 1.3B~1.55B dense입니다.

• 입력 — 텍스트, 이미지, 오디오가 포함된 비디오, 16 kHz 오디오 대 텍스트, 이미지, 다중 이미지 및 비디오.

• 출력 — 텍스트 및 24kHz 음성 대 텍스트 전용.

• 컨텍스트 — 32,768 토큰 vs 262,144 토큰.

• 시각적 토큰 — 이미지당 2,048개로 제한되며, 인코더 내부에서는 4× 또는 16× 압축으로 전환할 수 있습니다.

• 라이선스 — LFM Open License v1.0 vs Apache-2.0.

• 출시 — 2026년 10월 27일 vs 2026년 10월 12일.

• 풋프린트 — BF16 기준 약 4.3GB 대 약 3.1GB, 서빙에는 대략 5GB의 VRAM이 필요합니다.

두 카드가 공유하는 모든 행

교차 연구실 비교표로서는 이 비교가 유난히 깔끔한데, 두 공급업체가 동일한 네 가지 비전 데이터셋을 보고하고 두 모델 모두 instruct 모드로 평가된 비추론 모델이기 때문입니다. 그래도 여전히 두 공급업체의 평가이며, 어느 쪽도 독립적으로 재현되지 않았습니다.

• OCRBench — LFM3-Omni-2B는 80.6(1,000개 중 806개), MiniCPM-V 4.7 1B는 86.1입니다. 문서 텍스트 인식에서 5.5포인트 차이입니다.

• MMStar — 55.67 대 69.5. 13.8포인트 격차로, 이 세트에서 가장 큽니다.

• MMMU 검증 — 42.44 대 56.9. 대학 수준 멀티모달 추론에서 14.5포인트 격차.

• MathVista mini — 62.50 대 74.3. 시각 수학에서 11.8포인트 격차.

네 개의 행, 네 번의 패배, 격차는 5점에서 15점 사이입니다. 옴니 모델이 이기는 행은 하나도 없는데, 이는 LFM3 대 LFM2.5 비교가 낸 결과보다 더 깔끔하고 설명해 넘기기 더 어려운 결과입니다. 가장 방어 가능한 해석은 256K 컨텍스트와 4배 토큰 예산을 갖춘 1.4B 특화 모델이 32K 컨텍스트와 2,048토큰 이미지 상한을 갖춘 2.17B 범용 모델보다 단순히 더 나은 리더라는 것입니다. 이 규모에서는 하나의 모달리티에 쓴 용량이 네 가지에 나눈 용량을 이깁니다.

두 가지 주의사항은 함께 언급되어야 합니다. 어느 카드도 이를 자발적으로 밝히지 않기 때문입니다. MiniCPM의 86.1은 4× 압축에서 측정된 것이며, 같은 모델을 기본값인 16× 설정으로 실행하면 점수는 더 낮아지고 비용은 더 저렴해질 것입니다. 하지만 카드는 그 수치를 공개하지 않습니다. 또한 OpenBMB의 모델 카드에는 벤치마크 표가 전혀 없습니다. 수치들은 제품 페이지의 산문과 차트 이미지로 제시되는데, 이는 방법론 주석이 달린 표보다 약한 공개 형태입니다. 두 수치 모두 공급업체의 주장입니다. 격차의 방향은 충분히 일관되므로 독립 테스트에서도 아마 유지될 것입니다. 정확한 크기는 아마 그렇지 않을 것입니다.

Context는 실제 워크로드를 결정하는 행입니다.

32K 컨텍스트는 이미지 한 장에는 넉넉하지만 문서에는 비좁습니다. 이미지당 대략 2,048개의 시각 토큰에서 LFM3-Omni-2B는 대화 기록이 공간을 두고 경쟁하기 시작하기 전까지 약 열두 장의 전체 이미지를 윈도에 담을 수 있습니다. MiniCPM-V 4.7 1B의 262,144 토큰은 소폭 개선이 아니라 전혀 다른 등급의 워크로드입니다. 긴 PDF, 여러 페이지 양식, 한 시간짜리 비디오 요약, 스크린샷을 컨텍스트에 유지하는 에이전트 루프는 모두 256K에서는 실현 가능하고 32K에서는 모두 제약을 받습니다.

두 모델 간의 가장 논의가 적고 가장 중대한 차이입니다. 벤치마크 표는 단일 이미지 정확도를 보상하지만, 실제 프로덕션 문서 파이프라인은 열네 번째 페이지에서 실패합니다. 대화당 이미지가 몇 장을 넘는 사용 사례라면, 32K 윈도우는 위의 네 가지 벤치마크 격차 중 어느 것보다도 더 가혹한 한계입니다.

MiniCPM이 할 수 없는 것

그것은 들을 수 없습니다. 오디오 입력 경로도, 음성 출력도, 비디오 사운드트랙 처리도 없습니다. 애플리케이션이 사람이 카메라가 보는 것에 대해 기기와 이야기하는 것이라면, MiniCPM-V 4.7 1B는 최소 두 개의 추가 모델—ASR 시스템과 TTS 시스템—그리고 이들 사이에서 텍스트를 옮기는 연결 코드가 필요한 파이프라인의 한 구성 요소입니다.

LFM3-Omni-2B는 그 파이프라인을 단 하나의 4.3GB 체크포인트로 압축한다. 전용 음성 모델들에 비하면 음성 점수는 눈에 띄지 않는다. 영어 ASR 단어 오류율 6.36, VoiceBench 64.73이지만, 이 점수들은 비전 경로와 동일한 포워드 패스 안에 존재한다. 즉 모델이 전사본이 작성되지 않은 채로 이미지에 관한 음성 질문에 답할 수 있다는 뜻이다. 핸즈프리 현장 도구나 키오스크에는 바로 그 점이 핵심 기능이다. 문서 파이프라인에는 매개변수 예산에서 불필요한 부담일 뿐이다.

OrcaRouter의 모델 융합은 두 가지 동작을 모두 얻는 또 다른 방법입니다: 문서 전문 모델과 옴니 모델이 동일한 프롬프트에 답하고 그 응답이 둘 모두로부터 구성되는 패널이죠. 이는 이 두 체크포인트에 대한 주장이라기보다 제품 역량입니다 — 두 모델 모두 현재 우리 카탈로그에 없습니다 — 하지만 각 모델이 작업의 서로 다른 절반에서 분명히 더 뛰어난 맞대결에 대한 아키텍처적 해답입니다. 융합은 한 모델로 라우팅하는 것보다 호출당 비용이 더 들며, 잘못된 답변이 토큰보다 더 비쌀 때 정확히 그만한 가치가 있습니다.

결정

작업이 읽기 — OCR, 인보이스, 양식, 차트, 스크린샷, 긴 PDF, 밀도 높은 UI — 라면 MiniCPM-V 4.7 1B가 공개된 모든 지표에서 더 나은 모델이며, 컨텍스트는 8배이고, 수익 기준이 있는 사용자 정의 라이선스 대신 Apache-2.0이며, 디스크에서 더 작습니다. 이는 근소한 차이가 아니며, 1B 모델이라고 불린다는 사실이 이를 가려서는 안 됩니다.

작업이 카메라와 마이크가 있는 기기와의 대화라면, LFM3-Omni-2B는 둘 중 유일하게 참여할 수 있는 모델입니다. 읽기 성능이 떨어지고, 컨텍스트 유지력이 낮으며, 더 엄격한 조건으로 제공되지만, 대안이 세 개의 모델과 파이프라인을 필요로 한다면 그중 어느 것도 문제가 되지 않습니다.

세 번째로 이름 붙일 만한 사례가 있습니다. 두 가지가 모두 필요한 제품인데, 문서 경로와 음성 경로가 별개의 기능인 경우입니다. 그렇다면 올바른 아키텍처는 하나의 모델이 아니라 두 개의 모델이며, 요청 유형에 따라 라우팅합니다. 문서에는 리더를, 음성에는 옴니 모델을 쓰는 것입니다. 그리고 유일한 질문은 둘 다 실행할지, 아니면 단일 엔드포인트가 결정하게 할지입니다. 이것이 이번 비교 묶음이 계속 도달하는 질문이며, 옳은 질문입니다. 두 모델은 규모 면에서 충분히 비슷해 둘 다 실행하는 것이 현실적인 선택지이고, 능력 면에서는 충분히 멀어서 하나만 실행한다면 어느 쪽을 고르든 타협이 됩니다.

판정을 바꿀 수 있는 것은 두 모델 중 하나에 대한 독립적 평가, 특히 MiniCPM을 헤드라인 수치가 사용하는 4× 설정이 아니라 기본 16× 압축에서 테스트하는 평가입니다. 그 단 하나의 수치가 격차의 대부분을 메울 수도 있고, 더 벌릴 수도 있습니다. 누군가 그것을 공개할 때까지 우리가 가진 것은 벤더 표뿐이며, 그 표들은 한 방향을 가리킵니다.