'LFM3-Omni-2B vs Moondream 3'라는 제목과 '같은 대진, 다른 역할'이라는 부제가 있는 생성된 히어로 카드. 왼쪽 패널에는 텍스트, 이미지, 비디오, 오디오 타일이 '텍스트 + 24kHz 음성' 타일로 흘러 들어가는 모습이, 오른쪽 패널에는 이미지와 텍스트 타일이 '박스, 포인트, 마스크' 타일로 흘러 들어가는 모습이 표시됩니다. 'DocVQA 92.47 vs 88.6'이라고 강조된 줄과 '두 수치 모두 공급업체 보고 값이며 독립 평가는 없음.'이라고 적힌 푸터가 있습니다. OrcaRouter 로고는 오른쪽 하단에 있습니다.
Guides & Insights

LFM3-Omni-2B vs Moondream 3: 공통 벤치마크 하나, 서로 다른 역할 두 가지

작성자

Elias Hawthorne

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

나란히 놓고 보면 LFM3-Omni-2B와 Moondream 3의 스펙 시트는 형제처럼 보인다. 둘 다 휴대폰, 노트북, 카메라, 로봇을 겨냥한 소형 멀티모달 모델이다. 둘 다 32K 컨텍스트를 갖는다. 둘 다 토큰마다 약 20억 개의 파라미터를 활용한다. 둘 다 오늘 바로 다운로드할 수 있는 오픈 가중치를 제공한다. 둘 사이의 일대일 비교를 검색해도 아무것도 나오지 않는데, 바로 그래서 이 둘을 계속 함께 묶어 보게 되는 것이다.

그런 다음 두 모델 카드를 주의 깊게 읽으면, 유사성은 쉽게 확인할 수 있는 방식으로 무너집니다. 두 카드가 모두 보고하는 유일한 벤치마크는 DocVQA이며, 여기서 LFM3-Omni-2B는 92.47점, Moondream 3.1 9B A2B는 88.6점을 기록합니다. 그들이 측정하는 나머지 항목은 모두 서로 겹치지 않습니다. 한 모델은 말로 된 문장을 반환합니다. 다른 모델은 바운딩 박스를 반환합니다. 그것들은 같은 질문에 대한 두 가지 답이 아닙니다.

이름에 관한 참고 사항입니다. 디렉터리가 혼란스럽기 때문입니다. Moondream 3 Preview는 2025년 9월 18일에, Moondream 3.1 9B A2B는 2026년 7월 7일에 출시되었습니다. 이 글에 나오는 모든 Moondream 수치는 다운로드할 수 있는 체크포인트인 3.1 카드에서 가져온 것입니다. LFM3-Omni-2B는 2026년 10월 27일에 Liquid AI의 LFM3 제품군에 속한 여섯 모델 중 하나로 공개되었습니다. 둘 다 여기서 중요한 유일한 의미에서 완전히 새로운 모델입니다. 즉, 둘 다 이를 만든 회사 외부의 누구도 평가한 적이 없습니다.

각 모델이 실제로 반환하는 것

가장 근본적인 차이는 파라미터 수가 아닙니다. 바로 출력 계약입니다.

Moondream 3.1은 고정된 형태의 다섯 가지 스킬을 제공합니다: query, caption, detect, point 및 segment. Detection은 최대 200개의 박스를, pointing은 최대 64개의 포인트를, segmentation은 최대 50개의 COCO-RLE 마스크를 반환하며, 모두 JSON 형식의 0–1 정규화 좌표입니다. 이는 좁고 예측 가능한 인터페이스를 갖춘 공간 측정 도구입니다. 출력이 이미 구조화되어 있으므로 LLM 파싱 계층 없이 그 출력을 UI 자동화 도구나 로봇 플래너에 바로 연결할 수 있습니다.

LFM3-Omni-2B에는 그런 계약이 없습니다. 이 모델은 텍스트, 이미지, 사운드트랙이 있거나 없는 비디오, 그리고 16 kHz 오디오를 입력받아 텍스트, 24 kHz 음성, 또는 둘을 교차 생성합니다. 좌표 출력 경로는 없습니다. 이 모델에서 위치를 얻고 싶다면 산문으로 질문하고 답변을 파싱해야 하는데, 이는 박스를 보장하는 스키마와는 신뢰성 등급이 다릅니다.

그 단 하나의 차이가 어떤 벤치마크 수치보다도 더 많은 배포를 좌우한다. 한 모델 ID를 다른 것으로 바꾸는 것은 마이그레이션이 아니다. 그것은 응답을 소비하는 모든 것을 다시 쓰는 일이다.

나란히 보는 사양 시트

• 매개변수 — LFM3-Omni-2B는 총 2.17B로 전체가 상주하며 연산하는 반면, Moondream 3.1은 토큰당 2.0B가 활성인 총 9.0B입니다.

• 유휴 상태 메모리 — 2.17B 매개변수 기준 산술적으로 BF16에서 약 4.4GB인 반면, FP16에서는 약 18GB, 커뮤니티 INT4에서는 약 6GB이며, 출시된 fp8 빌드의 경우 NVIDIA 기준 10GB 하한입니다.

• 입력 — 텍스트, 이미지, 오디오 포함 또는 미포함 2fps 비디오, 16kHz 음성 vs 이미지와 텍스트만.

• 출력 — 텍스트, 24kHz 음성, 또는 인터리브 vs 텍스트, JSON, 정규화된 좌표 및 마스크.

• 컨텍스트 — 입력과 출력을 합쳐 32,768토큰 대 32,768텍스트 토큰에 최대 12개 이미지 타일, 약 2,304 비전 토큰.

• 비전 예산 — 원본 해상도에서 이미지당 최대 2,048토큰 대 384–1024px에서 최대 12개 크롭으로의 적응형 타일링.

• 라이선스 — LFM Open License v1.0은 연간 매출 $10M 미만인 경우에만 상업적 사용이 허가되는 반면, Moondream Model License 1.0은 규모에 관계없이 상업적 사용이 가능하지만 범용 호스팅 서비스는 허용되지 않습니다.

• 게시됨 — 2026년 10월 27일 대 2026년 7월 7일, 3 Preview 브랜치는 2025년 9월 18일에 시작되었습니다.

메모리 행은 사람들이 건너뛰는 항목이지만, 엣지 디바이스에서는 그것이 논거의 전부입니다. Moondream의 2B 활성 파라미터는 토큰당 비용을 LFM3-Omni-2B만큼 저렴하게 만들지만, 총 9B 파라미터는 동일한 정밀도에서 메모리 크기를 최대 네 배까지 키웁니다. 활성 파라미터는 연산량을 좌우합니다. 총 파라미터는 모델이 들어가는지를 좌우합니다. 같은 속도로 실행되지만 18GB가 필요한 모델은 4.4GB에 들어가는 모델과 같은 하드웨어 슬롯을 두고 경쟁하는 것이 아닙니다.

A generated two-column scoreboard titled 'LFM3-Omni-2B vs Moondream 3 — the scoreboard'. The left column lists Parameters 2.17B total, Input text, image, video, audio, Output text + 24 kHz speech, Context 32,768 tokens, DocVQA 92.47 and Licence LFM Open License v1.0. The right column lists Parameters 9B total, 2B active, Input image and text only, Output text, boxes, points, masks, Context 32,768 tokens, DocVQA 88.6 and Licence Moondream Model License 1.0, above a footer reading 'Both columns vendor-reported: Liquid AI and Moondream model cards. No independent evaluation.'

두 곳 모두 보고하는 유일한 벤치마크

DocVQA는 문서 질의응답으로 ANLS로 채점되며, 두 모델 카드에서 LFM3-Omni-2B는 {{1}}92.47{{/1}}, Moondream 3.1은 {{2}}88.6{{/2}}으로 나옵니다. 이 옴니 모델은 비전 전문가의 본진에서 {{3}}3.87점{{/3}} 앞서 있습니다.

그 결과는 세 가지 유보 사항과 함께 읽어야 하며, 모두 핵심적이다. 두 수치 모두 모델을 개발한 연구소가 자체 보고한 것이다. 어느 연구소도 평가 하네스, 프롬프트 형식, 샘플 선택을 공개하지 않았다. 그리고 하네스 간 분산이 이렇게 큰 벤치마크에서 3.87점 차이는 결정적이라기보다 시사적이다. 이 행이 실제로 입증하는 것은 더 좁지만 여전히 유용하다: LFM3-Omni-2B는 밀집 문서 텍스트에서 무너지지 않으며, 이는 2.17B 애니투애니 모델이 질 것으로 예상할 작업이다.

그라운딩까지 같은 해석을 적용하지 마십시오. LFM3-Omni-2B는 RefCOCO에서 73.55를 보고하고 Moondream 3.1은 RefCOCO-M에서 87.1을 보고하지만, 이 둘은 같은 측정값이 아닙니다. Liquid의 카드는 박스가 각 모델의 기본 좌표 형식으로 해석된다고 명시하며, Moondream은 IoU 임계값 0.5에서 F1을 보고합니다. 한쪽에서 다른 쪽을 빼면 아무 의미 없는 숫자가 나옵니다. 정직하게 말하면, Moondream의 카드는 그라운딩을 중심으로 구성되어 있고 Liquid의 카드는 이를 17개 항목 중 하나의 행으로 다룹니다.

Moondream 3가 근접하지 못한 부분

그중 일부는 능력 격차라기보다 보고 방식의 선택이며, 어느 쪽인지 정확히 짚을 가치가 있습니다. 2.17B 옴니 모델은 말로 물어보면 거친 영역을 거의 확실히 찾아낼 수 있습니다. 그것이 할 수 없는 것은 오류율이 제한된 스키마로 200개의 박스를 반환하는 일입니다. 왜냐하면 그 모델의 학습이나 출력 형식 중 어느 것도 그런 용도로 만들어지지 않았기 때문입니다. Moondream의 제품 전체는 좌표가 파싱 가능한 형태로 돌아온다는 보장입니다. 그 보장이 바로 여러분이 사는 것이며, 다른 연구소의 벤치마크 행은 그것을 측정하지 않습니다.

A headless-browser capture of the Moondream 3.1 9B A2B model page, showing the PRELIMINARY benchmark banner, the model-facts panel listing 9.0B total and 2.0B active parameters, a 32,768-token context, image and text input, fp8 experts on a 10 GB NVIDIA floor, and the start of the 'Five typed contracts' section with the input and output schemas for the query(), caption() and detect() skills.

지연 시간에 대해서는 같은 논리가 반대로 적용된다. Moondream은 모델을 단일 GPU 프로그램으로 컴파일하는 추론 엔진인 Photon을 출시했으며, 공급업체는 H100에서 배치 16 기준 P50 59ms로 초당 약 34건의 요청을 처리한다고 주장한다. 이는 재현되지 않은 공급업체 수치지만, 그 이면의 엔지니어링은 특정 모델 하나에 특화되어 있다. LFM3-Omni-2B에는 아직 이에 상응하는 서빙 스토리가 없다.

LFM3-Omni-2B가 근접하지 않은 부분

Moondream 3.1에는 오디오 경로가 없습니다. 더 약한 경로가 아니라 아예 없습니다. 입력은 이미지와 텍스트뿐입니다. 따라서 Liquid 카드의 모든 오디오 항목은 경쟁 상대가 없습니다: 영어 ASR 단어 오류율 6.36, 다국어 ASR 6.72, 영어 TTS UTMOSv2 3.80, VoiceBench 64.73, MMAR 51.40, 그리고 내부 도구 호출 평가 52.20.

사운드트랙이 포함된 비디오 수치들은 특히 주목할 만한데, 그것들이 바로 이 모델이 존재하는 이유이기 때문이다. Daily-Omni 70.09, WorldSense 47.10, AV-SpeakerBench 46.79 — 모두 오디오 트랙이 있는 비디오에서 측정된 객관식 정확도이며, 모두 자체 보고 수치다. Liquid의 주장은 이 수치들이 Qwen2.5-Omni-7B와 최대 10.7B 파라미터 모델들을 능가한다는 것이고, 자사 표에서는 실제로 그렇다: Qwen2.5-Omni-7B는 같은 세 행에서 61.32, 45.37, 43.24를 기록한다.

그 카드에 있는 한 세부 사항은 받은 것보다 더 많은 주목을 받을 가치가 있습니다. Liquid는 동일한 비전 벤치마크를 두 번 보고합니다. 한 번은 질문을 타이핑한 경우, 한 번은 질문을 음성으로 말한 경우입니다. RealWorldQA는 66.54에서 64.68로, MMStar는 55.67에서 51.79로, POPE는 89.34에서 83.78로 떨어집니다. 질문을 오디오 인코더를 통해 입력하는 것은 작업에 따라 2~6점의 비용이 듭니다. 그것이 음성 경로의 대가를 분명히 밝힌 것이며, 어떤 단일 헤드라인 점수보다 더 유용한 숫자입니다.

11월 13일에 Moondream 3는 어떻게 되나요?

비교에서 기한이 있는 부분은 다음과 같습니다. Prime Intellect는 2026년 10월 13일에 Moondream을 인수한다고 발표했고, Moondream은 10월 14일에 이를 확인했습니다. 해당 게시물에 따르면 발표 30일 후인 2026년 11월 13일에 Moondream Cloud가 종료됩니다. 여기에는 호스팅 추론과 Lens 파인튜닝 제품이 모두 포함됩니다. 사용하지 않은 구매 크레딧은 환불되고 있으며, 고객은 인수 기업의 자체 추론 플랫폼으로 안내되고 있습니다.

A headless-browser capture of Moondream's announcement post titled 'Moondream is joining Prime Intellect', dated October 14, 2026, showing the section headed 'What this means for Moondream Cloud' with the sentence that on November 13, 2026, thirty days from that date, the Moondream Cloud for inference and Lens will shut down, and that unspent purchased credits will be refunded.

세 가지가 이어지는데, 편안한 것은 첫 번째뿐입니다. 오픈 가중치는 유지되고 라이선스도 바뀌지 않으므로 셀프 호스팅에는 영향이 없습니다. Photon은 버전 1.3.0 이상에서 API 키 없이 비용 없이 로컬로 실행됩니다. 깔끔하게 유지되지 않는 것은 Lens입니다. 파인튜닝된 체크포인트와 LoRA는 서버 측에 존재하며, 문서화된 내보내기 경로가 없습니다. 제품이 Lens 파인튜닝에 의존한다면 마이그레이션은 구성 변경이 아니며, 그 사실을 알아차리기에는 16일은 그리 많은 시간이 아닙니다.

이번 주에 출처를 확인하는 사람이라면 주목할 만한, 좀 더 작은 이상한 점이 있다. Moondream의 가격 페이지에는 여전히 Cloud 요금제, 토큰당 요율, 월 $350 Team 티어가 나와 있으며, 서비스 종료에 대해서는 아무 언급이 없다. 발표는 다른 페이지에 있다. 10월 28일에 가격 페이지만 확인하는 독자라면 서비스가 16일 후 종료된다는 사실을 알 수 없을 것이다.

각각 운영하는 데 드는 비용

Moondream은 토큰 요금을 공개한다. 실시간 티어에서는 입력 100만 토큰당 $0.30, 출력 100만 토큰당 $1.00이며, 배치에서는 절반인 $0.15와 $0.50이다. LFM3-Omni-2B는 호스팅 요금을 전혀 공개하지 않는다. Liquid는 이 제품군이 자사 Playground와 API에서 이용 가능하다고 말하지만, 출시 게시글에도 가격이 없고 모델 카드에도 가격이 없다. 그 비대칭성이 바로 비용 측면의 핵심이다.

현실적인 호출을 기준으로 Moondream 비용을 계산해 보세요. 이미지 한 장은 전체 타일링 시 최대 2,304개의 비전 토큰을 사용합니다. 여기에 50토큰 프롬프트와 100개의 출력 토큰을 더하면 한 번의 호출은 2,354개의 입력 토큰과 100개의 출력 토큰이 되며, 비용은 약 $0.0008입니다. 하루 10,000회 호출이면 대략 하루 $8, 한 달 $242이며, 배치 티어에서는 한 달 약 $121로 떨어집니다. 이것이 저렴한지는 전적으로 달리 하드웨어에 지출했을 금액에 달려 있으며, LFM3-Omni-2B는 비교해 볼 토큰당 숫자를 제공하지 않기 때문에 바로 그 비교를 강제합니다.

자체 하드웨어에서는 계산이 역전됩니다. LFM3-Omni-2B는 활성화, 오디오 디코더, KV 캐시를 제외한 BF16 가중치가 약 4.4GB입니다 — 해당 카드가 메모리 수치를 공개하지 않기 때문에 측정된 메모리 사용량이 아니라 매개변수 수에서 산출한 계산입니다. Moondream 3.1은 출시 빌드 기준 10GB NVIDIA 카드가 필요하며, 커뮤니티 INT4 양자화를 사용하면 약 6GB입니다. 한 모델은 휴대폰에서 실행됩니다. 다른 모델은 Jetson Orin 이상에서 실행됩니다.

OrcaRouter가 여기서 한 문장 언급할 가치가 있는 것은 솔직히 말하면 그 범위가 좁기 때문입니다: LFM3-Omni-2B도 Moondream 3도 우리 카탈로그에 없으며, 이 글 어디에도 우리가 둘 중 하나를 서비스한다고 주장하지 않습니다. 우리가 실제로 라우팅하는 것은 호스팅 비전 티어입니다 — 예를 들어 Qwen3-VL-8B — 공급자 정가를 0% 마크업으로 그대로 전달하고 업스트림 간 자동 장애 조치를 제공합니다. 위의 셀프 호스팅 계산이 망설이게 만드는 부분이라면, 그것은 이 비교에서 빠져 있는 옵션이며, 더 나은 구매가 아니라 다른 구매입니다.

라이선스가 벤치마크보다 먼저 결정할 수 있다

두 라이선스는 서로 다른 사항을 제한하며, 어느 라이선스가 문제가 되는지는 귀사의 상황에 따라 달라집니다.

LFM Open License v1.0은 연간 매출 10,000,000달러의 임계값을 정의합니다. 그 아래에서는 상업적 사용이 곧바로 허가됩니다. 그 위에서는 섹션 5가 해당 저작물 또는 파생물의 상업적 사용이 계약에 따라 전혀 허가되지 않는다고 명시합니다. 따라서 스타트업은 LFM3-Omni-2B를 기반으로 제품을 무료로 만들 수 있지만, 임계값을 넘은 기업은 별도의 계약 없이는 그렇게 할 수 없습니다. 모델의 성능이 얼마나 뛰어나든 관계없이 말입니다.

Moondream Model License 1.0에는 매출 기준이 없습니다. 규모에 관계없이 상업적 사용, 자체 호스팅, 파인튜닝, 양자화 및 재배포를 허용하며, 별도의 서면 상업 라이선스 없이 해당 모델 또는 파생 모델에 대한 범용 호스팅 모델 서비스를 제공하는 한 가지 특정 사업만 금지합니다. Moondream을 보다 좁은 범위의 제품에 내장하는 것은 허용됩니다. 이를 기반으로 범용 추론을 재판매하는 것은 허용되지 않습니다.

두 문서를 함께 읽으면 거의 상호 보완적이다. Liquid는 {{1}}당신이 누구인지{{/1}}를 기준으로 접근을 제한하고, Moondream은 {{2}}당신이 무엇을 파는지{{/2}}를 기준으로 접근을 제한한다. 호스팅 추론 제품을 계획하는 대기업은 두 회사 모두에게 서로 다른 방식으로 막힌다.

누가 무엇을 골라야 할까요?

제품에 좌표가 필요하다면 Moondream 3.1을 선택하세요. 화면 자동화, 로봇공학, 소매 선반 점검, 개수 세기 등 답이 박스, 점 또는 마스크이고 다음 시스템이 이를 프로그래밍 방식으로 소비하는 모든 경우가 여기에 해당합니다. 총 9B 규모의 풋프린트는 그 보장에 따르는 대가이며, Jetson급 하드웨어에 배포한다면 충분히 지불할 수 있는 대가입니다. 호스팅 마이그레이션은 11월이 아니라 지금 계획하세요.

제품이 사람이 기기와 대화하는 상황이거나 기기가 방의 소리를 들어야 하는 상황이라면 LFM3-Omni-2B를 선택하세요. 소리 내어 답하는 키오스크, 손이 바쁜 현장 도구, 사운드트랙이 있는 영상을 이해해야 하는 카메라, ASR 모델과 VLM, TTS 모델을 대체하는 단일 체크포인트가 그렇습니다. 비전 점수는 탁월하기보다는 준수한 편이고, 툴체인은 나온 지 이제 하루밖에 되지 않았지만, 이 둘을 감수할 이유는 음성 경로입니다.

아직은 둘 중 어느 쪽도 고르지 마세요. 다만 그 결정이 중대한 영향을 좌우한다면 이야기가 달라집니다. 여기 있는 어떤 것도 독립적으로 평가된 적이 없습니다. LFM3-Omni-2B의 툴링은 빠르게 움직이고 있습니다. Ollama 라이브러리 항목이 2.4 GB로 존재하고, llama.cpp는 가중치가 공개된 바로 그날인 10월 27일에 이에 대한 지원을 병합했습니다. 하지만 Ollama 목록은 현재 모델 카드와 눈에 띄는 두 가지 방식으로 불일치합니다. 125K 컨텍스트와 지원 입력으로 "Text, Image"를 표시하는 반면, 모델 카드는 32K와 네 가지 모달리티를 말합니다. 그것은 목록이 따라잡지 못한 것이지 모델 결함이 아니며, 일주일 안에 고쳐지는 종류의 일입니다. 또한 이번 주에 프로덕션에 투입할 일도 아닙니다.

무엇이 이것을 바꿀까요?

두 가지입니다. 오디오-비주얼 행에 대한 LFM3-Omni-2B의 독립적 평가는 Daily-Omni의 70.09가 스스로 선택하지 않은 하네스에서도 유지되는지를 판가름할 것이고, 그것이 바로 전체 omni 사례가 기대는 단 하나의 숫자입니다. 그리고 음성 브랜치에 대한 서빙 이야기 — 모델 카드는 텍스트 생성은 자세히 문서화하지만 오디오 디코더가 대규모로 어떻게 서빙되는지에 대해서는 훨씬 적게 말합니다 — 는 “하나의 모델이 네 개를 대체한다”는 제안이 실제 프로덕션 배포와 맞닥뜨려도 살아남는지를 알려줄 것입니다.

그때까지 이 비교는 깔끔한 형태를 띤다. Moondream 3는 세상을 측정하고 당신에게 숫자를 건넨다. LFM3-Omni-2B는 그것을 듣고 응답한다. 두 모델이 공유하는 유일한 벤치마크는 문서 읽기 테스트이며, omni 모델이 4점 미만 차이로 이긴다. 그것은 경쟁이 아니다. "2B multimodal"이 직무가 아니라 메모리 예산을 설명한다는 점을 상기시키는 것이다.