Moondream 3.1 9B A2B vs North Micro Vision Instruct: 실제로 숫자를 확인할 수 있게 해주는 공급업체는 어디인가?

네 달 차이로 공개된 두 오픈 비전 모델은, 자신들이 어떻게 평가받고자 하는지에 관해서는 거의 공통점이 없습니다. M​oondream 3.1 9B A2B은 2026년 7월 7일, 벤치마크 표와 단일 H100 SXM5 및 배치 크기 16을 명시한 방법론 각주, 그리고 같은 게시물 전반에 흐르는 “벤치마크는 자사 고객이 실제로 필요로 하는 것을 측정하지 못한다”는 주장과 함께 공개되었습니다. North Micro Vision Instruct는 2026년 8월 12일 C​ohere Labs에서 Apache 2.0 라이선스 하에 2.4B 매개변수로 등장했으며, 출시 게시물은 훈련 커리큘럼과 평가 설정—사용된 하네스, 그리고 수치가 산출된 정확한 샘플링 파라미터—에 전체 분량을 할애합니다.

그것은 실질적으로 종류가 다른 차이이며, 어느 모델의 파라미터 수보다 구매자에게 더 유용합니다. 한 공급업체는 자사 표를 어떻게 재현할지 알려줍니다. 다른 공급업체는 표를 신뢰하지 말라고 하면서 정작 표를 하나 인쇄해 내놓습니다. 우리가 확인할 수 있는 한, 둘 중 어느 것도 독립적으로 평가된 적이 없습니다. 그래서 어느 숫자 집합에 의지할지 실제로 결정하는 질문은 두 공급업체가 당신이 확인할 수 있도록 얼마나 많은 것을 제공했는가입니다.

각각이 무엇인지

M​oondream 3.1 9B A2B는 희소 전문가 혼합 비전-언어 모델입니다: 총 9B 매개변수, 토큰당 2B 활성, 64개 전문가 중 8개 활성, 다중 크롭 채널 연결을 사용하는 SigLIP 비전 인코더, 32K 토큰 컨텍스트 및 SuperBPE 토크나이저. 네 가지 스킬 — query, detect, point 및 caption — 은 프롬프트가 아니라 학습되며, 감지 및 포인팅 경로는 설명이 아니라 구조화된 기하 정보를 반환합니다. 이 모델은 벤더의 추론 엔진인 Photon에서 실행되며, Ampere 이후의 N​VIDIA GPU와 Apple Silicon을 대상으로 합니다.

North Micro Vision Instruct는 세 부분으로 구성된 2.4B 규모의 밀집 모델입니다: Google의 SigLIP 2 SO400M 체크포인트에서 추가로 사전 학습된 400M 네이티브 해상도 비전 인코더, 여러 인코더 레이어의 패치 임베딩을 초기 언어 모델 레이어에 주입하는 DeepStack 패턴을 따르는 프로젝터, 그리고 Cohere의 Command A+ 아키텍처를 따르는 North Micro LLM이라는 2B 언어 모델입니다. 이 모델은 인터리브된 텍스트와 이미지(하나 또는 여러 개)를 입력받아 텍스트를 출력합니다. 토크나이저 어휘는 262,144개이며, 나열된 언어는 11개에 "and more"를 더한 수준입니다.

출력 유형의 차이는 뒤따르는 내용을 좌우하므로 분명히 말해 둘 가치가 있습니다: M​oondream은 박스와 좌표로 답하는 인식 모델이고, North Micro Vision은 언어로 답하는 이해 모델입니다. 둘 중 어느 공급업체가 공개하든 모든 것은 이 두 작업 중 하나를 측정한 것이며, 그 두 작업은 같은 작업이 아닙니다.

모델의 컨텍스트 윈도우가 아닌 8K라는 숫자

함정부터 시작하죠. 그것이 North Micro Vision 모델 카드 한가운데에 자리 잡고 있고, 우연히 아키텍처 결정에 끼어들게 되는 종류의 것이기 때문입니다.

• North Micro Vision Instruct — 언어 백본 컨텍스트 윈도우 128,000토큰, 검증된 멀티모달 작동 범위 최대 8,000토큰. 이 카드에는 더 긴 멀티모달 컨텍스트는 외삽에 의존할 수 있으며 벤치마크된 바 없다고 분명히 명시되어 있습니다.

• Moondream 3.1 9B A2B — 32,000 토큰, 단일 수치, 모달리티별 예외는 공개되지 않음.

따라서 대표 수치는 North Micro Vision에 4배 유리하고, 실제로 당신의 이미지 워크로드에 적용될 수치는 M​oondream에 4배 유리합니다. 스캔한 문서가 한 번의 호출에 몇 페이지나 들어가는지 추정한다면, 128K는 잘못된 숫자이고 8K가 맞는 숫자입니다. 그리고 네이티브 해상도 인코더가 픽셀 면적에 비례해 토큰을 내보내기 시작하면, 인터리브된 이미지와 텍스트 토큰 8K는 많은 페이지가 아닙니다. 벤더가 이 주의사항을 공개한 것은 공로를 인정할 만합니다 — 대부분의 카드는 그러지 않을 테니까요 — 하지만 그 주의사항은 사양 표 아래에 묻혀 있고, 복사되는 것은 그 표입니다.

두 공급업체가 보고하는 방식, 나란히 비교

이것은 모델과는 아무 관련이 없고, 어느 것을 감사할 수 있는지에 전적으로 관련된 비교의 부분입니다.

Moondream의 3.1 게시물은 자사의 베이스라인(Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), 지표(탐지를 위한 F1@0.5), 하드웨어(1대의 H100 SXM5), 배치 크기(16), 그리고 각 모델이 자체 엔진으로 서빙되었다는 사실 — LocateAnything, Qwen3.5, Gemma 4는 vLLM; Moondream은 Photon; SAM 3는 Hugging Face Transformers — 을 명시합니다. 또한 모델별로 최고 정확도 및 추론 설정을 선택했으며, LocateAnything은 정확도를 극대화하기 위해 느린 모드로 실행되었다고 밝힙니다. 게시된 결과는 COCO val에서 81.46 F1@0.5, ODinW-13에서 93.94, LVIS에서 67.4, Dense200에서 74.61, SKU-110K에서 52.77, CrowdHuman에서 74.5, RefCOCO-M에서 87.1, HumanRef에서 70.39, DOTA-v2에서 59.63, CountBench에서 90.35, TallyQA에서 74.86, PixMo-Count에서 88.68, ChartQA에서 86.01, DocVQA에서 88.6이며, 벤치마크 제품군 중 다섯 개에서 최고 수준(state-of-the-art)을 주장합니다.

저 푸터에 없는 것은 결과를 재현 가능하게 만드는 요소, 즉 프롬프트다. 탐지는 개방형 어휘(open-vocabulary) 작업이며, 어떤 사물을 어떤 표현으로 요청하느냐에 따라 돌아오는 결과가 달라진다. 재실행자는 지표와 하드웨어, 배치 크기를 알고 있더라도 각 박스를 만들어낸 텍스트가 무엇인지 모르면 그 숫자를 재현할 수 없다.

Cohere Labs의 게시물은 다른 접근 방식을 취한다. 하네스(VLMEvalKit)를 명시하고, 모델이 내부 vLLM 구현으로 평가되었다고 밝히며, 각 역량 그룹의 벤치마크 구성을 나열한다 — General VQA는 MMBench, MMStar, RealWorldQA, GQA에 대한 평균이고; 차트, 문서, OCR 그룹은 ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2, AI2D를 포함하며; 그라운딩과 카운팅은 RefCOCO 평균과 CountBench이다 — 그리고 수치가 산출된 샘플링 파라미터를 공개한다: temperature 0.7, top_p 0.8, top_k 20, min_p 0.0, presence_penalty 1.5, repetition_penalty 1.0. 또한 공개 vLLM 지원이 "coming soon"이라고 표시하는데, 이는 재현을 계획하는 누구에게나 가장 중요한 정직한 공개다: 모델은 포크에서 테스트되었다.

그 게시물이 공개하지 않는 것은 벤치마크별 표다. 그 결과는 능력 그룹 평균과 상대적 주장 — Instruct 모드에서 35B-A3B는 Qwen3.6 35B-A3B보다 더 적은 추론 시간에 더 높은 점수를 받고, 1B 변형은 점수와 효율 모두에서 Qwen3.5 0.8B를 능가한다 — 인데, 이는 즉시 인용하기에는 덜 적합하고 체리 피킹에는 더 강건하다. 어느 문서도 다른 벤더의 수치를 다시 계산하게 해주지 않는다. 두 문서 모두 그들이 얼마나 숨기고 있는지 보게 해준다.

아키텍처 차이가 실제로 드러나는 지점

네이티브 해상도는 North Micro Vision에서 일상 업무를 바꾸는 단 하나의 설계 결정이며, 벤치마크 표를 보기 전에 이해해 둘 가치가 있습니다. 대부분의 비전 인코더는 입력받은 이미지를 고정된 정사각형으로 리사이즈하는데, 그래서 넓은 스프레드시트 스크린샷이 열이 찌그러진 채 언어 모델에 도착합니다. North Micro Vision의 인코더는 이미지를 자체 해상도와 종횡비 그대로 받아들이도록 훈련되어 문서, 표, 차트, 양식의 미세한 디테일을 보존합니다. 공개된 커리큘럼은 1,000만 개 예제의 고정 384×384 단계에서 1,300만 개 이상의 예제를 사용하는 1024×1024 단계로 발전했습니다.

Moondream의 인코더는 대신 멀티 크롭(multi-crop)을 기반으로 합니다: 이미지는 특징들이 이어 붙여지는 크롭들의 집합으로 취급되며, 이는 큰 입력에서 세부 정보를 보존하는 방식이기도 하고 이 모델의 검출 헤드가 박스를 생성하는 방식과도 결합되어 있습니다. 둘 다 같은 문제에 대한 타당한 답이며, 어느 벤더도 동일 해상도에서의 정면 비교를 공개하지 않으므로, 아키텍처 논의에서 얻을 수 있는 유용한 점은 우열 판정보다 좁습니다: 여러분의 작업이 밀도 높은 문서와 넓은 UI 스크린샷이라면, 테스트할 속성은 네이티브 해상도이며, 그 테스트는 벤치마크 표의 한 행이 아니라 여러분 자신의 스크린샷이어야 합니다.

다른 구조적 차이는 다중 이미지와 비디오입니다. North Micro Vision Instruct는 인터리브된 다중 이미지 입력을 처리하며, 평가한 그룹 중에 다중 이미지 벤치마크를 나열합니다. M​oondream 3.1 9B A2B는 호출당 하나의 이미지로 범위가 제한되어 있습니다 — 비디오 경로도, 다중 이미지 경로도 없습니다. 이는 설계와 일치합니다: 라이브 비디오에 관한 M​oondream 자체의 엔지니어링 글에서는 문제가 모델 능력이 아니라 추론 배관이라고 주장하며, 시간적 워크로드에 대한 회사의 답은 하나를 입력받는 체크포인트가 아니라 스트림을 따라가는 엔진입니다. 그것이 한 번에 128프레임을 처리하는 모델보다 더 나은 답인지는 솔직히 미해결 질문이며, 두 공급업체는 같은 것을 측정하고 있지 않습니다.

배포 및 라이선스, 빠르게

• 크기 — 총 9B / 활성 2B 대 2.4B dense. 저장 측면에서 이 격차는 활성 매개변수 비율이 시사하는 것보다 더 크다. 희소 모델의 저장 공간 점유량은 총 매개변수 수를 따르기 때문이다.

• 파인튜닝 규모 — 2.4B dense 모델은 단일 기기에서 파인튜닝할 수 있을 만큼 작고, 9B sparse 모델은 LoRA 이상의 작업을 하려면 제대로 된 학습 환경을 요구한다. 그래서 Moondream 자체의 튜닝 경로는 호스팅 제품을 거쳤다.

• 런타임 — North Micro Vision Instruct는 accelerate와 Pillow가 포함된 Transformers 5.16.0을 요구합니다; 커뮤니티 양자화는 MLX, LiteRT 및 ONNX 인접 형식으로 존재합니다. M​oondream 3.1 9B A2B는 Photon에서 실행되며, 해당 체크포인트의 최초 서드파티 GGUF 패키징이 2026년 10월 15일에 등장합니다.

• 라이선스 — North Micro Vision Instruct에는 Apache 2.0이 적용되며, 임계값도 없고 다른 사람을 위해 호스팅하는 데에도 제한이 없습니다. M​oondream 3.1 9B A2B에는 M​oondream Model License 1.0이 적용됩니다: 상업적 사용, 자체 호스팅, 파인튜닝, 양자화 및 재배포가 모두 허용되며, 한 가지 금지 사항이 있습니다 — 범용 M​oondream 추론 또는 파인튜닝을 호스팅 서비스로 제공할 수 없습니다.

• 이탈 — North Micro Vision Instruct는 출시 이후 정체 상태이며, 최근 눈에 띄는 추가 사항은 서드파티 양자화뿐이다. 지난 2주 사이 Moondream의 약관이 바뀌었다. Prime Intellect가 2026년 10월 13일자로 회사를 인수했고, Lens 파인튜닝 제품을 포함한 Moondream Cloud가 2026년 11월 13일에 종료된다. 가중치와 Photon은 영향을 받지 않지만, 호스팅 경로는 그렇지 않다.

파이프라인의 두 번째 모델, 그리고 이를 라우팅하는 주체

이 체크포인트 중 어느 것도 OrcaRouter에서 제공되지 않으므로, 이는 통합 참고 사항으로 읽어 주세요. 둘 다 단일 단계 구성 요소입니다. 하나는 박스를 반환하고 다른 하나는 텍스트를 반환하며, 프로덕션 시스템은 그 뒤에 모델이 있어야 관측이 무엇을 의미하는지 판단하고 기록할 수 있습니다. 그 단계는 텍스트 단계이며, 일반적으로 호출당 비용이 비전 단계보다 더 많이 들고, 더 저렴하거나 더 나은 추론 모델이 등장할 때 가장 먼저 교체하고 싶어질 단계입니다. 그 교체를 200개 이상의 모델에 걸친 하나의 OpenAI 호환 엔드포인트 — 공급자 목록 가격을 0% 마크업으로 그대로 적용하고 업스트림에 문제가 생기면 공급자 간 자동 장애 조치 — 를 통해 수행한다는 것은 카메라를 다시 배선하는 대신 모델 식별자를 바꾸는 것을 의미합니다. 하나의 의견으로 충분하지 않을 때는 모델 퓨전이 동일한 입력에 대해 모델 패널을 실행하고, 라우팅 DSL이 여러 모델을 하나의 호출로 구성합니다.

더 구체적으로 말할 수 있는 지점이 하나 있는데, 그것이 어느 쪽에 유리하게 작용하는지는 솔직히 짚고 넘어갈 가치가 있습니다. North Micro Vision Instruct는 Apache 2.0이며, 직접 보유한 하드웨어에서 실행할 수 있을 만큼 가볍습니다. 따라서 비전 모델을 호스팅된 엔드포인트로 라우팅할 때 흔히 드는 근거, 즉 자체 호스팅할 수 없다는 근거는 여기에 해당하지 않습니다. 남는 근거는 아주 평범한 것입니다. 동일한 키를 사용해 루프에 두 번째 모델을 두고, 청구서 하나와 자격 증명 한 세트로 관리하는 것입니다.

무엇을 선택해야 할까, 그리고 무엇이 답을 바꿀까

문서, 표, 차트 또는 화면을 읽는 경우, 한 번의 호출로 여러 이미지가 필요한 경우, 다른 사람들을 위해 모델을 호스팅하려는 의도라 Apache 2.0이 중요한 경우, 또는 자체 데이터로 파인튜닝할 수 있는 2.4B 체크포인트를 원하는 경우 North Micro Vision Instruct를 선택하세요. Cohere의 모델 카드는 파인튜닝을 의도된 용도로 지목하며, 라이선스는 그 길에 아무 장애물도 놓지 않습니다.

출력이 기하학 — 인스턴스가 연결된 박스, 좌표, 개수 — 이고, 배포 환경이 Photon이 올라간 CUDA 머신이라면 M​oondream 3.1 9B A2B를 선택하세요. 이 모델은 특화되어 있으며, 속도 주장은 정확히 그 워크로드를 겨냥합니다.

두 모델 모두에 대한 답을 바꿀 수 있는 것은 독립적인 평가이며, 그것이 계속 지켜봐야 할 지점이다. 어느 벤더의 수치도 벤더 외부에서 재현된 적이 없고, 두 벤더 모두 재현을 필요 이상으로 어렵게 만드는 조건에서 결과를 공개했다. 한쪽은 자사의 프롬프트를 공개하지 않으며, 다른 쪽은 공개 지원이 아직 보류 중인 프레임워크의 내부 서빙 구현에서 실행했다. 제3자가 동일한 문서 세트에서 두 체크포인트 중 하나를 실행할 때, 그 접촉에서 온전히 살아남는 모델의 표가 바로 믿을 가치가 있는 표다. 그리고 그때까지는 측정 방식을 알려준 벤더가 더 따져 묻기 쉬운 상대다.

이런 결과는 모델의 실수가 이미 문서화되어 있다는 점을 다시 일깨워 주기도 합니다: 이 계열 모델의 배후에 있는 AI 사고와 에이전트 실패는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목은 자체 출처, 심각도, 신뢰도 등급, 이의 제기 플래그를 함께 갖추고 있습니다.