MiniCPM-V 4.7 vs Moondream 3.1 9B A2B: 둘 중 하나가 API를 잃기 일주일 전

2026년 11월 13일, Moondream Cloud가 서비스를 종료합니다. 이는 Moondream이 Prime Intellect에 합류한다고 발표한 지 30일 후이며, 오늘날 Moondream 3.1 9B A2B와 MiniCPM-V 4.7 사이의 그 어떤 비교에서도 가장 결정적으로 중요한 단 하나의 사실입니다. 이 모델 중 하나는 곧 호스팅이 중단될 호스팅 서비스입니다. 다른 하나는 애초에 호스팅 서비스가 아니었습니다. OpenBMB는 2026년 10월 6일과 7일에 MiniCPM-V 4.7을 오픈 웨이트로 공개했고, 10월 12일에 모델 카드와 Apache-2.0 라이선스를 추가했으며, 서빙은 여러분의 몫으로 남겨두었습니다.

그 비대칭은 통상적인 비교를 뒤집는다. 스펙표에서 Moondream 3.1 9B A2B는 약 20억 개가 활성화되는 90억 매개변수 희소 모델로, 구조화된 지각 프리미티브를 중심으로 구축되었고, MiniCPM-V 4.7 35B-A3B는 약 30억 개가 활성화되는 352억 매개변수 전문가 혼합 모델로, 262,144토큰 컨텍스트에서 이미지, 문서, 비디오를 읽는 데 중심을 둔다. 조달 명세서에서는 한쪽은 앞으로 7일 더 토큰당 가격이 공개되어 있고 다른 쪽은 가격이 전혀 없다. 두 사실은 동시에 참이며, 어느 쪽에 무게를 두느냐는 프로토타이핑 중인지 운영 중인지에 달려 있다.

각 모델의 실제 용도

Moondream 3.1 9B A2B는 2026년 7월 7일에 출시되었다. 공급업체 자체 모델 페이지에 따르면 이 모델은 희소 전문가 혼합(MoE)으로, top-2 라우팅을 사용하는 8개 전문가와 공유 전문가 1개를 갖추고 있으며 총 9.0B, 토큰당 2.0B 활성, 32,768토큰 컨텍스트를 제공한다. 또한 의도적인 제한이 있다. 호출당 이미지 1개, 텍스트 출력, 네이티브 비디오 없음, 다중 이미지 추론 없음이다. 이 모델은 산문 대신 구조로 답한다. 네이티브 기능은 query, caption, point, detect, segment이며, point 및 detect 출력은 좌표이기 때문에 벤치마크 표가 캡션 점수 대신 detection F1로 가득하다.

MiniCPM-V 4.7은 정반대의 선택이다. 단일 이미지, 다중 이미지, 비디오를 처리하고 25만 토큰의 컨텍스트를 보유하며 언어로 답한다. OpenBMB가 공개한 수치는 이해력 수치다. MMMU 80.2, OCRBench 91.2, CharXiv 추론 75.6, LongVideoBench 68.9, MathVerse 86.5다. 모델 카드에는 포인트, 감지, 세그먼트 프리미티브가 없다. 고양이 주위에 박스를 그리고 싶다면 말로 요청하고 그 말을 파싱해야 한다.

• 컨텍스트 — Moondream 3.1 9B A2B의 32,768 토큰 대 MiniCPM-V 4.7 35B-A3B의 262,144 토큰.

• 입력 — Moondream의 경우 호출당 이미지 한 장, MiniCPM의 경우 단일 이미지, 다중 이미지 및 비디오.

• 출력 형태 — Moondream의 경우 구조화된 쿼리, 캡션, 포인트, 감지 및 세그먼트 결과, MiniCPM의 경우 자유 텍스트.

• 라이선스 — Moondream Model License 1.0은 상업적 사용, 자체 호스팅 및 파인튜닝을 허용하며, 범용 Moondream 추론을 호스팅 서비스로 제공하는 것을 제한합니다. MiniCPM-V 4.7은 Apache-2.0이며 그러한 조항이 없습니다.

디스크 상의 가중치 — Moondream용 9B 희소 체크포인트로, MiniCPM-V 4.7 35B-A3B의 16개 샤드에 걸친 약 70GB의 BF16 가중치 또는 1B 형제 모델의 3.1GB와 대비됩니다.

11월 13일의 절벽, 그리고 실제로 달라지는 것

인수는 2026년 10월 13일 Prime Intellect가, 하루 뒤에는 Moondream이 발표했습니다. 오픈 가중치는 동일한 라이선스로 계속 공개되며, Photon을 통한 자체 호스팅은 무료로 유지되고, Moondream은 Prime 내 소형 멀티모달 모델 브랜드로 계속됩니다. 종료되는 것은 관리형 클라우드입니다. 추론과 Lens 파인튜닝 모두 11월 13일에 종료되며, 사용하지 않은 크레딧은 환불되고 고객은 인수자의 플랫폼으로 안내됩니다.

호스팅 엔드포인트를 대상으로 구축한 팀에게 이는 날짜가 정해진 마이그레이션이다. 가중치는 사라지지 않지만 운영 형태는 사라진다: 토큰당 청구서도, 관리형 스케일링도, 공급업체 측 지연 보장도 없다. 공개된 클라우드 가격표에 따르면 Moondream 3.1 9B A2B는 실시간 티어에서 입력 토큰 100만 개당 0.30달러, 출력 토큰 100만 개당 1.00달러이며 배치에서는 그 절반인데, 이는 저볼륨에서는 자체 호스팅이 거의 경제성을 갖지 못할 만큼 저렴했다. 11월 13일 이후의 비교는 가격 대 가격이 아니라, 직접 보유한 GPU 대 호출하는 모델이다.

MiniCPM-V 4.7에는 그런 관리형 계층이 없었습니다. 유일한 자사 서빙 경로는 OpenBMB 자체의 ModelBest API이며, esp32-eye 고양이 모니터 빌드가 35B 정체성 검사에 사용하는 것이 바로 이것이고, 나머지는 사용자가 제공하는 하드웨어에서 vLLM, SGLang, llama.cpp 또는 Ollama로 돌리는 것입니다. 초기 작업은 더 많지만 다른 회사의 기업 일정에 노출되는 정도는 적습니다. 지난 30일을 고려하면 두 번째 속성은 가치가 있습니다.

결코 충족되지 않는 벤치마크

이 두 모델 사이에는 공통 벤치마크가 없으며, 두 표는 서로 다른 역량을 측정합니다. Moondream의 수치는 자체 Photon 엔진으로 단일 H100에서 배치 16으로 측정한 자체 수치이며, 작업은 탐지와 계수입니다: COCO에서 81.46, ODinW-13에서 93.94, Dense200에서 74.61, CountBench에서 90.35, PixMo-Count에서 88.68, RefCOCO-M에서 87.1입니다. 문서 수치인 88.6 DocVQA, 86.01 ChartQA는 괜찮은 편이지만 탐지 점수보다는 상당히 낮습니다. 수학은 아예 없습니다: 릴리스 노트에는 GSM8K나 다른 산술 벤치마크가 전혀 보고되지 않았으므로, 비교할 수학 수치가 없고 어느 쪽으로도 증거가 없습니다.

MiniCPM의 수치는 OpenBMB의 것으로, 벤더의 모델 페이지에 산문 형식의 글머리 기호와 차트 이미지로 게시되어 있으며, 숫자 표도 없고 독립적인 재현도 없습니다. 그 강점은 Moondream의 강점과 정반대입니다: OCRBench 91.2, CharXiv 추론 75.6, LongVideoBench 68.9, MMMU 80.2. 탐지 F1, 카운팅 점수, 매팅 또는 세그멘테이션 결과는 게시하지 않는데, 이러한 작업을 기본적으로 수행하지 않기 때문입니다.

이들을 비교할 수 있는 유일한 지점은 OCR이며, 그마저도 평가 체계가 다릅니다. Moondream은 문서 질의응답 점수인 DocVQA에서 88.6을 보고하고, MiniCPM은 텍스트 인식 점수인 OCRBench에서 91.2를 보고합니다. 이 둘은 같은 테스트가 아니므로 서로 빼서는 안 됩니다. 이 둘을 한 열에 놓는 사람은 아무 의미도 없는 숫자를 만들어내는 것입니다.

각각 어디서 망가지는가

Moondream의 문서화된 한계는 구체적이고 유용합니다: 약 10픽셀보다 작은 텍스트, 약 12픽셀보다 작은 객체, 한 프레임에 50개를 초과하는 인스턴스, 그리고 네이티브 비디오 없음입니다. 이는 지각 기본 요소의 경계이며, 솔직합니다. 이미지가 제품 사진, 진열대 사진, 항공 프레임 또는 혼잡한 장면이라면, 이러한 한계는 문제가 발생하기 전에 실패 모드를 설명해 줍니다.

MiniCPM-V 4.7의 한계는 문서화가 덜 명확한데, 그 자체가 하나의 발견이다. 모델 카드는 iPhone 17 Pro Max에서 약 3GB 메모리를 사용해 초당 13개 이상의 토큰으로 온디바이스 추론이 가능하다고 주장하는데, 이 수치는 Lookahead Expert Scheduling, 레이어별 양자화, DSpark 추측 디코딩이 모두 함께 작동해야 나오는 값이며 제3자가 재현한 적은 없다. 가장 상세한 공개 배포 사례인 esp32-eye 빌드는 1B 형제 모델이 비슷한 고양이 네 마리를 구별하는 데 신뢰할 수 없다는 점을 발견하고 신원 식별을 35B로 옮겼다. 이는 유용한 부정적 결과다. 소형 변형은 존재 감지기이지 세밀한 인식기가 아니다.

하드웨어 비대칭성도 있습니다. Moondream 3.1은 Photon을 통해 단일 최신 GPU에서 편안하게 구동되는 9B 희소 모델이며, 그 엔진 덕분에 벤더가 배치 16에서 초당 34건의 요청을 제시할 수 있습니다. MiniCPM-V 4.7 35B-A3B는 많은 VRAM이나 OpenBMB가 휴대폰용으로 구축한 스트리밍 전문가 장치를 요구하며, 1B 형제 모델은 거의 아무것도 요구하지 않습니다. 하드웨어 기준으로 둘 중 하나를 고르는 것은 사실상 중간 규모 모델 하나와 두 가지 크기의 제품군 중에서 고르는 일입니다.

이번 주에 구현하고 있다면

의사결정 트리는 짧습니다. 작업이 "객체를 찾고, 세고, 윤곽을 그린 뒤 좌표를 반환하는 것"이라면 Moondream 3.1 9B A2B가 더 직접적인 도구이며, 11월 13일이라는 날짜는 실행 위치만 바꿉니다. Photon을 통해 자체 호스팅하고, 범용 Moondream 추론의 재판매를 금지하는 라이선스 하에서 말입니다. 작업이 "이 문서, 이 대시보드 또는 이 비디오를 읽고 무슨 내용인지 알려주는 것"이라면 MiniCPM-V 4.7 35B-A3B가 더 적합하며, 이는 항상 자체 호스팅 결정이었습니다.

어느 쪽에도 전념하고 싶지 않다면, 실용적인 길은 읽기 작업에는 호스팅된 범용 모델을 사용하고, 오픈 웨이트는 자체 데이터로 평가하는 것입니다. 바로 이 지점에서 라우터가 제 역할을 합니다. OrcaRouter는 하나의 키 뒤에 200개 이상의 모델을 공급자 정가 대비 0% 마크업으로 노출하며 자동 장애 조치를 제공하므로, 파이프라인이 단일 업스트림의 존속 여부에 묶이지 않습니다. Moondream 3.1 9B A2B와 MiniCPM-V 4.7은 현재 그 카탈로그에 없으므로, 이는 주변 아키텍처에 관한 조언이며 우리가 두 모델 중 하나를 제공한다는 주장은 아닙니다.

지난 한 달이 보여준 것은 모델 가용성이 이제 공급망 문제라는 점입니다. 모델이 뛰어나고 오픈 웨이트이며 문서화가 잘 되어 있더라도, 이를 만든 회사가 인수되면 30일 통지로 관리형 엔드포인트를 잃을 수 있습니다. 이를 잘 대처한 팀은 코드에 구성 파일의 base URL과 그 뒤에 두 번째 옵션을 갖춘 팀이었습니다.

공정한 요약은 이것들이 대체재가 아니라는 것이다. Moondream 3.1 9B A2B는 호스팅 형태에 시한이 걸려 있는 인식 구성 요소이고, MiniCPM-V 4.7은 두 가지 크기를 갖춘 판독 모델이며 잃을 호스팅 형태가 없다. 먼저 작업을 고르고, 그다음 모델을 고르고, 그다음 고른 것이 다음 주 금요일에도 여전히 응답할지 확인하라.