MiniCPM-V 4.7 vs Qwen3.8-Omni-Flash: 휴대폰에서 한 시간짜리 영상, 아니면 1M 토큰 한 번의 호출

비디오 이해를 해결한다고 주장하는, 6주 간격의 두 릴리스 — 그리고 이 둘은 작업이 어디에서 이루어져야 하는지에 관해 거의 정반대의 입장을 취한다. OpenBMB의 MiniCPM-V 4.7 35B-A3B는 약 3GB로 휴대폰에서 실행되며, 벤더가 보고한 기준 초당 13토큰 이상의 속도를 내고, 계산기가 주머니 안에 있으므로 호출당 비용이 전혀 들지 않는다. 알리바바의 Qwen3.8-Omni-Flash는 텍스트, 이미지, 오디오, 비디오를 하나의 100만 토큰 창에 담아 호출당 최대 1시간의 연속 오디오-비디오까지 처리하며, 입력 토큰 100만 개당 0.15달러에 판매되고, 오디오 비용이 이전 모델보다 98% 저렴하다는 대표 문구를 내세운다. 하나는 기기에 최적화되어 있고, 다른 하나는 컨텍스트 창에 최적화되어 있다. 처리할 영상이 있는 팀이라면, 이 차이가 어떤 벤치마크보다도 먼저 아키텍처를 결정한다. Qwen3.8-Flash는 입력 토큰 100만 개당 0.15달러로 카탈로그에 등재되어 있습니다. 라우팅 가능한 Qwen 모델 확인키 하나, 정가 그대로 0% 마크업으로 전달, 제공자 간 자동 페일오버.이번 릴리스와 같은 사건들의 배후에 있는 문서화된 AI 실패 및 에이전트 인시던트는 다음에 수집되어 있습니다: the OrcaRouter AI Incident Archive 각 항목에는 자체 출처, 심각도, 신뢰도 등급, 이견 표시 플래그가 함께 제공됩니다.

픽셀이 어디로 갈지에 관한 두 가지 서로 다른 베팅

MiniCPM-V 4.7 35B-A3B는 희소 전문가 혼합(MoE) 비전-언어 모델입니다. 총 35.2B 파라미터, 토큰당 약 3B 활성, Apache-2.0 라이선스이며, 텍스트 입력과 텍스트 출력을 지원하고 이미지, 다중 이미지, 비디오 입력도 받습니다. 2026년 10월 6일과 7일에 Hugging Face에 올라왔고, 12일에는 모델 카드가 공개됐으며, 10일에는 업스트림 llama.cpp에 병합됐습니다. 이 모델의 엔지니어링적 승부수는 대부분의 시각 작업이 일상적이고 카메라가 있는 곳에서 일어나며 기기를 벗어나서는 안 된다는 판단입니다. 이를 위해 4x/16x 혼합 시각 토큰 압축, 전문가 스트리밍, 그리고 룩어헤드 전문가 스케줄링, 혼합 정밀도, 추측 디코딩을 결합해 iPhone 18 Pro Max에서 발표된 초당 20.51토큰에 도달하는 포크를 사용합니다.

Qwen3.8-Omni-Flash는 Alibaba의 네이티브 옴니모달 모델로, 2026년 9월 18일 "Omni Senses. Agentic Delivery."라는 태그라인과 함께 API 고객에게 공개되었습니다. 100만 토큰의 컨텍스트, 최대 입력 약 991K, 최대 출력 131K, 262K에 달하는 추론 예산, 단일 호출로 최대 1시간의 연속 오디오 또는 오디오-비디오를 지원합니다. 입력은 텍스트, 이미지, 오디오, 비디오이며 스테레오 및 4채널 공간 오디오를 포함합니다. 출력은 텍스트뿐입니다. Alibaba의 Qianwen 플랫폼과 Alibaba Cloud Model Studio에서 API ID qwen3-8-omni-flash로 제공되며, 가중치는 공개되지 않습니다.

• 실행 환경 — MiniCPM-V 4.7 35B-A3B: 사용자 기기, iOS, Android, HarmonyOS 또는 데스크사이드 GPU. Qwen3.8-Omni-Flash: A​libaba의 API, 호스팅 전용.

• 비용 구조 — MiniCPM-V 4.7 35B-A3B: 하드웨어 및 전력 비용, 21.2 GB Q4_K_M 다운로드. Qwen3.8-Omni-Flash: 입력 토큰 100만 개당 $0.15, 캐시 $0.016, 출력 $0.47.

• 호출당 미디어 — MiniCPM-V 4.7 35B-A3B: 기기 메모리와 샘플링 예산에 의해 제한되며, 한 번에 하나의 프롬프트만 처리합니다. Qwen3.8-Omni-Flash: 최대 1시간의 연속 오디오-비디오.

• 출력 — 둘 다 텍스트만. 어느 모델도 말하지 않습니다.

• 라이선스 — Apache-2.0 대 가중치가 없는 호스팅 API.

98%는 비용에 대한 주장이고, 진짜 비교는 분 단위 수치입니다

Alibaba의 핵심 주장은 오디오 입력 1시간의 비용이 Qwen3.5-Omni-Plus보다 98% 적고, 오디오-비디오를 합친 1시간은 93% 적다는 것이다. 이 수치는 2분 샘플의 가격을 매긴 뒤 30을 곱해 산출한 것으로, 비디오는 720p에 초당 1프레임으로 샘플링했다 — 프로덕션 워크로드를 인용하는 합당한 방식이자, 모델이 무엇을 보도록 요청받는지를 설명하는 방식이기도 하다. 초당 1프레임은 무슨 말이 오갔고 대략 무슨 일이 일어났는지 알기에는 충분하다. 프레임 수준의 동작을 들여다보거나 단일 프레임 아티팩트를 잡아내기에는 턱없이 부족하다.

휴대폰 모델에 같은 계산을 적용해 보면 결정의 윤곽이 분명해진다. 초당 한 프레임으로 한 시간 분량의 영상은 3,600장의 이미지다. 초당 13~20토큰으로 디코딩하는 기기에서 이는 한 번의 호출로 끝나는 작업이 아니다. 배치 처리하고 샘플링하며 진행하면서 요약하는 작업이며, 비용은 이미 보유한 하드웨어에서 몇 시간의 실제 경과 시간이다. A​libaba API를 통하면 같은 한 시간 분량이 백만 토큰 창 안의 한 번 호출이고, 토큰 단위로 가격이 책정되며 엔드포인트가 걸리는 시간만큼 반환된다. 어느 쪽도 무료가 아니며, 같은 화폐가 아니다.

교차점은 정확성이 아니라 물량과 프라이버시다. 프레임을 건물 밖으로 내보낼 수 없는 클리닉은 한 가지 선택지가 있다. 한 달에 천 시간을 다루는 미디어 모니터링 팀은 다른 선택지를 갖는다. 천 시간을 샘플링해 휴대폰에 올리는 것은 하드웨어 구매와 일정 조정 문제인 반면, 1시간짜리 통화 천 건은 비용 항목이기 때문이다. 그 양극 사이에서 숫자는 흥미로워진다. Qwen 가격은 충분히 낮아서 100시간 검토가 몇천 달러가 아니라 몇백 달러이며, 이는 ‘그냥 API로 보내라’가 낭비처럼 느껴지지 않기 시작하는 범위다.

증거에 비추어 볼 때, 각각이 실제로 잘하는 것

Qwen3.8-Omni-Flash의 출시 수치는 모두 하나의 기준선인 Qwen3.5-Omni-Plus 대비한 것이며, 약 30개 평가 전반의 평균 개선율은 26%를 넘는다. 가장 큰 변화는 WildClawBench-MM의 71.0으로 36.5포인트 상승한 경우와, AliMeeting의 화자 분리에서 오류율이 88.11에서 3.35로, cpWER이 89.61에서 17.18로 떨어진 경우다. 그렇게 큰 차이는 박수보다 면밀한 검토를 받아 마땅하다. 출시에 관한 한 중국어 기술 분석은 그 상당 부분을 모델의 추론 능력보다는 모델을 둘러싼 프런트엔드 및 화자 분리 엔지니어링에 돌리며, 이 시스템이 청각 특화된 것으로 읽히고 심층 비디오 추론은 더 약하다고 경고한다. 이는 비평가의 해석일 뿐 재현은 아니지만, 올바른 직감이다. 이 모든 수치는 Alibaba 자체 수치이며, 어느 것도 독립적으로 재현되지 않았다.

MiniCPM-V 4.7의 근거는 다른 방식으로 더 빈약합니다. 평가 차트 다섯 개, 수치 표는 없음, 그리고 두 가지 방향성 비교 — Qwen3.6 35B-A3B보다 더 짧은 추론 시간에 더 높은 전체 점수, 그리고 1B 형제 모델의 경우 Qwen3.5 0.8B 대비 상당한 향상입니다. 재현 가능한 사실은 config.json과 파일 목록에 있는 것들입니다. 총 35.2B, 256개 전문가 중 8개 활성, 최대 262,144토큰 위치, 27층 비전 타워, Apache-2.0, 그리고 21.2 GB Q4_K_M 다운로드입니다. 처리량 주장은 직접 보유한 적 없는 하드웨어에서의 벤더 측정값으로, 정확도 주장은 감사를 거치지 않은 것으로 읽으십시오 — 이것이 바로 OpenBMB가 제시하는 방식입니다.

두 모델의 공통점이 하나 있습니다. 바로 독립적인 스코어보드가 없다는 것입니다. 이 글을 작성하는 시점에, 감사를 거친 멀티모달 점수를 갖고 중립적인 제3자 리더보드에 올라 있는 모델은 둘 중 어느 것도 없습니다. 그러므로 이들을 "벤치마크"로 비교한다는 것은 한 업체의 차트를 다른 업체의 차트 옆에 나란히 놓고 그 결과를 측정이라고 부르는 것과 다름없습니다. 그렇게 하지 마십시오.

에이전트형 샘플링 대 고정 샘플링

가장 흥미로운 기술적 차이는 크기나 속도가 아니라, 무엇을 볼지 누가 결정하느냐이다.

Qwen3.8-Omni-Flash에는 Alibaba가 Agentic Understanding 모드라고 부르는 기능이 탑재되어 있는데, 이 모드에서 모델은 모든 프레임을 처리하는 대신 무엇을 살펴볼지 선택하며, 거친 단계에서 세밀한 단계로 이어지는 라운드를 통해 증거를 수집한다. OmniVideoBench에서 이 모드는 정확도를 63.4에서 67.8로 높이는 동시에 쿼리당 토큰 수를 145,736에서 79,117로 줄인다 — 45.7% 감소다. 정확도를 높이면서 비용을 동시에 낮춘다는 것은 해당 릴리스에서 가장 강력한 주장이며, 에이전틱 접근을 가장 직접적으로 뒷받침하는 주장이기도 하다.

MiniCPM-V 4.7의 해당 방식은 이미지마다 내리는 정적 선택입니다. 기본적으로 16배 압축이고, 세부 정보가 중요할 때는 4배입니다. 모델이 더 자세히 보기로 결정하는 것이 아니라, 호출자가 다른 설정을 전달함으로써 결정합니다. 이는 전력 예산이 고정된 기기에는 맞는 설계이지만, 흥미로운 90초가 언제인지 알려주지 않는 1시간짜리 영상에는 잘못된 설계입니다.

라우팅 질문, 솔직하게 말하자면

두 모델 모두 OrcaRouter에서 서비스되지 않습니다. MiniCPM-V 4.7 35B-A3B는 직접 호스팅하는 체크포인트이고, Qwen3.8-Omni-Flash는 A​libaba 자체 플랫폼에서 실행되며 역시 우리 카탈로그에 없습니다. 이 아키텍처에서 라우팅 계층이 유용한 지점은 두 모델 사이의 경계입니다. 요청별로 클립이 로컬 모델에 맡길 만큼 일상적인지, 아니면 호스팅 호출을 정당화할 만큼 긴지 판단하고, 호스팅 측 성능이 저하될 때 페일오버하는 것입니다.

OrcaRouter는 200개가 넘는 호스팅 모델을 하나의 키 뒤에 두고 공급사 정가를 0% 마크업으로 그대로 전달합니다. 따라서 공급사의 가격 인하, 즉 A​libaba가 오디오에서 방금 단행한 것과 같은 인하는 갱신 시점이 아니라 같은 날 청구서에 반영됩니다. 또한 공급자 간에 자동으로 장애 조치되며, 이는 호스팅 옴니 모델에서 전화기보다 더 중요합니다. 전화기는 장애가 나지 않지만 API는 장애가 나기 때문입니다. 이미 카탈로그에 검증 가능한 비교 사례가 하나 있습니다. 이 옴니 변형과 나란히 구축된 멀티모달 모델인 Qwen3.8-Flash는 100만 입력 토큰당 $0.15, 출력당 $0.47로 라우팅할 수 있으며, 이는 새 옴니 모델에 대해 A​libaba가 제시하는 것과 동일한 정가입니다.

한 단락으로 선택하기

프레임이 기기를 떠날 수 없을 때, 워크로드가 긴 몇 번의 관찰보다 짧은 여러 번의 관찰일 때, 오프라인 작동이 요구사항일 때, 또는 호출당 비용이 단위 경제성을 망치는 요인일 때 MiniCPM-V 4.7 35B-A3B를 선택하세요. 입력이 길고 양식이 혼합되어 있으며 — 한 번의 호출에 오디오와 비디오와 슬라이드가 함께 — 샘플링 파이프라인을 구축하는 것보다 토큰당 비용을 지불하는 편이 나을 때 Qwen3.8-Omni-Flash를 선택하세요. 일상적인 90퍼센트를 필터링하는 휴대폰 티어와 한 시간짜리 사례를 흡수하는 API 티어가 있을 때는 둘 다 선택하되, 이제 두 가지 프롬프트 형식, 두 가지 샘플링 정책, 그리고 어떤 프레임이 그 경계를 넘을 수 있는지에 대한 매우 명확한 경계 하나를 유지 관리한다는 점을 받아들이세요.