일상적인 iPhone에서 MiniCPM-V 4.7 1B: "Pro Max를 넘어서 실행된다"는 말의 실제 의미

MiniCPM-V 4.7 1B은 15억 5천만 개 파라미터의 비전-언어 모델로, OpenBMB가 2026년 10월 6일 Hugging Face에 업로드했으며 자체 릴리스 노트에는 10월 12일로 날짜가 기재되어 있습니다. 모델 카드, 11개의 양자화된 형제 모델, Ollama 태그, 온디바이스 데모 앱을 갖추고 있습니다. 그러나 하드웨어 가격을 따져볼 때 견딜 만한 버전의 이야기는 없습니다. 개발자 커뮤니티에 도는 주장, 즉 이 모델이 이제 12GB Pro Max에서만이 아니라 일반 iPhone의 OnDeviceLLM 앱에서도 실행된다는 주장이 면밀히 살펴볼 만한 부분인데, "휴대폰에서 실행된다"와 "당신의 휴대폰에서 실행된다" 사이에는 대부분의 iPhone에 없는 약 3GB의 메모리 여유가 있기 때문입니다. 이와 같은 릴리스 배후의 문서화된 AI 실패와 에이전트 사건들은 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰 등급, 이견 표시 플래그가 함께 기재되어 있습니다.

현재 상황은 이렇고, 이음새가 드러나 있습니다. 아래 내용은 모두 가중치 파일에서 직접 읽은 것, OpenBMB 자체 문서에서 가져온 것, 또는 Apple이 공개한 사양에서 가져온 것입니다. 어떤 수치가 재현 가능한 산출물이 아니라 개발자의 게시물에서 나온 경우, 이 글은 그 사실을 밝힙니다.

실제로 알려진 것과 단지 주장되는 것

이 모델은 실제로 존재하며 다운로드할 수 있습니다. BF16 체크포인트는 1,554,476,272개의 파라미터이며, 디스크상 약 3.1GB입니다. 저장소에는 이 계열의 최근 역사에서 보기 드문 전체 모델 카드가 포함되어 있으며, Qwen3.5 텍스트 백본, 1152 히든 너비에 27개 레이어를 갖춘 SigLIP2 비전 타워, 980픽셀 입력 타일, 262,144토큰 컨텍스트 윈도우, Apache 2.0 라이선스를 명시합니다. OpenBMB 자체 README 항목은 릴리스 날짜를 2026-10-12로 기록하며, Hugging Face 저장소의 생성일은 2026-10-06. 6일 차이는 이 계열에서 알려진 업로드 대비 발표 지연이며, 10월의 글에서도 6일 된 저장소를 조용한 출시라고 부를 수 있는 이유입니다.

어떤 아티팩트로도 확립되지 않은 것은 1B 모델이 OnDeviceLLM에서 "12GB Pro Max를 제외한 일상적인 iPhone"에서 실행된다는 구체적인 주장입니다. 개발자 게시글이 그런 프레이밍의 출처입니다. 오프라인 채팅 및 번역 앱용 스타터 키트일 뿐, 출시된 App Store 제품이 아닌 OnDeviceLLM 프로젝트의 공개 저장소는 스타가 0개이며 마지막 푸시가 2026년 7월 27일입니다. 이는 MiniCPM-V 4.7 가중치보다 10주 앞서므로, 이 모델에 대한 지원은 최근의 일이며 문서화되지 않았습니다. "OnDeviceLLM에서 이미 실행 중"이라는 말은 벤더가 지원하는 배포 경로가 아니라, 직접 해본 사람의 보고로 취급하십시오.

그 구분이 중요한 이유는 벤더 자체의 온디바이스 수치가 1B와는 전혀 무관하기 때문이다.

3GB 수치는 1B가 아니라 35B에 해당합니다.

OpenBMB의 대표 주장 — “iPhone 17 Pro Max에서 단 3GB 메모리로 13+ tokens/s” — 이 연결된35B-A3B Mixture-of-Experts 변형은 Apple이 판매하는 가장 큰 iPhone에서 실행된다. 그 이면의 기법인 Lookahead Expert Scheduling은 대부분의 전문가 가중치를 SSD에 두고, 다음 레이어가 필요로 할 가능성이 높은 것들을 미리 가져온다. 이는 인상적인 시스템 엔지니어링 성과이며, 35B라는 이름이 휴대폰 관련 보도에 계속 등장하는 이유다.

1B에는 그런 게 전혀 필요 없습니다. 메모리에 그대로 들어가는 덴스 모델이니까요. 서류상으로는 이것이 둘 중 더 민주적인 모델이 되고, '일상용 아이폰'이라는 관점이 설득력을 얻는 이유이기도 합니다. 하지만 계산은 그 틀에서 시사하는 것보다 덜 우호적입니다:

• BF16 가중치 — 디스크에서 3.1GB이며, 로드 후 상주 메모리도 대략 동일하고, 여기에 KV 캐시나 비전 활성화가 추가됩니다 • Q8_0 GGUF — 가중치 1.08GB에 더해 4× 압축 설정에서 비전 프로젝터 0.90GB, 또는 16×에서 1.11GB • Q4_K_M GGUF — 가중치 0.67GB에 동일한 프로젝터 오버헤드 • 비전 프로젝터 — 사람들이 잊는 부분입니다. 이는 언어 모델 양자화로 줄어들지 않으며, 로드된 모델마다 한 번씩 메모리가 부과됩니다 • 컨텍스트 — 이론상 최대 262,144토큰이며, KV 캐시의 각 토큰은 모델 카드에서 예산에 잡혀 있지 않은 추가 메모리입니다

16× 프로젝터를 사용하는 Q4 빌드는 가중치가 약 1.8GB에 달합니다. 여기에 수천 토큰 분량의 대화와 이미지 자리표시자를 위한 작동하는 KV 캐시를 더하면, 앱에 2.2–2.8GB 범위의 무언가를 요구하게 됩니다. 12GB Pro Max에서는 넉넉합니다. 운영체제와 다른 모든 상주 앱이 이미 같은 풀을 두고 경쟁하는 8GB iPhone에서는, 2.5GB를 요구하는 앱이 남은 용량의 큰 부분을 요구하는 셈입니다. iOS는 이를 허용하거나, 메모리 압박 상황에서 해당 앱을 jetsam으로 종료할 것입니다.

아이폰의 RAM 표기가 진짜 스펙인 이유

Apple은 마케팅 사양에 iPhone RAM을 공개하지 않으며, 개발자들에게 iPhone을 메모리 주소 지정이 가능한 컴퓨터로 취급하도록 권장한 적도 없다. 바로 이것이 "12GB Pro Max를 넘어선다"는 주장이 부딪히는 제약이다. Pro Max 등급은 여러 세대에 걸쳐 표준 모델보다 더 많은 메모리를 탑재해 왔고, "리뷰 영상 속의 휴대폰"과 "독자 주머니 속의 휴대폰" 사이의 격차는 바로 이 모델의 온디바이스 이야기가 의존하는 격차다.

그 주장의 정직한 버전은 더 좁지만 여전히 흥미롭습니다: 한때 노트북이나 플래그십 휴대폰이 필요했던 1B 비전 모델이 이제 중급형 휴대폰의 메모리 예산 안에 들어갑니다. 만약 4비트 양자화를 사용하고 더 짧은 컨텍스트를 감수한다면 말입니다. 이는 하드웨어 등급이 실제로 한 단계 낮아진 것입니다. “모든 iPhone에서 실행된다”와는 다르며, 그 차이는 독자가 이 제품을 실제로 출시할 수 있는지를 결정하므로 분명히 말할 가치가 있습니다.

모델 카드로는 그것이 결론나지 않는다. 모델 카드는 iOS, Android, HarmonyOS 지원을 문서화하고, Rockchip, Houmo, Intel, AMD, Arm의 day-0 칩 지원을 문서화하며, 앱과 소스가 포함된 엣지 배포 저장소로 연결한다. 어디에도 1B에 대한 최소 기기 메모리, 테스트된 기기 매트릭스, 기기별 토큰 속도를 나열하지 않는다. 1B 자체 데모 자산에 이름이 언급된 유일한 기기는 iPhone 17 Pro Max이며, 이는 35B 헤드라인과 동일한 기기다.

1B에서 모델이 실제로 잘하는 것

이 메모리 계산을 할 가치가 있는 이유는, 휴대폰에서 문서와 화면 이해를 수행하는 1B 모델이 챗봇과는 다른 제품 범주이기 때문입니다. 이는 영수증, 양식, 메뉴, 라벨 또는 스크린샷을 네트워크 왕복 없이 구조화된 텍스트로 바꿀 수 있다는 뜻입니다. 업로드도, 이미지당 비용도, 셀 타워가 정하는 지연 하한도 없습니다.

OpenBMB가 공개한 1B 수치들은 모두 벤더가 보고한 것이며 이 글 작성 시점까지 독립적으로 재현된 것은 하나도 없다. 이 수치에 따르면 OCRBench 86.1, MathVista 74.3, CharXiv Reasoning 48.8, LongVideoBench 53.4, MotionBench 54.55다. 벤더의 대표 비교는 Qwen3.5 0.8B 대비로, 종합 점수와 추론 효율 모두에서 앞선다고 주장하며, MiniCPM-V 4.6 대비로는 핵심 역량 전반에서 개선되었다고 말한다. 이는 벤더 자체 벤치마크를 벤더가 직접 실행한 결과이며, 모델 카드는 harness 세부 정보가 담긴 표가 아니라 차트 형태로 이를 제시한다.

실제로 이것을 배포하는 사람에게는 점수보다 두 가지 아키텍처 세부 사항이 더 중요합니다:

• 혼합 4×/16× 비주얼 토큰 압축 — 호출자는 요청별로 이미지가 상세한 토큰 시퀀스가 될지 저렴한 토큰 시퀀스가 될지 선택하므로, 영수증 스캔과 썸네일이 하나의 배포를 공유할 수 있습니다 • LLaVA-UHD v4에서 차용한 ViT 내부 조기 압축 — 비주얼 토큰이 비전 인코더 이후가 아니라 그 내부에서 잘리며, 이것이 애초에 4× 경로를 저렴하게 만드는 이유입니다 • 슬라이싱 — 고해상도 이미지를 448×448 타일과 저해상도 개요로 분할하며, 슬라이스 수는 런타임 매개변수입니다(카드는 이미지에 36, 비디오에 1을 권장) • 비디오 샘플링 — max_num_frames의 기본값은 128이며, stack_frames는 하위 프레임을 그리드로 합성하여, 휴대폰이 모든 프레임을 메모리에 보관하지 않고도 화면 녹화를 처리할 수 있게 합니다

영수증 사용 사례에 대해 프롬프트가 언급한 파이프라인은 다음과 같습니다. 캡처하고, 긴 변이 약 980픽셀에 가깝도록 다운스케일하고, 높은 슬라이스 수로 4×에서 실행하고, 구조화된 출력을 요청합니다. 36개 슬라이스의 4× 경로는 비용이 큰 설정이며, 16× 경로는 토큰이 대략 4분의 1이고 휴대폰이 반응성을 유지하는 지점입니다. 16×가 감열 영수증을 읽기에 충분한지는 본인의 이미지만이 답할 수 있는 질문이며, 카드에 공개된 벤치마크 중 다운샘플 모드별 OCR 정확도를 보고하는 것은 없습니다.

"데모"와 "앱" 사이의 격차

작동하는 데모와 출시 가능한 iOS 앱 사이에는 세 가지 장벽이 있으며, 그중 어느 것도 모델의 가중치가 아닙니다.

첫 번째는 패키징입니다. 이 모델은 Transformers, GGUF, AWQ, GPTQ, int4 형식으로 배포됩니다. iOS에서 성숙한 온디바이스 러너를 갖춘 것은 GGUF뿐이며 — llama.cpp와 그 계열들이죠 — 멀티모달 경로에 필요한 별도의 비전 프로젝터 (mmproj) 파일을 담고 있는 저장소도 GGUF뿐입니다. 단일 파일로 바로 쓸 수 있기를 기대하며 BF16 체크포인트에서 시작한다면, 프로젝터가 자체 크기를 지닌 두 번째 아티팩트라는 사실을 알게 될 것입니다.

두 번째는 열 예산입니다. 1B 모델이 수백 개의 토큰을 생성하는 것은 버스트 워크로드이고, 1B 모델이 36슬라이스 페이지를 OCR하는 것은 지속 워크로드입니다. 벤더의 데모 GIF는 화면 녹화일 뿐, 열 추적 기록이 아닙니다. 카드에 공개된 어떤 수치도 어떤 휴대폰에서든 지속 초당 토큰 수를 제시하지 않는데, 바로 그 수치가 스캔 앱이 세 번째 문서에서 즉각적으로 느껴지는지, 아니면 서른 번째 문서에서도 그런지를 결정합니다.

세 번째는 나머지 스택입니다. 온디바이스 추론은 이미지를 처리합니다. 하지만 추출된 영수증을 원장과 대조하거나, 모호한 항목을 더 큰 모델로 에스컬레이션하거나, 휴대폰이 너무 오래되어 앱이 가중치 로드를 거부할 때 폴백하는 부분은 처리하지 않습니다. 바로 이 경계에서 라우터는 무언가를 대체하는 것이 아니라 제 역할을 합니다. OrcaRouter는 200개 이상의 호스팅 모델을 0% 마크업으로 하나의 OpenAI 호환 엔드포인트 뒤에 배치하며, 각 제공업체의 정가를 그대로 전달하고, 프라이머리-앤-폴백 구성을 위한 자동 페일오버와 라우팅 DSL을 제공합니다. 폰 측 추출기는 불확실한 사례를 호스팅 비전 모델에 넘길 수 있고, 동일한 키가 두 경로를 모두 지원합니다. MiniCPM-V 4.7 1B 자체는 그 카탈로그에 없습니다 — 직접 실행하는 체크포인트이기 때문입니다 — 따라서 라우터는 이 모델을 호출하는 방법이 아니라 에스컬레이션 경로입니다.

조용한 출시 패턴, 그리고 그것이 계속 이런 혼란을 낳는 이유

MiniCPM-V 4.7은 출시 행사 없이 등장했다. 35B-A3B 저장소는 2026년 10월 6일 모델 카드가 전혀 없는 채로 나타났고, 카드는 엿새 뒤 날짜가 명시된 릴리스 노트와 함께 올라왔다. 1B도 같은 패턴을 따랐다. 저장소가 먼저, 문서가 그다음이었고, 그 전 과정에서 커뮤니티가 발견해 나갔다. 그 공백기에는 존재하는 아티팩트에 기반해 보도가 채워졌고, 그래서 초기 기사들은 35B MoE 모델을 설명했다가 1B와 그 카드가 등장하자 수정해야 했다.

이것은 OpenBMB의 엔지니어링에 대한 비판이 아닙니다. 이는 이 모델에 관한 정보가 어떻게 확산되는지를 설명하는 것이며, "일상적인 iPhone에서 실행된다" 같은 주장이 그것을 한정하는 메모리 수치보다 더 빠르게 퍼질 수 있는 이유입니다. 저장소가 일차 자료입니다. 카드가 일차 자료입니다. 개발자가 자신의 휴대폰에서 앱이 작동하는 모습을 찍은 스크린샷은 하나의 데이터 포인트일 뿐, 명세가 아닙니다.

이걸 가지고 구체적으로 어떻게 해야 하나요?

Pro Max나 iPad가 있다면. Q8_0 GGUF와 16× 프로젝터를 다운로드하고, llama.cpp 또는 Ollama로 실행한 뒤, 두 다운샘플 설정 모두에서 자신의 문서로 테스트해 보세요. 반나절이면 작동하는 로컬 OCR 및 이미지 QA 경로를 갖추게 될 것이며, 1B는 다른 앱들과 함께 상주시켜 둘 수 있을 만큼 충분히 작습니다.

일반 iPhone을 사용 중이라면. Q4_K_M과 16× projector로 시작하고, 슬라이스 수는 적당히 작게 제한한 뒤 측정하세요. 메모리 계산상으로는 들어가야 하지만, 지속 사용 시의 열 및 jetsam 동작은 아무도 공개하지 않은 부분입니다. 지원하려는 기기 중 가장 오래된 기기에서 테스트하세요, 최신 기기가 아니라.

제품을 만들고 있다면.온디바이스 모델은 빠른 경로로, 호스팅 모델은 정확성 경로로 취급하세요. 에스컬레이션은 라우팅 결정이며, 첫날부터 이를 내장해 두는 편이 휴대폰이 영수증을 잘못 읽은 건으로 첫 지원 티켓이 들어온 뒤에 덧붙이는 것보다 저렴합니다.

이 글을 시작하게 한 주장, 즉 1B 멀티모달 모델이 이제 Pro Max 등급 미만의 휴대폰에서 실행된다는 주장은 메모리 산술상으로는 그럴듯하지만 공개된 기록으로는 입증되지 않았다. 이는 이렇게 젊은 모델에게는 정상적인 상태이며, 기다리기보다 테스트해야 할 이유다. 가중치는 Apache 2.0이고, 양자화 버전도 존재하므로, 답을 얻는 데 걸림돌은 자신의 하드웨어로 보내는 오후 한나절뿐이다.

핵심: MiniCPM-V 4.7 1B는 실제로 문서화된 Apache-2.0 비전 모델이며, 비전 프로젝터를 포함해 Q4에서 약 1.8 GB에 들어갑니다. 이는 중급형 휴대폰도 충분히 현실적인 대상이 될 만큼 작고, 12GB Pro Max만을 위한 것은 아닙니다. 공급업체는 기기 지원 목록이나 최소 메모리 수치를 공개하지 않았으며, "일상적인 iPhone"이라는 주장은 모델 카드가 아니라 개발자 보고서에서 비롯된 것입니다. 이를 전제로 계획을 세우기 전에 자신의 기기에서 테스트하세요.