MiniCPM-V 4.7 1B на обычном iPhone: что на самом деле означает «работает за пределами Pro Max»

MiniCPM-V 4.7 1B — это визуально-языковая модель с 1,55 млрд параметров, которую OpenBMB загрузила на Hugging Face 6 октября 2026 года, а в собственных примечаниях к выпуску датировала 12 октября. У неё есть карточка модели, одиннадцать квантованных вариантов, тег в Ollama и демонстрационное приложение для работы на устройстве. Чего у неё нет — так это версии этой истории, которая выдерживает проверку, когда оцениваешь стоимость оборудования. Утверждение, гуляющее в кругах разработчиков, — что модель теперь работает в приложении OnDeviceLLM на обычных iPhone, а не только на Pro Max с 12 ГБ, — это та часть, которую стоит внимательно изучить, потому что «работает на телефоне» и «работает на вашем телефоне» разделяют около 3 ГБ запаса памяти, которого у большинства iPhone нет. Документированные сбои ИИ и инциденты с агентами, стоящие за подобными релизами, собраны в OrcaRouter AI Incident Archive, где каждая запись содержит собственные источники, уровень серьёзности, оценку достоверности и флаг спорности.

Вот как обстоят дела — со всеми видимыми швами. Всё ниже либо взято напрямую из файлов весов, из собственной документации OpenBMB, либо из опубликованных спецификаций Apple. Там, где число взято из сообщения разработчика, а не из воспроизводимого артефакта, в статье это указано.

Что на самом деле известно, а что лишь утверждается

Модель реальна и доступна для скачивания. Чекпоинт BF16 содержит 1 554 476 272 параметра, что составляет примерно 3,1 ГБ на диске. Репозиторий содержит полноценную карточку модели — редкость для недавней истории этого семейства — где указаны текстовый бэкбон Qwen3.5, визуальная башня SigLIP2 с 27 слоями при скрытой размерности 1152, входные тайлы размером 980 пикселей, контекстное окно на 262 144 токена и лицензия Apache 2.0. Собственная запись OpenBMB в README датирует релиз 2026-10-12; репозиторий Hugging Face был создан 2026-10-06. Шестидневный разрыв — это задержка между загрузкой и анонсом, характерная для этого семейства, и именно поэтому октябрьский материал всё ещё может назвать репозиторий шестидневной давности тихим выпуском.

Что не подтверждается никаким артефактом — это конкретное утверждение о том, что модель 1B работает в OnDeviceLLM на «обычных iPhone, помимо 12GB Pro Max». Источником этой формулировки является пост разработчика. Публичный репозиторий проекта OnDeviceLLM — стартовый набор для офлайн-чатов и приложений перевода, а не готовый продукт для App Store — имеет ноль звёзд, а последний push был выполнен 27 июля 2026 года. Он появился на десять недель раньше весов MiniCPM-V 4.7, поэтому любая поддержка этой модели в нём является недавней и недокументированной. Рассматривайте «уже работает в OnDeviceLLM» как сообщение от того, кто это сделал, а не как поддерживаемый поставщиком путь развёртывания.

Это различие важно, потому что собственные показатели вендора на устройстве вовсе не относятся к 1B.

Число 3 ГБ относится к 35B, а не к 1B.

Громкое заявление OpenBMB — «13+ токенов/с, используя всего 3 ГБ памяти на iPhone 17 Pro Max» — относится к 35B-A3B — варианту Mixture-of-Experts, работающему на самом большом iPhone, который продаёт Apple. Техника, лежащая в его основе, Lookahead Expert Scheduling, хранит большинство весов экспертов на SSD и предзагружает те, которые, скорее всего, понадобятся следующему слою. Это впечатляющий образец системной инженерии, и именно поэтому название 35B продолжает появляться в материалах, связанных с телефонами.

Модели 1B ничего из этого не нужно. Это плотная модель, которая целиком помещается в память. На бумаге это делает её более демократичной из двух, и именно поэтому идея «повседневного iPhone» выглядит жизнеспособной. Но арифметика менее дружелюбна, чем предполагает эта подача:

• Веса BF16 — 3,1 ГБ на диске и примерно столько же в памяти после загрузки, ещё до учёта KV-кэша и активаций зрения • Q8_0 GGUF — 1,08 ГБ весов плюс 0,90 ГБ проектора зрения при 4-кратном сжатии или 1,11 ГБ при 16-кратном • Q4_K_M GGUF — 0,67 ГБ весов при тех же накладных расходах на проектор • Проектор зрения — именно о нём часто забывают; он не уменьшается при квантовании языковой модели и учитывается один раз на каждую загруженную модель • Контекст — до 262 144 токенов на бумаге; каждый токен KV-кэша — это дополнительная память, не заложенная в бюджет карточки модели

Сборка Q4 с проектором 16× занимает около 1,8 ГБ весов. Добавьте рабочий KV-кэш на несколько тысяч токенов разговора и плейсхолдеров изображений — и вы просите у приложения где-то 2,2–2,8 ГБ. На 12-ГБ Pro Max это комфортно. На 8-ГБ iPhone, где операционная система и все другие постоянно находящиеся в памяти приложения уже конкурируют за один и тот же пул, приложение, запрашивающее 2,5 ГБ, претендует на большую долю оставшегося. iOS либо выделит её, либо под давлением завершит приложение через jetsam.

Почему строка об ОЗУ в iPhone — это настоящая характеристика

Apple не публикует объём оперативной памяти iPhone в маркетинговых характеристиках и никогда не поощряла разработчиков относиться к телефону как к компьютеру с адресуемой памятью. Именно в это ограничение упирается утверждение «больше, чем 12GB Pro Max». Линейка Pro Max уже несколько поколений оснащается большим объёмом памяти, чем стандартные модели, и разрыв между «телефоном из видеообзора» и «телефоном в кармане читателя» — это ровно тот разрыв, от которого зависит история работы на устройстве для этой модели.

Честная версия этого утверждения — более узкая и всё ещё интересная: 1B-модель компьютерного зрения, для которой раньше требовался ноутбук или флагманский телефон, теперь помещается в бюджет памяти телефона среднего класса, если использовать 4-битное квантование и согласиться на более короткий контекст. Это действительно переход в более низкий класс оборудования. Это не то же самое, что «работает на каждом iPhone», и эту разницу стоит прямо назвать, потому что от неё зависит, сможет ли читатель выпустить эту штуку.

Карточка модели не даёт окончательного ответа. В ней указана поддержка iOS, Android и HarmonyOS, поддержка чипов Rockchip, Houmo, Intel, AMD и Arm с первого дня, а также ссылка на репозиторий развёртывания на периферийных устройствах с приложениями и исходным кодом. Но нигде не перечислены минимальный объём памяти устройства, матрица протестированных устройств или скорость генерации токенов на каждом устройстве для модели 1B. Единственное устройство, названное в собственных демонстрационных материалах 1B, — это iPhone 17 Pro Max, то же устройство, что и в главном заявлении о 35B.

В чём модель на самом деле хороша при 1B

Причина, по которой эти расчёты памяти оправданы, в том, что модель с 1 млрд параметров, выполняющая понимание документов и экрана на телефоне, — это иная категория продукта, чем чат-бот. Это означает, что чек, форму, меню, этикетку или скриншот можно превратить в структурированный текст без обращения к сети — без загрузки, без затрат на каждое изображение и без минимальной задержки, определяемой сотовой вышкой.

Опубликованные OpenBMB показатели модели 1B — все заявлены производителем, и ни один на момент написания не был независимо воспроизведён — указывают OCRBench на уровне 86,1, MathVista — 74,3, CharXiv Reasoning — 48,8, LongVideoBench — 53,4 и MotionBench — 54,55. Главное сравнение от производителя — с Qwen3.5 0.8B, которую, по его словам, модель превосходит как по общей оценке, так и по эффективности инференса, и с MiniCPM-V 4.6, которую, как утверждается, она превосходит по основным возможностям. Это собственные бенчмарки производителя, проведённые самим производителем, и в карточке модели они представлены в виде графиков, а не таблицы с деталями тестового стенда.

Для всех, кто реально будет это разворачивать, две архитектурные детали важнее показателей:

• Смешанное сжатие визуальных токенов 4×/16× — вызывающая сторона выбирает для каждого запроса, превратится ли изображение в подробную последовательность токенов или в более дешёвую, поэтому скан чека и миниатюра могут использовать одно развёртывание • Раннее сжатие Intra-ViT, заимствованное из LLaVA-UHD v4 — визуальные токены сокращаются внутри визуального энкодера, а не после него, и именно это делает путь 4× доступным • Нарезка — изображения высокого разрешения разбиваются на тайлы 448×448 плюс обзор низкого разрешения, а число срезов задаётся параметром времени выполнения (карточка рекомендует 36 для изображений и 1 для видео) • Сэмплирование видео — max_num_frames по умолчанию равно 128, а stack_frames компонует субкадры в сетку, и именно так телефон обрабатывает запись экрана, не удерживая каждый кадр в памяти

Для сценария с чеком, упомянутого в промпте, конвейер такой: захват, уменьшение до примерно 980 пикселей по длинной стороне, запуск с 4× и большим числом срезов и запрос структурированного вывода. Путь с 4× при 36 срезах — это дорогая настройка; путь с 16× — примерно четверть токенов, и именно на нём телефон остаётся отзывчивым. Достаточно ли 16×, чтобы прочитать чек на термобумаге, — вопрос, на который могут ответить только ваши собственные изображения, и ни один опубликованный бенчмарк в карточке не сообщает точность OCR по режиму даунсэмплинга.

Разрыв между «демо» и «приложением»

Между работающим демо и iOS-приложением, готовым к выпуску, стоят три вещи, и ни одна из них — не веса модели.

Первое — упаковка. Модель поставляется в форматах Transformers, GGUF, AWQ, GPTQ и int4. Только GGUF имеет зрелый раннер на устройстве под iOS — llama.cpp и его родственники — и только репозиторий GGUF содержит отдельный файл визуального проектора (mmproj), который нужен для мультимодального пути. Если вы начнёте с BF16-чекпоинта, ожидая, что это единый файл, который можно просто подставить, вы обнаружите, что проектор — это второй артефакт со своим размером.

Второй фактор — тепловой бюджет. Модель на 1B, генерирующая несколько сотен токенов, создаёт кратковременную нагрузку; модель на 1B, выполняющая OCR страницы из 36 срезов, — продолжительную. Демонстрационный GIF вендора — это запись экрана, а не тепловая трассировка. Ни один опубликованный в карточке показатель не даёт устойчивое число токенов в секунду ни на одном телефоне, а именно это число определяет, ощущается ли приложение для сканирования мгновенным на третьем документе или на тридцатом.

Третье — остальная часть вашего стека. Вывод на устройстве обрабатывает изображение. Он не обрабатывает ту часть, где вы сверяете извлечённый чек с книгой учёта, передаёте неоднозначную строку более крупной модели или переключаетесь на резервный вариант, когда телефон настолько старый, что приложение отказывается загружать веса. Это граница, на которой роутер оправдывает своё место, а не заменяет что-либо: OrcaRouter делает более 200 размещённых моделей доступными через один OpenAI-совместимый эндпоинт с наценкой 0%, передавая прейскурантную цену каждого провайдера без изменений, с автоматическим переключением при сбое и DSL маршрутизации для конфигураций «основной — резервный». Извлекающий модуль на стороне телефона может передавать свои неопределённые случаи размещённой модели зрения, и один и тот же ключ обслуживает оба пути. Сам MiniCPM-V 4.7 1B не входит в этот каталог — это контрольная точка, которую вы запускаете сами, — поэтому роутер — это путь эскалации, а не способ вызвать эту модель.

Паттерн «тихого релиза» — и почему он продолжает порождать эту путаницу

MiniCPM-V 4.7 вышла без мероприятия по запуску. Репозиторий 35B-A3B появился 6 октября 2026 года вообще без карточки модели — карточка появилась шесть дней спустя вместе с датированным примечанием к выпуску. С 1B всё было по той же схеме: сначала репозиторий, потом документация, а обнаружение сообществом происходило на протяжении всего времени. В этот промежуток освещение выстраивается по тому артефакту, который существует, поэтому ранние материалы описывали модель 35B MoE, а затем их пришлось пересмотреть, когда появились 1B и её карточка.

Это не критика инженерной работы OpenBMB. Это описание того, как распространяется информация об этой модели, и причина, по которой утверждение вроде «работает на обычных iPhone» может распространяться быстрее, чем цифры памяти, которые его уточняют. Репозиторий — первоисточник. Карточка модели — первоисточник. Скриншот приложения, работающего на телефоне разработчика, — это точка данных, а не спецификация.

Что с этим делать, конкретно

Если у вас есть Pro Max или iPad.Скачайте Q8_0 GGUF и проектор 16×, запустите через llama.cpp или Ollama и протестируйте собственные документы при обеих настройках понижения разрешения. Вы получите работающий локальный путь для OCR и визуальных вопросов-ответов за один день, а модель 1B достаточно мала, чтобы держать её в памяти вместе с другими приложениями.

Если у вас обычный iPhone. Начните с Q4_K_M и 16× projector, ограничьте число срезов разумным небольшим значением и измеряйте. Арифметика памяти говорит, что это должно поместиться; тепловое поведение и поведение jetsam при длительной нагрузке — та часть, которую никто не публиковал. Тестируйте на самом старом устройстве, которое собираетесь поддерживать, а не на самом новом.

Если вы создаёте продукт. Рассматривайте модель на устройстве как быстрый путь, а хостируемую модель — как путь обеспечения корректности. Эскалация — это решение о маршрутизации, и заложить её с первого дня дешевле, чем добавлять её задним числом после первого обращения в поддержку по поводу чека, который телефон неправильно распознал.

Утверждение, с которого началась эта статья — что мультимодальная модель на 1B теперь работает на телефонах ниже уровня Pro Max — правдоподобно с точки зрения арифметики памяти и не подтверждено опубликованными данными. Это нормальное состояние для настолько молодой модели, и это причина проверить, а не ждать. Веса распространяются по Apache 2.0, квантованные версии существуют, и единственное, что отделяет вас от ответа, — это один день работы с собственным железом.

Суть: MiniCPM-V 4.7 1B — это реальная, задокументированная vision-модель под лицензией Apache-2.0, которая в квантовании Q4 вместе с визуальным проектором занимает примерно 1,8 ГБ — достаточно мало, чтобы телефоны среднего сегмента были реалистичной целью, а не только 12GB Pro Max. Производитель не опубликовал матрицу устройств или минимальный объём памяти, а утверждение про «повседневный iPhone» взято из отчёта разработчика, а не из карточки модели. Проверьте на своём устройстве, прежде чем строить планы.