MiniCPM-V 4.7 1B auf einem alltäglichen iPhone: Was „läuft über das Pro Max hinaus“ tatsächlich bedeutet

MiniCPM-V 4.7 1B ist ein Vision-Language-Modell mit 1,55 Milliarden Parametern, das OpenBMB am 6. Oktober 2026 auf Hugging Face hochgeladen und in seinen eigenen Release Notes auf den 12. Oktober datiert hat. Es hat eine Modellkarte, elf quantisierte Schwestervarianten, einen Ollama-Tag und eine On-Device-Demo-App. Was es nicht hat, ist eine Version der Geschichte, die einer Prüfung der Hardwarekosten standhält. Die Behauptung, die in Entwicklerkreisen die Runde macht – dass das Modell jetzt in einer OnDeviceLLM-App auf gewöhnlichen iPhones läuft, nicht nur auf einem 12-GB-Pro-Max –, ist der Teil, der genauer untersucht werden sollte, weil zwischen „läuft auf einem Telefon“ und „läuft auf deinem Telefon“ etwa 3 GB Arbeitsspeicherreserve liegen, die die meisten iPhones nicht haben. Die dokumentierten KI-Ausfälle und Agenten-Zwischenfälle hinter Veröffentlichungen wie dieser sind im OrcaRouter AI Incident Archive gesammelt, wo jeder Eintrag seine eigenen Quellen, einen Schweregrad, eine Konfidenzstufe und eine Markierung für umstrittene Angaben enthält.

Hier ist der aktuelle Stand, mit sichtbaren Bruchstellen. Alles Folgende stammt entweder direkt aus den Gewichtsdateien, aus OpenBMBs eigener Dokumentation oder aus Apples veröffentlichten Spezifikationen. Wo eine Zahl aus einem Entwicklerbeitrag statt aus einem reproduzierbaren Artefakt stammt, sagt dieser Artikel das.

Was tatsächlich bekannt ist und was nur behauptet wird

Das Modell ist real und herunterladbar. Der BF16-Checkpoint umfasst 1.554.476.272 Parameter, was auf der Festplatte rund 3,1 GB entspricht. Das Repository enthält eine vollständige Model Card – eine Seltenheit in der jüngeren Geschichte dieser Familie –, die ein Qwen3.5-Text-Backbone, einen SigLIP2-Vision-Tower mit 27 Schichten bei einer Hidden-Width von 1152, 980-Pixel-Eingabekacheln, ein Kontextfenster von 262.144 Tokens und eine Apache-2.0-Lizenzierung nennt. OpenBMBs eigener README-Eintrag datiert die Veröffentlichung auf 2026-10-12; das Hugging-Face-Repository wurde erstellt am 2026-10-06. Die Sechs-Tage-Lücke ist die Verzögerung zwischen Upload und Ankündigung, für die diese Familie bekannt ist, und sie ist der Grund, warum ein im Oktober erschienener Artikel ein sechs Tage altes Repository noch als leisen Release bezeichnen kann.

Was nicht durch irgendein Artefakt belegt ist, ist die konkrete Behauptung, dass die 1B-Variante in OnDeviceLLM auf „alltäglichen iPhones jenseits des 12GB Pro Max“ läuft. Ein Entwicklerbeitrag ist der Ursprung dieser Formulierung. Das öffentliche Repository des OnDeviceLLM-Projekts – ein Starterkit für Offline-Chat- und Übersetzungs-Apps, kein im App Store erhältliches Produkt – hat null Sterne und wurde zuletzt am 27. Juli 2026 gepusht. Es ist zehn Wochen älter als die MiniCPM-V 4.7-Gewichte, daher ist jede Unterstützung für dieses Modell darin neu und undokumentiert. Behandle „läuft bereits in OnDeviceLLM“ als einen Bericht von jemandem, der es getan hat, nicht als einen vom Anbieter unterstützten Bereitstellungspfad.

Dieser Unterschied ist wichtig, weil sich die geräteeigenen Zahlen des Anbieters überhaupt nicht auf das 1B beziehen.

Die 3-GB-Angabe gehört zum 35B, nicht zum 1B

OpenBMBs zentrale Behauptung – „13+ Tokens/s mit nur 3 GB Arbeitsspeicher auf dem iPhone 17 Pro Max“ – bezieht sich auf die 35B-A3B Mixture-of-Experts-Variante, die auf dem größten iPhone läuft, das Apple verkauft. Die dahinterstehende Technik, Lookahead Expert Scheduling, hält die meisten Expertengewichte auf der SSD und lädt diejenigen vorab, die die nächste Schicht wahrscheinlich benötigt. Es ist ein beeindruckendes Stück Systemtechnik und der Grund, warum der Name 35B immer wieder in smartphonebezogener Berichterstattung auftaucht.

Das 1B braucht nichts davon. Es ist ein dichtes Modell, das schlichtweg in den Speicher passt. Auf dem Papier ist es damit das demokratischere der beiden, und deshalb ist der „Alltags-iPhone“-Ansatz tragfähig. Doch die Arithmetik ist weniger freundlich, als die Darstellung vermuten lässt:

• BF16-Gewichte — 3,1 GB auf der Festplatte und nach dem Laden ungefähr derselbe residente Speicherbedarf, bevor jeglicher KV-Cache oder Vision-Aktivierungen hinzukommen • Q8_0 GGUF — 1,08 GB Gewichte plus ein 0,90 GB großer Vision-Projektor bei der 4×-Komprimierungseinstellung oder 1,11 GB bei 16× • Q4_K_M GGUF — 0,67 GB Gewichte, mit demselben Projektor-Overhead • Vision-Projektor — das ist der Teil, den Leute vergessen; er schrumpft nicht mit der Quantisierung des Sprachmodells und wird einmal pro geladenem Modell angerechnet • Kontext — auf dem Papier bis zu 262.144 Token; jedes Token im KV-Cache ist zusätzlicher Speicher, den die Modellkarte nicht veranschlagt

Ein Q4-Build mit dem 16×-Projektor kommt auf etwa 1,8 GB an Gewichten. Fügt man einen funktionierenden KV-Cache für ein paar tausend Tokens Konversation und Bild-Platzhalter hinzu, verlangt man von einer App etwas im Bereich von 2,2–2,8 GB. Auf einem 12-GB-Pro Max ist das komfortabel. Auf einem 8-GB-iPhone, wo das Betriebssystem und jede andere residente App bereits um denselben Pool konkurrieren, verlangt eine App, die 2,5 GB anfordert, einen großen Teil dessen, was übrig ist. iOS wird es gewähren, oder es wird die App unter Speicherdruck per Jetsam beenden.

Warum die RAM-Angabe auf einem iPhone die eigentliche Spezifikation ist

Apple veröffentlicht den Arbeitsspeicher des iPhone nicht in seinen Marketing-Spezifikationen und hat Entwickler nie dazu ermutigt, das Telefon als einen speicheradressierbaren Computer zu behandeln. Das ist die Einschränkung, auf die die Behauptung „beyond the 12GB Pro Max“ stößt. Die Pro-Max-Klasse verfügt seit mehreren Generationen über mehr Arbeitsspeicher als die Standardmodelle, und die Lücke zwischen „dem Telefon im Testvideo“ und „dem Telefon in der Tasche eines Lesers“ ist genau die Lücke, auf der die On-Device-Geschichte dieses Modells beruht.

Die ehrliche Fassung der Behauptung ist enger gefasst und dennoch interessant: Ein 1B-Vision-Modell, das früher einen Laptop oder ein Flaggschiff-Smartphone erforderte, passt jetzt in das Speicherbudget eines Mittelklasse-Smartphones, wenn man eine 4-Bit-Quantisierung verwendet und einen kürzeren Kontext akzeptiert. Das ist ein echter Schritt in eine niedrigere Hardwareklasse. Es ist nicht dasselbe wie „läuft auf jedem iPhone“, und der Unterschied sollte klar benannt werden, weil er entscheidet, ob ein Leser das Teil ausliefern kann.

Die Model Card beantwortet das nicht. Sie dokumentiert die Unterstützung von iOS, Android und HarmonyOS, Day-0-Chip-Unterstützung von Rockchip, Houmo, Intel, AMD und Arm und verlinkt auf ein Repository für Edge-Deployment mit Apps und Quellcode. Nirgends werden minimaler Gerätespeicher, eine getestete Gerätematrix oder eine Token-Rate pro Gerät für das 1B aufgeführt. Das einzige Gerät, das in den Demo-Materialien des 1B selbst genannt wird, ist ein iPhone 17 Pro Max – dasselbe Gerät wie in der 35B-Schlagzeile.

Worin das Modell mit 1B tatsächlich gut ist

Der Grund, warum sich diese Speicherrechnung lohnt, ist, dass ein 1-Milliarden-Parameter-Modell, das Dokument- und Bildschirmverständnis auf einem Smartphone leistet, eine andere Produktkategorie ist als ein Chatbot. Das bedeutet, dass ein Kassenbon, ein Formular, eine Speisekarte, ein Etikett oder ein Screenshot ohne Netzwerk-Roundtrip in strukturierten Text umgewandelt werden kann – kein Upload, keine Kosten pro Bild, keine durch einen Mobilfunkmast vorgegebene Latenzuntergrenze.

Die von OpenBMB veröffentlichten 1B-Werte – alle vom Anbieter berichtet und zum Zeitpunkt dieses Schreibens keine davon unabhängig reproduziert – geben OCRBench mit 86,1, MathVista mit 74,3, CharXiv Reasoning mit 48,8, LongVideoBench mit 53,4 und MotionBench mit 54,55 an. Der Hauptvergleich des Anbieters richtet sich gegen Qwen3.5 0.8B, das laut Anbieter sowohl beim Gesamtwert als auch bei der Inferenzeffizienz übertroffen wird, sowie gegen MiniCPM-V 4.6, bei dem laut Anbieter Verbesserungen über die Kernfähigkeiten hinweg erzielt werden. Das sind die eigenen Benchmarks des Anbieters, vom Anbieter ausgeführt, und die Modellkarte präsentiert sie als Diagramme statt als Tabelle mit Details zum Test-Harness.

Für jeden, der dies tatsächlich einsetzt, zählen zwei architektonische Details mehr als die Scores:

• Gemischte visuelle Token-Komprimierung mit 4×/16× — der Aufrufer entscheidet pro Anfrage, ob ein Bild zu einer detaillierten Token-Sequenz oder zu einer kostengünstigen wird, sodass ein Belegscan und ein Miniaturbild sich ein Deployment teilen können • Frühzeitige Intra-ViT-Komprimierung, übernommen von LLaVA-UHD v4 — visuelle Token werden bereits im Vision-Encoder reduziert statt erst danach, was den 4×-Pfad überhaupt erst bezahlbar macht • Slicing — hochauflösende Bilder werden in 448×448-Kacheln plus eine niedrig aufgelöste Übersicht aufgeteilt, wobei die Slice-Anzahl ein Laufzeitparameter ist (die Karte empfiehlt 36 für Bilder, 1 für Videos) • Video-Sampling — max_num_frames ist standardmäßig 128, und stack_frames fügt Teilframes zu einem Raster zusammen, wodurch ein Smartphone eine Bildschirmaufnahme bewältigen kann, ohne jedes Frame im Speicher zu halten

Für den in der Eingabeaufforderung erwähnten Kassenbon-Anwendungsfall sieht die Pipeline so aus: erfassen, auf etwas nahe 980 Pixel an der langen Kante herunterskalieren, mit 4× und einer hohen Slice-Anzahl ausführen und strukturierte Ausgabe anfordern. Der 4×-Pfad mit 36 Slices ist die teure Einstellung; der 16×-Pfad hat ungefähr ein Viertel der Tokens und ist der, bei dem das Telefon reaktionsfähig bleibt. Ob 16× ausreicht, um einen Thermobon zu lesen, können nur Ihre eigenen Bilder beantworten, und kein veröffentlichter Benchmark in der Karte berichtet über OCR-Genauigkeit nach Downsample-Modus.

Die Lücke zwischen „Demo“ und „App“

Drei Dinge stehen zwischen einer funktionierenden Demo und einer auslieferbaren iOS-App, und keines davon sind die Gewichte des Modells.

Der erste Punkt ist die Paketierung. Das Modell wird in den Formaten Transformers, GGUF, AWQ, GPTQ und int4 ausgeliefert. Nur GGUF hat unter iOS einen ausgereiften On-Device-Runner – llama.cpp und Verwandte –, und nur das GGUF-Repository enthält die separate Vision-Projektor-Datei (mmproj), die der multimodale Pfad benötigt. Wenn Sie vom BF16-Checkpoint ausgehen und eine einzelne Datei als Drop-in erwarten, werden Sie feststellen, dass der Projektor ein zweites Artefakt mit eigener Größe ist.

Der zweite Punkt ist das thermische Budget. Ein 1B-Modell, das ein paar hundert Tokens generiert, ist eine Burst-Workload; ein 1B-Modell, das eine 36-Slice-Seite per OCR verarbeitet, ist eine Dauerlast. Das Demo-GIF des Anbieters ist eine Bildschirmaufnahme, kein Temperaturverlauf. Keine veröffentlichte Zahl im Datenblatt gibt an, wie viele Tokens pro Sekunde auf irgendeinem Telefon dauerhaft erreicht werden – und genau diese Zahl entscheidet, ob sich eine Scan-App beim dritten oder beim dreißigsten Dokument noch sofort anfühlt.

Das dritte ist der Rest Ihres Stacks. Die On-Device-Inferenz übernimmt das Bild. Sie übernimmt nicht den Teil, in dem Sie den extrahierten Beleg mit einem Hauptbuch abgleichen, eine mehrdeutige Position an ein größeres Modell eskalieren oder darauf zurückfallen, wenn das Telefon so alt ist, dass die App sich weigert, die Gewichte zu laden. Das ist die Grenze, an der ein Router seinen Platz verdient, statt etwas zu ersetzen: OrcaRouter stellt über 200 gehostete Modelle hinter einem einzigen OpenAI-kompatiblen Endpoint ohne Aufschlag bereit, wobei die Listenpreise der Anbieter unverändert weitergegeben werden, mit automatischem Failover und einer Routing-DSL für Primär- und Fallback-Konfigurationen. Ein Extraktor auf dem Telefon kann seine unsicheren Fälle an ein gehostetes Vision-Modell übergeben, und derselbe Schlüssel trägt beide Pfade. MiniCPM-V 4.7 1B selbst ist nicht in diesem Katalog enthalten – es ist ein Checkpoint, den Sie selbst betreiben –, der Router ist also der Eskalationspfad und nicht der Weg, dieses Modell aufzurufen.

Das Quiet-Release-Muster – und warum es immer wieder diese Verwirrung hervorruft

MiniCPM-V 4.7 erschien ohne Launch-Event. Das 35B-A3B-Repository tauchte am 6. Oktober 2026 auf, ohne jegliche Model Card – die Card folgte sechs Tage später zusammen mit der datierten Release Note. Das 1B folgte demselben Muster: zuerst das Repository, dann die Dokumentation, durchweg Community-Entdeckung. In der Zwischenzeit füllt sich die Berichterstattung aus dem, was an Artefakten vorhanden ist, weshalb frühe Artikel ein 35B-MoE-Modell beschrieben und dann überarbeitet werden mussten, als das 1B und seine Card auftauchten.

Dies ist keine Kritik an der Engineering-Arbeit von OpenBMB. Es ist eine Beschreibung davon, wie sich Informationen über dieses Modell verbreiten, und der Grund, warum eine Aussage wie „läuft auf ganz normalen iPhones“ schneller reisen kann als die Speicherzahlen, die sie einschränken. Das Repository ist die primäre Quelle. Die Model Card ist die primäre Quelle. Der Screenshot eines Entwicklers von einer App, die auf seinem Telefon funktioniert, ist ein Datenpunkt, keine Spezifikation.

Was soll man konkret damit machen?

Wenn Sie ein Pro Max oder ein iPad haben. Laden Sie das Q8_0 GGUF und den 16×-Projektor herunter, führen Sie es über llama.cpp oder Ollama aus und testen Sie Ihre eigenen Dokumente mit beiden Downsample-Einstellungen. Sie erhalten innerhalb eines Nachmittags einen funktionierenden lokalen OCR- und Image-QA-Pfad, und das 1B ist klein genug, dass Sie es neben anderen Apps resident halten können.

Wenn Sie ein Standard-iPhone haben. Beginnen Sie mit Q4_K_M und dem 16×-Projektor, begrenzen Sie die Slice-Anzahl auf einen moderaten Wert und messen Sie. Die Speicherarithmetik sagt, dass es passen sollte; das Wärme- und Jetsam-Verhalten bei Dauerbelastung ist der Teil, den niemand veröffentlicht hat. Testen Sie auf dem ältesten Gerät, das Sie unterstützen wollen, nicht auf dem neuesten.

Wenn Sie ein Produkt entwickeln. Betrachten Sie das On-Device-Modell als den schnellen Pfad und ein gehostetes Modell als den Korrektheitspfad. Die Eskalation ist eine Routing-Entscheidung, und sie von Anfang an einzubauen ist günstiger, als sie nach dem ersten Support-Ticket über einen Beleg nachzurüsten, den das Telefon falsch gelesen hat.

Die Behauptung, mit der dieser Artikel begann – dass ein 1B-multimodales Modell inzwischen auf Telefonen unterhalb der Pro-Max-Klasse läuft –, ist mit Blick auf die Speicherarithmetik plausibel und mit Blick auf die veröffentlichte Datenlage nicht belegt. Das ist ein normaler Zustand für ein so junges Modell, und es ist ein Grund zu testen statt abzuwarten. Die Gewichte stehen unter Apache 2.0, die Quantisierungen existieren, und das Einzige, was zwischen dir und einer Antwort steht, ist ein Nachmittag mit deiner eigenen Hardware.

Fazit:MiniCPM-V 4.7 1B ist ein echtes, dokumentiertes Apache-2.0-Visionsmodell, das mit seinem Vision-Projektor bei Q4 in etwa 1,8 GB belegt – klein genug, dass auch Mittelklasse-Smartphones ein realistisches Ziel sind und nicht nur das 12-GB-Pro-Max. Der Anbieter hat weder eine Gerätematrix noch einen Mindestspeicherwert veröffentlicht, und die Aussage „jedes iPhone“ stammt aus einem Entwicklerbericht und nicht aus der Modellkarte. Testen Sie es auf Ihrem eigenen Gerät, bevor Sie darauf planen.