MiniCPM-V 4.7 1B di iPhone Sehari-hari: Apa Arti Sebenarnya dari "Berjalan Melampaui Pro Max"

MiniCPM-V 4.7 1B adalah model visi-bahasa dengan 1,55 miliar parameter yang diunggah OpenBMB ke Hugging Face pada 6 Oktober 2026 dan bertanggal 12 Oktober dalam catatan rilisnya sendiri. Model ini memiliki kartu model, sebelas varian terkuantisasi, tag Ollama, dan aplikasi demo di perangkat. Yang tidak dimilikinya adalah versi cerita yang tetap masuk akal ketika Anda memperhitungkan harga perangkat kerasnya. Klaim yang beredar di kalangan pengembang — bahwa model ini kini berjalan di aplikasi OnDeviceLLM pada iPhone biasa, bukan hanya pada Pro Max 12GB — adalah bagian yang perlu diteliti dengan saksama, karena "berjalan di ponsel" dan "berjalan di ponsel Anda" dipisahkan oleh sekitar 3 GB ruang memori cadangan yang tidak dimiliki sebagian besar iPhone. Kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, nilai keyakinan, dan penanda status diperdebatkan.

Berikut adalah kondisi terkini, dengan celah-celahnya terlihat. Semua yang di bawah ini dibaca langsung dari file bobot, dari dokumentasi OpenBMB sendiri, atau dari spesifikasi resmi Apple. Jika suatu angka berasal dari postingan pengembang, bukan dari artefak yang dapat direproduksi, artikel ini akan menyebutkannya.

Apa yang sebenarnya diketahui, dan apa yang hanya diklaim

Model ini nyata dan dapat diunduh. Checkpoint BF16 berjumlah 1.554.476.272 parameter, yang berarti sekitar 3,1 GB di disk. Repositori ini menyertakan kartu model lengkap — hal yang langka dalam sejarah terkini keluarga ini — yang menyebut backbone teks Qwen3.5, menara visi SigLIP2 dengan 27 lapisan pada lebar tersembunyi 1152, ubin masukan 980 piksel, jendela konteks 262.144 token, dan lisensi Apache 2.0. Entri README OpenBMB sendiri mencantumkan tanggal rilis 2026-10-12; repositori Hugging Face dibuat 2026-10-06. Jarak enam hari itu adalah jeda antara unggah dan pengumuman yang menjadi ciri keluarga ini, dan itulah sebabnya sebuah artikel Oktober masih dapat menyebut repositori berusia enam hari sebagai peluncuran senyap.

Apa yang tidak dibuktikan oleh artefak mana pun adalah klaim spesifik bahwa model 1B berjalan di OnDeviceLLM pada "iPhone sehari-hari di luar 12GB Pro Max." Postingan pengembang menjadi asal pembingkaian tersebut. Repositori publik proyek OnDeviceLLM — yang merupakan starter kit untuk aplikasi chat dan terjemahan offline, bukan produk App Store yang dirilis — memiliki nol bintang dan terakhir di-push pada 27 Juli 2026. Repositori itu mendahului bobot MiniCPM-V 4.7 selama sepuluh minggu, jadi dukungan apa pun untuk model ini di dalamnya masih baru dan tidak terdokumentasi. Anggap "sudah berjalan di OnDeviceLLM" sebagai laporan dari seseorang yang melakukannya, bukan sebagai jalur penerapan yang didukung vendor.

Perbedaan itu penting karena angka on-device milik vendor sendiri sama sekali bukan tentang 1B.

Angka 3 GB itu milik 35B, bukan 1B

Klaim utama OpenBMB — "13+ token/detik dengan hanya 3 GB memori di iPhone 17 Pro Max" — dikaitkan dengan varian 35B-A3B Mixture-of-Experts, yang berjalan pada iPhone terbesar yang dijual Apple. Teknik di baliknya, Lookahead Expert Scheduling, menyimpan sebagian besar bobot expert di SSD dan mengambil lebih dulu bobot yang kemungkinan dibutuhkan lapisan berikutnya. Ini adalah rekayasa sistem yang mengesankan dan itulah alasan nama 35B terus muncul dalam liputan terkait ponsel.

Model 1B tidak membutuhkan semua itu. Ini adalah model dense yang sepenuhnya muat di memori. Secara teori, hal itu menjadikannya yang lebih demokratis di antara keduanya, dan itulah sebabnya sudut pandang "iPhone sehari-hari" punya dasar. Namun, perhitungannya kurang bersahabat dibandingkan framing yang disiratkan:

• Bobot BF16 — 3,1 GB di disk, dan kurang lebih sama besar saat berada di memori setelah dimuat, sebelum ada KV cache atau aktivasi visi • Q8_0 GGUF — 1,08 GB bobot, ditambah proyektor visi 0,90 GB pada pengaturan kompresi 4×, atau 1,11 GB pada 16× • Q4_K_M GGUF — 0,67 GB bobot, dengan overhead proyektor yang sama • Proyektor visi — inilah bagian yang sering dilupakan; ukurannya tidak menyusut mengikuti kuantisasi model bahasa, dan biayanya dihitung sekali per model yang dimuat • Konteks — hingga 262.144 token secara teoritis; setiap token KV cache adalah memori tambahan yang tidak dianggarkan oleh kartu model

Build Q4 dengan proyektor 16× mencapai sekitar 1,8 GB bobot. Tambahkan KV cache yang berfungsi untuk beberapa ribu token percakapan dan placeholder gambar, dan Anda meminta aplikasi untuk menyediakan sesuatu di kisaran 2,2–2,8 GB. Di Pro Max 12GB itu nyaman. Di iPhone 8GB, tempat sistem operasi dan setiap aplikasi lain yang menetap sudah bersaing untuk pool yang sama, aplikasi yang meminta 2,5 GB meminta sebagian besar dari yang tersisa. iOS akan memberikannya, atau akan menjetsam aplikasi itu di bawah tekanan.

Mengapa baris RAM pada iPhone adalah spesifikasi yang sesungguhnya

Apple tidak memublikasikan RAM iPhone dalam spesifikasi pemasarannya, dan Apple tidak pernah mendorong pengembang untuk memperlakukan ponsel sebagai komputer yang memorinya dapat dialamati. Itulah kendala yang dihadapi klaim "melampaui Pro Max 12GB". Tingkat Pro Max, selama beberapa generasi, telah membawa memori lebih besar daripada model standar, dan kesenjangan antara "ponsel dalam video ulasan" dan "ponsel di saku pembaca" justru merupakan kesenjangan yang menjadi tumpuan narasi on-device model ini.

Versi jujur dari klaim itu lebih sempit dan tetap menarik: model visi 1B yang dulunya membutuhkan laptop atau ponsel kelas atas kini muat dalam anggaran memori ponsel kelas menengah, jika Anda menggunakan kuantisasi 4-bit dan menerima konteks yang lebih pendek. Itu adalah penurunan nyata dalam kelas perangkat keras. Ini tidak sama dengan "berjalan di setiap iPhone," dan perbedaannya layak dinyatakan dengan jelas karena itu menentukan apakah pembaca dapat merilisnya.

Kartu model tidak menyelesaikannya. Dokumen itu mendokumentasikan dukungan iOS, Android, dan HarmonyOS, dukungan chip day-0 dari Rockchip, Houmo, Intel, AMD, dan Arm, serta menautkan ke repositori penerapan edge dengan aplikasi dan kode sumber. Tidak di mana pun dokumen itu mencantumkan memori perangkat minimum, matriks perangkat yang telah diuji, atau laju token per perangkat untuk model 1B. Satu-satunya perangkat yang disebutkan dalam aset demo model 1B itu sendiri adalah iPhone 17 Pro Max — perangkat yang sama dengan judul utama 35B.

Apa yang sebenarnya menjadi keunggulan model ini, pada 1B

Alasan ini layak diperhitungkan dari sisi memori adalah bahwa model 1B yang melakukan pemahaman dokumen dan layar di ponsel merupakan kategori produk yang berbeda dari chatbot. Artinya, struk, formulir, menu, label, atau tangkapan layar dapat diubah menjadi teks terstruktur tanpa perjalanan bolak-balik melalui jaringan — tanpa unggah, tanpa biaya per gambar, tanpa batas latensi yang ditentukan oleh menara seluler.

Angka 1B yang dipublikasikan OpenBMB, semuanya dilaporkan vendor dan belum ada yang direproduksi secara independen pada saat penulisan ini, menempatkan OCRBench pada 86,1, MathVista pada 74,3, CharXiv Reasoning pada 48,8, LongVideoBench pada 53,4 dan MotionBench pada 54,55. Perbandingan utama vendor adalah terhadap Q​wen3.5 0.8B, yang menurutnya lebih unggul baik pada skor keseluruhan maupun efisiensi inferensi, dan terhadap MiniCPM-V 4.6, yang menurutnya mengalami peningkatan di seluruh kemampuan inti. Itu adalah benchmark milik vendor sendiri, dijalankan oleh vendor, dan kartu model menyajikannya sebagai grafik alih-alih tabel dengan detail harness.

Dua detail arsitektural lebih penting daripada skor bagi siapa pun yang benar-benar menerapkan ini:

• Kompresi token visual campuran 4×/16× — pemanggil memilih per permintaan apakah sebuah gambar menjadi urutan token yang terperinci atau yang lebih murah, sehingga pindaian struk dan thumbnail dapat berbagi satu deployment • Kompresi awal intra-ViT, diadopsi dari LLaVA-UHD v4 — token visual dipotong di dalam encoder visi, bukan setelahnya, dan inilah yang membuat jalur 4× terjangkau sejak awal • Pemotongan — gambar resolusi tinggi dipecah menjadi ubin 448×448 ditambah gambaran keseluruhan resolusi rendah, dengan jumlah irisan sebagai parameter runtime (kartu merekomendasikan 36 untuk gambar, 1 untuk video) • Pengambilan sampel video — max_num_frames default-nya 128, dan stack_frames menggabungkan subframe menjadi grid, yang memungkinkan ponsel memproses rekaman layar tanpa menyimpan setiap frame di memori

Untuk kasus penggunaan struk yang disebutkan dalam prompt, pipeline-nya adalah: tangkap, downscale ke sekitar 980 piksel pada sisi panjang, jalankan pada 4× dengan jumlah slice yang tinggi, dan minta output terstruktur. Jalur 4× pada 36 slice adalah pengaturan yang mahal; jalur 16× kira-kira seperempat token dan di situlah ponsel tetap responsif. Apakah 16× cukup untuk membaca struk termal adalah pertanyaan yang hanya dapat dijawab oleh gambar Anda sendiri, dan tidak ada benchmark terbitan di kartu yang melaporkan akurasi OCR berdasarkan mode downsample.

Kesenjangan antara "demo" dan "app"

Tiga hal masih menjadi penghalang antara demo yang berfungsi dan aplikasi iOS yang siap dirilis, dan tidak satu pun dari ketiganya adalah bobot model.

Yang pertama adalah soal pengemasan. Model ini tersedia dalam format Transformers, GGUF, AWQ, GPTQ, dan int4. Hanya GGUF yang memiliki runner on-device yang matang di iOS — llama.cpp dan kerabatnya — dan hanya repositori GGUF yang membawa file proyektor visi terpisah (mmproj) yang dibutuhkan jalur multimodal. Jika Anda memulai dari checkpoint BF16 dengan harapan bisa langsung dipakai sebagai satu file, Anda akan menemukan bahwa proyektor adalah artefak kedua dengan ukurannya sendiri.

Yang kedua adalah anggaran termal. Model 1B yang menghasilkan beberapa ratus token adalah beban kerja burst; model 1B yang melakukan OCR pada halaman 36-slice adalah beban kerja berkelanjutan. GIF demo vendor adalah rekaman layar, bukan jejak termal. Tidak ada angka yang dipublikasikan di kartu yang memberikan token berkelanjutan per detik di ponsel mana pun, yaitu angka yang menentukan apakah aplikasi pemindai terasa instan pada dokumen ketiga atau ketiga puluh.

Yang ketiga adalah bagian lain dari stack Anda. Inferensi di perangkat menangani gambar. Ini tidak menangani bagian ketika Anda merekonsiliasi struk hasil ekstraksi dengan buku besar, mengeskalasi baris yang ambigu ke model yang lebih besar, atau melakukan fallback ketika ponsel sudah cukup tua sehingga aplikasi menolak memuat bobot. Itulah batas tempat router memperoleh tempatnya, bukan menggantikan apa pun: OrcaRouter menempatkan lebih dari 200 model yang dihosting di belakang satu endpoint yang kompatibel dengan OpenAI dengan markup 0%, meneruskan harga daftar setiap penyedia secara langsung, dengan failover otomatis dan DSL routing untuk konfigurasi primer-dan-fallback. Ekstraktor di sisi ponsel dapat menyerahkan kasus-kasus yang tidak pastinya ke model visi yang dihosting, dan kunci yang sama membawa kedua jalur. MiniCPM-V 4.7 1B sendiri tidak ada dalam katalog itu — ini adalah checkpoint yang Anda jalankan sendiri — jadi router adalah jalur eskalasi, bukan cara untuk memanggil model ini.

Pola rilis senyap, dan mengapa pola ini terus menimbulkan kebingungan ini

MiniCPM-V 4.7 hadir tanpa acara peluncuran. Repositori 35B-A3B muncul pada 6 Oktober 2026 tanpa model card sama sekali — kartunya baru muncul enam hari kemudian bersamaan dengan catatan rilis bertanggal. Model 1B mengikuti pola yang sama: repositori lebih dulu, dokumentasi menyusul, dan komunitas yang menemukannya sepanjang proses. Di sela-sela itu, liputan diisi dari artefak apa pun yang tersedia, itulah sebabnya tulisan-tulisan awal menggambarkan model MoE 35B lalu harus direvisi ketika 1B dan kartunya muncul.

Ini bukan kritik terhadap rekayasa OpenBMB. Ini adalah deskripsi tentang bagaimana informasi mengenai model ini menyebar, dan itulah alasan klaim seperti "berjalan di iPhone sehari-hari" dapat menyebar lebih cepat daripada angka memori yang membatasi klaim tersebut. Repositori adalah sumber utama. Kartu model adalah sumber utama. Tangkapan layar pengembang atas aplikasi yang berjalan di ponsel mereka adalah titik data, bukan spesifikasi.

Apa yang harus dilakukan dengan ini, secara konkret

Jika Anda memiliki Pro Max atau iPad. Unduh Q8_0 GGUF dan proyektor 16×, jalankan melalui llama.cpp atau Ollama, dan uji dokumen Anda sendiri pada kedua pengaturan downsample. Anda akan mendapatkan jalur OCR lokal dan QA gambar yang berfungsi dalam waktu satu sore, dan model 1B cukup kecil sehingga Anda dapat membiarkannya tetap aktif bersama aplikasi lain.

Jika Anda memiliki iPhone standar. Mulailah dengan Q4_K_M dan proyektor 16×, batasi jumlah slice pada nilai yang moderat, lalu ukur. Perhitungan memori menunjukkan bahwa ini seharusnya muat; perilaku termal dan jetsam selama penggunaan berkelanjutan adalah bagian yang belum pernah dipublikasikan siapa pun. Ujilah pada perangkat tertua yang ingin Anda dukung, bukan yang terbaru.

Jika Anda sedang membangun sebuah produk. Perlakukan model di perangkat sebagai jalur cepat dan model yang di-hosting sebagai jalur kebenaran. Eskalasi adalah keputusan perutean, dan membangunnya sejak hari pertama lebih murah daripada menambahkannya belakangan setelah tiket dukungan pertama tentang struk yang salah dibaca oleh ponsel.

Klaim yang memulai artikel ini — bahwa model multimodal 1B kini berjalan di ponsel di bawah kelas Pro Max — masuk akal secara aritmetika memori dan belum terbukti dalam catatan yang dipublikasikan. Itu adalah keadaan yang normal bagi model yang masih sangat baru ini, dan itu menjadi alasan untuk menguji daripada menunggu. Bobotnya Apache 2.0, kuantisasinya sudah tersedia, dan satu-satunya hal yang menghalangi Anda mendapatkan jawaban adalah satu sore dengan perangkat keras Anda sendiri.

Intinya: MiniCPM-V 4.7 1B adalah model visi Apache-2.0 yang nyata dan terdokumentasi, yang berukuran sekitar 1,8 GB pada Q4 bersama proyektor visinya — cukup kecil sehingga ponsel kelas menengah menjadi target yang kredibel, bukan hanya Pro Max 12GB. Vendor belum menerbitkan matriks perangkat atau angka memori minimum, dan klaim "iPhone sehari-hari" berasal dari laporan pengembang, bukan dari kartu model. Ujilah pada perangkat Anda sendiri sebelum Anda membuat rencana berdasarkan hal itu.