MiniCPM-V 4.7 1B trên một chiếc iPhone thường ngày: "Chạy vượt xa Pro Max" thực sự có nghĩa là gì

MiniCPM-V 4.7 1B là một mô hình thị giác-ngôn ngữ 1,55 tỷ tham số mà OpenBMB đã tải lên Hugging Face vào ngày 6 tháng 10 năm 2026 và ghi ngày 12 tháng 10 trong ghi chú phát hành của chính nó. Mô hình có một thẻ mô hình, mười một phiên bản lượng tử hóa anh em, một thẻ Ollama và một ứng dụng demo trên thiết bị. Điều mà nó không có là một phiên bản của câu chuyện vẫn đứng vững khi bạn tính giá phần cứng. Tuyên bố đang lan truyền trong giới phát triển — rằng mô hình hiện chạy trong ứng dụng OnDeviceLLM trên những chiếc iPhone thông thường, chứ không chỉ trên một chiếc Pro Max 12GB — là phần đáng xem xét kỹ, bởi vì "chạy trên một chiếc điện thoại" và "chạy trên điện thoại của bạn" cách nhau khoảng 3 GB dung lượng bộ nhớ dự phòng mà hầu hết iPhone không có. Những lỗi AI và sự cố tác nhân được ghi nhận đằng sau các bản phát hành như bản này được tập hợp trong OrcaRouter AI Incident Archive, nơi mỗi mục đi kèm nguồn, mức độ nghiêm trọng, xếp hạng độ tin cậy và cờ tranh chấp của riêng nó.

Đây là tình hình hiện tại, với những mối ghép lộ rõ. Mọi thứ dưới đây hoặc được đọc trực tiếp từ các tệp trọng số, từ tài liệu của chính OpenBMB, hoặc từ thông số kỹ thuật đã công bố của Apple. Khi một con số đến từ bài đăng của một nhà phát triển thay vì từ một sản phẩm có thể tái tạo, bài viết này sẽ nói rõ điều đó.

Điều gì thực sự được biết, và điều gì chỉ là tuyên bố

Mô hình là thật và có thể tải xuống. Checkpoint BF16 có 1.554.476.272 tham số, tương đương khoảng 3,1 GB trên đĩa. Kho lưu trữ có một model card đầy đủ — điều hiếm thấy trong lịch sử gần đây của dòng họ này — nêu rõ một xương sống văn bản Qwen3.5, một tháp thị giác SigLIP2 với 27 lớp ở độ rộng ẩn 1152, các ô đầu vào 980 pixel, cửa sổ ngữ cảnh 262.144 token và giấy phép Apache 2.0. Mục README của chính OpenBMB ghi ngày phát hành là 2026-10-12; kho lưu trữ Hugging Face được tạo vào 2026-10-06. Khoảng cách sáu ngày là độ trễ giữa tải lên và công bố mà dòng họ này nổi tiếng, và đó là lý do một bài viết tháng Mười vẫn có thể gọi một kho lưu trữ mới sáu ngày là một bản ra mắt âm thầm.

Điều gìkhông được xác lập bởi bất kỳ hiện vật nào chính là tuyên bố cụ thể rằng mô hình 1B chạy trong OnDeviceLLM trên "những chiếc iPhone thông dụng ngoài 12GB Pro Max". Một bài đăng của nhà phát triển là nguồn gốc của cách diễn đạt đó. Kho lưu trữ công khai của dự án OnDeviceLLM — vốn là bộ khởi đầu cho các ứng dụng trò chuyện và dịch thuật ngoại tuyến, không phải sản phẩm phát hành trên App Store — không có sao nào và được đẩy lần cuối vào ngày 27 tháng 7 năm 2026. Nó có trước trọng số MiniCPM-V 4.7 mười tuần, nên mọi hỗ trợ cho mô hình này trong đó đều là gần đây và không có tài liệu. Hãy coi "đã chạy trong OnDeviceLLM" là báo cáo từ một người đã làm được điều đó, không phải là con đường triển khai được nhà cung cấp hỗ trợ.

Sự phân biệt đó rất quan trọng vì các con số trên thiết bị của chính nhà cung cấp không hề liên quan đến 1B.

Con số 3 GB thuộc về 35B, không phải 1B

Tuyên bố nổi bật của OpenBMB — “13+ token/giây chỉ với 3 GB bộ nhớ trên iPhone 17 Pro Max” — được gắn với 35B-A3B biến thể Mixture-of-Experts, chạy trên chiếc iPhone lớn nhất mà Apple bán. Kỹ thuật đằng sau nó, Lookahead Expert Scheduling, giữ phần lớn trọng số expert trên SSD và tải trước những expert mà lớp tiếp theo có khả năng cần đến. Đây là một thành tựu kỹ thuật hệ thống ấn tượng và là lý do cái tên 35B cứ xuất hiện trong các bài viết liên quan đến điện thoại.

Mô hình 1B không cần bất kỳ điều nào trong số đó. Đây là một mô hình dense vừa vặn hoàn toàn trong bộ nhớ. Trên lý thuyết, điều đó khiến nó trở thành lựa chọn dân chủ hơn trong hai, và đó là lý do góc nhìn "iPhone thường ngày" có cơ sở. Nhưng phép tính kém thuận lợi hơn so với cách diễn đạt gợi ý:

• Trọng số BF16 — 3,1 GB trên đĩa, và chiếm dụng thường trú tương đương khi đã nạp, trước cả KV cache hay hoạt hóa thị giác • GGUF Q8_0 — 1,08 GB trọng số, cộng thêm bộ chiếu thị giác 0,90 GB ở mức nén 4×, hoặc 1,11 GB ở mức 16× • GGUF Q4_K_M — 0,67 GB trọng số, với cùng mức phụ trội bộ chiếu • Bộ chiếu thị giác — đây là phần người ta hay quên; nó không giảm theo lượng tử hóa mô hình ngôn ngữ, và được tính một lần cho mỗi mô hình được nạp • Ngữ cảnh — trên giấy lên tới 262.144 token; mỗi token trong KV cache là bộ nhớ thêm mà thẻ mô hình không dự trù

Một bản build Q4 với projector 16× có dung lượng weight vào khoảng 1.8 GB. Thêm một KV cache hoạt động được cho vài nghìn token hội thoại và placeholder hình ảnh, và bạn đang yêu cầu một ứng dụng đạt mức 2.2–2.8 GB. Trên một chiếc Pro Max 12GB thì điều đó thoải mái. Trên một chiếc iPhone 8GB, nơi hệ điều hành và mọi ứng dụng thường trú khác đã đang cạnh tranh cho cùng một bể bộ nhớ, một ứng dụng đòi 2.5 GB là đang đòi một phần lớn trong số còn lại. iOS sẽ cấp cho nó, hoặc nó sẽ jetsam ứng dụng dưới áp lực.

Vì sao dòng RAM trên iPhone mới là thông số kỹ thuật thực sự

Apple không công bố RAM của iPhone trong thông số tiếp thị, và hãng chưa bao giờ khuyến khích nhà phát triển coi chiếc điện thoại như một máy tính có thể định địa chỉ bộ nhớ. Đó là ràng buộc mà tuyên bố "vượt xa 12GB Pro Max" gặp phải. Dòng Pro Max đã qua nhiều thế hệ trang bị nhiều bộ nhớ hơn các mẫu tiêu chuẩn, và khoảng cách giữa "chiếc điện thoại trong video đánh giá" và "chiếc điện thoại trong túi của một độc giả" chính xác là khoảng cách mà câu chuyện trên thiết bị của mẫu máy này phụ thuộc vào.

Phiên bản trung thực của tuyên bố thì hẹp hơn và vẫn thú vị: một mô hình thị giác 1B từng cần laptop hoặc điện thoại cao cấp giờ đây vừa trong ngân sách bộ nhớ của một chiếc điện thoại tầm trung, nếubạn dùng lượng tử hóa 4-bit và chấp nhận ngữ cảnh ngắn hơn. Đó là một bước xuống thực sự về phân khúc phần cứng. Nó không giống với "chạy trên mọi iPhone," và sự khác biệt này đáng được nói rõ vì nó quyết định liệu người đọc có thể triển khai thứ đó hay không.

Thẻ mô hình không giải đáp được điều đó. Thẻ này ghi nhận hỗ trợ iOS, Android và HarmonyOS, hỗ trợ chip ngay từ ngày đầu từ Rockchip, Houmo, Intel, AMD và Arm, đồng thời liên kết đến một kho triển khai biên gồm ứng dụng và mã nguồn. Không nơi nào liệt kê dung lượng bộ nhớ thiết bị tối thiểu, ma trận thiết bị đã kiểm thử, hay tốc độ token trên từng thiết bị cho mô hình 1B. Thiết bị duy nhất được nêu tên trong chính các tài nguyên demo của 1B là iPhone 17 Pro Max — cũng chính là thiết bị trong tiêu đề của 35B.

Mô hình thực sự giỏi ở điểm nào, ở mức 1B

Lý do việc này đáng để tính toán bộ nhớ là vì một mô hình 1B thực hiện hiểu tài liệu và màn hình trên điện thoại là một nhóm sản phẩm khác với chatbot. Điều đó có nghĩa là một hóa đơn, một biểu mẫu, một thực đơn, một nhãn hoặc một ảnh chụp màn hình có thể được chuyển thành văn bản có cấu trúc mà không cần một vòng khứ hồi qua mạng — không tải lên, không chi phí theo từng ảnh, không có mức sàn độ trễ do trạm phát sóng di động áp đặt.

Các con số 1B được OpenBMB công bố, đều do nhà cung cấp tự báo cáo và chưa có con số nào được tái lập độc lập tính đến thời điểm viết bài này, ghi nhận OCRBench ở mức 86,1; MathVista ở mức 74,3; CharXiv Reasoning ở mức 48,8; LongVideoBench ở mức 53,4 và MotionBench ở mức 54,55. So sánh được nhấn mạnh của nhà cung cấp là với Qwen3.5 0.8B, mà theo họ, mô hình của mình vượt trội cả về điểm tổng thể lẫn hiệu quả suy luận, và với MiniCPM-V 4.6, mà theo họ, mô hình của mình cải thiện trên các năng lực cốt lõi. Đó là các benchmark của chính nhà cung cấp, do chính nhà cung cấp chạy, và model card trình bày chúng dưới dạng biểu đồ chứ không phải bảng kèm chi tiết về harness.

Hai chi tiết kiến trúc quan trọng hơn điểm số đối với bất kỳ ai thực sự triển khai hệ thống này:

• Nén token thị giác hỗn hợp 4×/16× — phía gọi chọn theo từng yêu cầu xem một hình ảnh sẽ trở thành chuỗi token chi tiết hay chuỗi token tiết kiệm chi phí, nhờ đó bản quét hóa đơn và ảnh thu nhỏ có thể dùng chung một triển khai • Nén sớm trong ViT (Intra-ViT), vay mượn từ LLaVA-UHD v4 — các token thị giác được cắt bên trong bộ mã hóa thị giác thay vì sau nó, đây chính là điều khiến chế độ 4× trở nên khả thi về chi phí ngay từ đầu • Cắt lát — hình ảnh độ phân giải cao được chia thành các ô 448×448 cùng một ảnh tổng quan độ phân giải thấp, với số lát là tham số thời gian chạy (thẻ khuyến nghị 36 cho hình ảnh, 1 cho video) • Lấy mẫu video — max_num_frames mặc định là 128, và stack_frames ghép các khung phụ thành một lưới, đây là cách một điện thoại xử lý được bản ghi màn hình mà không cần giữ mọi khung hình trong bộ nhớ

Với trường hợp sử dụng hóa đơn mà câu lệnh đề cập, quy trình là: chụp, hạ kích thước xuống khoảng 980 pixel ở cạnh dài, chạy ở 4× với số lát cắt cao, và yêu cầu đầu ra có cấu trúc. Đường 4× với 36 lát cắt là thiết lập tốn kém; đường 16× tốn khoảng một phần tư số token và là thiết lập giúp điện thoại vẫn phản hồi mượt. Liệu 16× có đủ để đọc hóa đơn in nhiệt hay không là câu hỏi chỉ hình ảnh của chính bạn mới trả lời được, và không có benchmark công bố nào trong thẻ báo cáo độ chính xác OCR theo chế độ hạ mẫu.

Khoảng cách giữa "demo" và "ứng dụng"

Có ba thứ nằm giữa một bản demo chạy được và một ứng dụng iOS sẵn sàng phát hành, và không thứ nào trong số đó là trọng số của mô hình.

Đầu tiên là khâu đóng gói. Mô hình được phát hành ở các định dạng Transformers, GGUF, AWQ, GPTQ và int4. Chỉ GGUF mới có trình chạy trên thiết bị hoàn thiện trên iOS — llama.cpp và các dự án tương tự — và chỉ kho GGUF mới chứa tệp chiếu thị giác riêng (mmproj) mà đường đa phương thức cần. Nếu bạn bắt đầu từ checkpoint BF16 với kỳ vọng dùng ngay dạng một tệp duy nhất, bạn sẽ phát hiện ra projector là một thành phần thứ hai với kích thước riêng của nó.

Điều thứ hai là ngân sách nhiệt. Một mô hình 1B tạo vài trăm token là tác vụ bùng nổ; một mô hình 1B OCR một trang 36 lát cắt là tác vụ duy trì liên tục. Ảnh GIF demo của nhà cung cấp là bản ghi màn hình, không phải dấu vết nhiệt. Không có số liệu công bố nào trong thẻ đưa ra tốc độ token mỗi giây duy trì trên bất kỳ điện thoại nào, mà đó chính là con số quyết định liệu một ứng dụng quét có cảm giác tức thì ở tài liệu thứ ba hay thứ ba mươi.

Thứ ba là phần còn lại trong ngăn xếp của bạn. Suy luận trên thiết bị xử lý phần hình ảnh. Nó không xử lý phần mà bạn đối soát hóa đơn đã trích xuất với sổ cái, chuyển một dòng không rõ ràng lên một mô hình lớn hơn, hoặc chuyển sang phương án dự phòng khi điện thoại cũ đến mức ứng dụng từ chối tải trọng số. Đó là ranh giới nơi một router khẳng định được chỗ đứng của mình thay vì thay thế bất cứ thứ gì: OrcaRouter đặt hơn 200 mô hình được lưu trữ phía sau một endpoint tương thích OpenAI với mức markup 0%, chuyển thẳng giá niêm yết của từng nhà cung cấp, với chuyển đổi dự phòng tự động và một DSL định tuyến cho các cấu hình chính-và-dự phòng. Một trình trích xuất phía điện thoại có thể giao các trường hợp không chắc chắn của mình cho một mô hình thị giác được lưu trữ, và cùng một khóa phục vụ cả hai luồng. Bản thân MiniCPM-V 4.7 1B không nằm trong danh mục đó — nó là một checkpoint bạn tự chạy — vì vậy router là đường leo thang, không phải cách để gọi mô hình này.

Mô hình phát hành âm thầm, và lý do nó cứ gây ra sự nhầm lẫn này

MiniCPM-V 4.7 xuất hiện mà không có sự kiện ra mắt. Kho lưu trữ 35B-A3B xuất hiện vào ngày 6 tháng 10 năm 2026 mà hoàn toàn không có model card — model card xuất hiện sáu ngày sau đó, cùng với ghi chú phát hành có ghi ngày. Mô hình 1B cũng theo đúng khuôn mẫu đó: kho lưu trữ trước, tài liệu sau, cộng đồng phát hiện xuyên suốt. Trong khoảng trống đó, các bài đưa tin lấp đầy bằng bất kỳ hiện vật nào hiện có, đó là lý do các bài viết ban đầu mô tả một mô hình MoE 35B và sau đó phải được chỉnh sửa khi mô hình 1B cùng model card của nó xuất hiện.

Đây không phải là lời chỉ trích công việc kỹ thuật của OpenBMB. Đây là mô tả về cách thông tin về mô hình này lan truyền, và đó là lý do một tuyên bố như "chạy trên những chiếc iPhone thông thường" có thể lan nhanh hơn những con số bộ nhớ giúp làm rõ giới hạn của nó. Kho mã nguồn là nguồn chính. Thẻ mô hình là nguồn chính. Ảnh chụp màn hình của một nhà phát triển về một ứng dụng đang chạy trên điện thoại của họ là một điểm dữ liệu, không phải là bản đặc tả.

Làm gì với cái này, một cách cụ thể

Nếu bạn có Pro Max hoặc iPad.Hãy tải Q8_0 GGUF và projector 16×, chạy qua llama.cpp hoặc Ollama, rồi kiểm thử tài liệu của riêng bạn ở cả hai cài đặt downsample. Bạn sẽ có một luồng OCR và image-QA cục bộ hoạt động được trong vòng một buổi chiều, và mô hình 1B đủ nhỏ để bạn có thể giữ nó thường trú cùng với các ứng dụng khác.

Nếu bạn có một iPhone tiêu chuẩn. Hãy bắt đầu với Q4_K_M và projector 16×, giới hạn số slice ở mức vừa phải, rồi đo đạc. Phép tính bộ nhớ cho thấy nó sẽ vừa; hành vi nhiệt và jetsam khi sử dụng liên tục là phần chưa ai công bố. Hãy thử nghiệm trên thiết bị cũ nhất mà bạn định hỗ trợ, không phải thiết bị mới nhất.

Nếu bạn đang xây dựng một sản phẩm. Hãy coi mô hình trên thiết bị là đường xử lý nhanh và mô hình trên máy chủ là đường đảm bảo tính chính xác. Việc leo thang là một quyết định định tuyến, và tích hợp nó ngay từ ngày đầu sẽ rẻ hơn so với việc bổ sung sau khi có phiếu hỗ trợ đầu tiên về một hóa đơn mà điện thoại đọc nhầm.

Tuyên bố đã khởi nguồn bài viết này — rằng một mô hình đa phương thức 1B giờ chạy được trên điện thoại dưới phân khúc Pro Max — là hợp lý về mặt tính toán bộ nhớ và chưa được chứng minh trên hồ sơ công bố. Đó là trạng thái bình thường với một mô hình còn non trẻ như vậy, và là lý do để kiểm chứng thay vì chờ đợi. Trọng số theo Apache 2.0, các bản lượng tử hóa đã có, và thứ duy nhất cản bạn đến câu trả lời là một buổi chiều với phần cứng của chính mình.

Tóm lại: MiniCPM-V 4.7 1B là một mô hình thị giác thực sự, có tài liệu công khai, giấy phép Apache-2.0, chỉ chiếm khoảng 1.8 GB ở Q4 cùng với vision projector — đủ nhỏ để điện thoại tầm trung trở thành mục tiêu khả thi chứ không chỉ riêng bản Pro Max 12GB. Nhà cung cấp chưa công bố ma trận thiết bị hay con số bộ nhớ tối thiểu, và tuyên bố "iPhone thông dụng hằng ngày" bắt nguồn từ báo cáo của nhà phát triển chứ không phải từ model card. Hãy thử nghiệm trên thiết bị của bạn trước khi lên kế hoạch dựa vào nó.