Gemma 4 12B: Bên trong mô hình 12B không dùng Encoder của Google

Gemma 4 12B là thành viên cỡ trung của gia đình Gemma 4 đến từ DeepMind: một mô hình trọng số mở, dày đặc với 11,95 tỷ tham số, đọc được văn bản, hình ảnh, âm thanh và các khung hình video rồi viết ra văn bản, và quyết định kỹ thuật mang tính định hình của nó là việc nó hoàn toàn không mang theo bộ mã hóa đa phương thức nào. Nó nằm giữa Gemma 4 E4B vốn hướng tới thiết bị biên và Gemma 4 26B A4B lớn hơn, thưa hơn. Ghi chú ra mắt định vị công việc của nó là đưa các tác vụ đa phương thức dạng tác nhân lên laptop — suy luận, sử dụng công cụ, viết mã và hiểu tài liệu hay màn hình, chạy ngay trên chính chiếc máy trước mặt bạn thay vì qua một kết nối bị tính phí theo lưu lượng. Đây cũng là kích cỡ chiếm trọn dấu vết trực tuyến hiện có của cả gia đình này trên trang của chúng tôi: có ba trang so sánh được viết về nó, và cho đến trang này thì chưa hề có trang nào nói về chính mô hình đó.

Sự đảo ngược đó đáng được gọi tên ngay từ đầu, vì nó giải thích hình dạng của mọi thứ bên dưới. Độc giả không tiếp cận Gemma 4 12B theo cách họ tiếp cận một mẫu flagship. Họ tiếp cận từ phía bên, thường là từ một trang so sánh đối đầu, thường vì câu hỏi thật sự là kích cỡ nào của Gemma 4 — và họ muốn biết vế bên trái của phép so sánh thực sự là gì trước khi bỏ một lượt tải về cho nó. Các lượt tìm kiếm mà chúng tôi đo lường cho tên này chủ yếu mang tính so sánh; bản thân thuật ngữ trần thì mỏng. Vậy nên đây là một trang tham chiếu: 12B là gì, thẻ mô hình của nó ghi gì, cần gì để chạy, giấy phép của nó cho phép điều gì, và trong ba so sánh hiện có, cái nào đã trả lời sẵn câu hỏi mà bạn mang đến.

Đây không phải là một câu chuyện ra mắt, và cũng không nên được đọc như vậy. Gemma 4 12Bđã ra mắt vào ngày 3 tháng 6 năm 2026 — tức 132 ngày trước trang này — và không có gì về mô hình thay đổi trong bảy ngày trước khi xuất bản. Ngày đó đến từ ghi chú phát hành của chính nhà cung cấp, và ở đây nó được dùng để định vị mô hình trong dòng thời gian chứ không phải để công bố mô hình.

12B là gì và nó khác 26B A4B ở điểm nào

Gia đình Gemma 4 có năm kích cỡ, và chúng không phải là năm điểm trên một đường thẳng. Thẻ mô hình liệt kê chúng là E2B, E4B, 12B Unified, 26B A4B và 31B, và chúng chia thành hai kiến trúc: ba mô hình dense và một mixture-of-experts, với các kích cỡ E sử dụng embedding theo từng lớp để thu nhỏ những gì thực sự chạy trên thiết bị.

Gemma 4 12B là một mô hình dense. Model card cho biết mô hình có tổng cộng 11,95B tham số trải trên 48 lớp, với cửa sổ trượt 1.024 token và ngữ cảnh 256K token. Gemma 4 26B A4B thì ngược lại, là mô hình mixture-of-experts của dòng này: tổng 25,2B tham số nhưng chỉ 3,8B tham số hoạt động cho mỗi token, trải trên 30 lớp với 8 chuyên gia hoạt động trong số 128 chuyên gia cộng thêm một chuyên gia chia sẻ. Chữ “A” đó chính là toàn bộ ý nghĩa của cái tên — mô hình mang trong mình 26B trọng số nhưng chỉ phải tính khoảng 4B trong số đó ở mỗi lượt lan truyền xuôi, nhờ vậy model card mô tả nó chạy gần nhanh như một mô hình 4B mà vẫn nắm giữ lượng kiến thức lớn hơn nhiều.

Vậy nên, cách phân biệt thẳng thắn gói gọn trong một câu là thế này. 26B A4B là kích cỡ bạn chọn khi muốn năng lực tối đa trên mỗi đơn vị độ trễ và bạn có một máy trạm hoặc máy chủ để chạy nó. 12B là kích cỡ bạn chọn khi cỗ máy là laptop và ngân sách bộ nhớ là 16GB. Ghi chú ra mắt mô tả 12B như cầu nối giữa E4B và 26B A4B, và bảng thông số xác nhận điều đó.

Điểm khác biệt thú vị hơn nằm ở kiến trúc, và đó là lý do 12B được gắn nhãn "Unified" thay vì chỉ "Dense". Mọi mô hình đa phương thức khác trong họ đều định tuyến hình ảnh và âm thanh qua các bộ mã hóa chuyên dụng trước khi chuyển kết quả cho mô hình ngôn ngữ — thẻ liệt kê một bộ mã hóa thị giác ~150M và một bộ mã hóa âm thanh ~300M trên các E-sizes, cùng một bộ mã hóa thị giác ~550M trên cả 31B và 26B A4B. 12B không có bộ mã hóa nào trong hai loại đó; cột dành cho tham số bộ mã hóa thị giác và âm thanh trên 12B đều ghi là dấu gạch ngang trong cả hai trường hợp.

Thứ thay thế chúng thì nhỏ. Bài đăng ra mắt mô tả thị giác như một mô-đun nhúng nhẹ — một phép nhân ma trận duy nhất cộng với embedding vị trí và chuẩn hoá — và âm thanh như việc loại bỏ hoàn toàn bộ mã hoá và chiếu tín hiệu thô vào cùng không gian chiều với các token văn bản. Các patch ảnh thô và dạng sóng âm thanh đi thẳng vào một transformer chỉ có bộ giải mã. Lợi ích được nêu là độ trễ đa phương thức thấp hơn và khả năng tinh chỉnh toàn bộ mọi thứ trong một lần, trên nhiều phương thức, với một bộ điều hợp duy nhất thay vì một bộ cho mỗi bộ mã hoá.

Đó cũng là lý do 12B là Gemma cỡ trung đầu tiên có đầu vào âm thanh gốc. Trên thẻ, "Văn bản, Hình ảnh, Âm thanh" là hàng phương thức cho E2B, E4B và 12B; còn 31B và 26B A4B chỉ được đánh dấu "Văn bản, Hình ảnh".

Đặc tả, như model card đã nêu

Mọi nội dung trong phần này đều lấy từ thẻ mô hình Gemma 4 trên ai.google.dev, vốn bao quát toàn bộ dòng mô hình chứ không chỉ riêng 12B. Ở những chỗ thẻ mô hình không đề cập, điều đó được ghi chú lại thay vì được tự ý bổ sung.

• Độ dài ngữ cảnh — 256K token trên 12B. Thẻ ghi rõ cách phân chia: các mô hình nhỏ (E2B, E4B) có 128K, các mô hình trung bình (12B, 26B A4B, 31B) có 256K.

• Phương thức — đầu vào văn bản, hình ảnh và âm thanh; đầu ra văn bản. Thẻ liệt kê video như một khả năng của dòng sản phẩm được xử lý dưới dạng chuỗi khung hình, và mô tả đầu vào hình ảnh ở tỷ lệ khung hình và độ phân giải thay đổi trên mọi kích cỡ.

• Tổng số tham số — 11.95B, dense, 48 lớp. Thẻ không đưa ra tham số hoạt động vì không có tham số nào để kích hoạt.

• Cửa sổ trượt — 1.024 token, gấp đôi mức 512 mà các kích thước E sử dụng.

• Từ vựng — 262K, dùng chung cho cả năm kích thước.

• Attention — một dạng hybrid xen kẽ attention cửa sổ trượt cục bộ với attention toàn cục đầy đủ, trong đó lớp cuối cùng luôn là toàn cục. Các lớp toàn cục sử dụng keys và values hợp nhất cùng RoPE tỉ lệ để hạn chế bộ nhớ ở ngữ cảnh dài.

• Ngôn ngữ — được huấn luyện trước trên hơn 140 ngôn ngữ, với thẻ tuyên bố hỗ trợ sẵn dùng cho hơn 35 ngôn ngữ.

Hai con số đáng để dung hòa, vì chúng trông như một sự bất đồng mà thực ra không phải. Thẻ mô hình ghi 256K token; trang mô hình của Artificial Analysis cho Gemma 4 12B ghi 262k. Đó là cùng một con số được viết theo hai cách — 262.144 token chính là 256K — và con số từ vựng 262K trên thẻ nằm ngay bên cạnh chính là thứ khiến cặp này thoạt nhìn có vẻ mâu thuẫn.

Trên các benchmark, model card công bố một bảng tổng hợp cho các checkpoint đã tinh chỉnh theo chỉ dẫn, và đây là những con số do nhà cung cấp báo cáo, không phải số liệu độc lập. Đối với Gemma 4 12B thẻ này liệt kê 77,2% trên MMLU Pro, 78,8% trên GPQA Diamond, 77,5% trên AIME 2026 khi không dùng công cụ, 72,0% trên LiveCodeBench v6, ELO Codeforces là 1659, 69,1% trên MMMU Pro và 43,4% trên MRCR v2 ở 128K với tám needle. Cùng bảng đó cũng đặt Gemma 4 26B A4B ở mức 82,6% MMLU Pro, 88,3% AIME, 77,1% LiveCodeBench và 44,1% MRCR — dẫn trước ở hầu hết các dòng, đúng như kỳ vọng ở một mô hình lớn hơn, và đủ sát ở một vài dòng để thấy rằng khoảng cách về kích thước không phải là toàn bộ câu chuyện.

Đánh giá độc lập từ Artificial Analysis chỉ có một điểm nhấn duy nhất: điểm Intelligence Index là 14, xếp thứ 20 trong số 141 mô hình trong cùng nhóm so sánh, với tốc độ đầu ra đo được là 110,9 token mỗi giây và chi phí hỗn hợp là 0,10 USD cho mỗi triệu token đầu vào và 0,30 USD cho mỗi triệu token đầu ra. Những con số chi phí đó là trung vị trên các nền tảng bên thứ ba cung cấp các trọng số mở, không phải giá niêm yết của nhà cung cấp — điều này đáng để nói cho thật chính xác, vì nhà cung cấp hoàn toàn không công bố giá trên mỗi token cho 12B trên model card.

Chạy nó: những gì nó thực sự cần

Bài đăng ra mắt đưa ra yêu cầu chính một cách trực tiếp: 12B "đủ nhỏ để chạy cục bộ chỉ với 16GB VRAM hoặc bộ nhớ hợp nhất." Các kích thước lượng tử hóa được công bố cho nó khiến điều đó trở nên cụ thể.

• Độ chính xác đầy đủ — checkpoint được tinh chỉnh theo hướng dẫn trên Hugging Face là một tệp safetensors 23,92 GB duy nhất. Ở bfloat16, đó là kích thước trọng số thô, chưa tính bất kỳ KV cache nào, nên một máy 16GB không thể chứa nó và một card 24GB thì khá eo hẹp.

• Các bản dựng lượng tử hóa của chính nhà cung cấp — vì mô hình 12B được phát hành với huấn luyện nhận biết lượng tử hóa thay vì chỉ có một bộ lượng tử hóa hậu kiểm. Nhà cung cấp công bố một QAT GGUF khoảng 6,98 GB cho trọng số, cộng thêm tệp chiếu đa phương thức 0,18 GB, và một bản dựng compressed-tensors QAT (w4a16) ở 10,26 GB. Ngoài ra còn có một checkpoint QAT chưa lượng tử hóa được công bố riêng như là nền tảng để tinh chỉnh trước khi lượng tử hóa lại.

• GGUF cộng đồng — bản dựng Unsloth được nhân bản rộng rãi có kích thước từ khoảng 4,2 GB ở mức 2-bit tích cực nhất, qua 6,38 GB ở IQ4_XS, 7,12 GB ở Q4_K_M, 8,41 GB ở Q5_K_M và 12,67 GB ở Q8_0. Bản sao LM Studio phát hành Q4_K_M ở 7,38 GB, Q6_K ở 9,79 GB và Q8_0 ở 12,67 GB, mỗi bản đều có cùng tệp chiếu 0,18 GB.

• MLX — bản dựng lượng tử hóa 8-bit cho Apple silicon có dung lượng khoảng 12,7 GB trải trên ba tệp; một bản dựng cộng đồng 4-bit của bản tinh chỉnh cho lập trình có dung lượng gần 6,7 GB.

Đọc cùng nhau, đó là câu trả lời thực tế cho câu hỏi "liệu cái này có vừa không." Một bản dựng 4-bit của Gemma 4 12B khoảng 7 GB là phiên bản khiến một chiếc laptop 16GB chạy được, đúng như nhà cung cấp tuyên bố. Nếu bạn muốn mô hình ở dạng không lượng tử hóa, mục tiêu là card 24GB hoặc hơn, và nếu bạn muốn ngữ cảnh đầy đủ 256K, bạn cần dư dung lượng trên nền tảng trọng số cho bộ nhớ đệm.

Hai điều mà các nguồn không cung cấp cho bạn, và trang này cũng sẽ không tự bịa ra. Không có con số thông lượng nào được nhà cung cấp công bố cho suy luận cục bộ — 110,9 token mỗi giây từ Artificial Analysis là phép đo trên hạ tầng của bên thứ ba, không phải con số trên laptop, và hai thứ đó không thể thay thế cho nhau. Và không có bảng RAM tối thiểu được công bố theo từng mức lượng tử hóa; các kích thước ở trên là kích thước tệp, tức là mức sàn, chứ không phải yêu cầu.

Điều mà thẻ mô hình thực sự ghi lại là toàn bộ chuỗi công cụ xung quanh, chứ không phải bất kỳ runtime duy nhất nào được ưu ái: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM và Unsloth cho suy luận và tinh chỉnh, cùng với LM Studio, Ollama và LiteRT-LM là các lối triển khai cục bộ được đóng gói sẵn, và trọng số trên Hugging Face và Kaggle. 12B cũng đi kèm các drafter dự đoán nhiều token, được công bố dưới dạng các checkpoint trợ lý riêng — một bản tải xuống bổ sung nhỏ, dùng thêm bộ nhớ để đổi lấy độ trễ thấp hơn.

Một sự thật về định tuyến, được nói thẳng vì đây chính là kiểu điều mà một trang so sánh thường để mập mờ: Gemma 4 12B không phải là một mô hình mà OrcaRouter phục vụ, dù viết theo bất kỳ cách nào — không phải chỉ mỗi cái tên, không phải một biến thể gắn ngày, cũng không phải một bản lượng tử hóa. Các kích thước Gemma 4 mà chúng tôi định tuyến là 26B A4B và 31B. Vì vậy, nếu bạn muốn gọi mô hình này, tự host trọng số hoặc dùng một nhà cung cấp bên thứ ba có phục vụ chúng là hướng đi; nếu bạn không muốn tự chạy nó, bước tiếp theo trung thực là kiểm tra xem một kích thước khác trong cùng dòng mô hình có mang lại cho bạn điều bạn cần hay không.

Giấy phép, cụ thể là cho kích cỡ này

Thẻ mô hình Gemma 4 ghi giấy phép là Apache 2.0 và liên kết đến trang giấy phép Gemma 4, nơi cung cấp văn bản Apache 2.0 — giấy phép Apache tiêu chuẩn, không có giới hạn sử dụng, không có ngưỡng người dùng hoạt động hàng tháng và không có gói thương mại riêng. Kho lưu trữ Hugging Face cho checkpoint 12B được tinh chỉnh theo hướng dẫn mang cùng tuyên bố trong siêu dữ liệu của nó và trỏ đến cùng URL giấy phép. Vậy nên với kích cỡ này, câu hỏi về giấy phép có câu trả lời ngắn: hãy sử dụng, sửa đổi, phân phối lại nó, cho mục đích thương mại hay bất kỳ mục đích nào khác, theo các điều khoản của Apache 2.0.

Có hai tài liệu kèm theo tồn tại song song với nó và đáng để biết đến thay vì nhầm lẫn với giấy phép. Nhà cung cấp công bố một trang Điều khoản Sử dụng Gemma và một Chính sách Sử dụng Bị cấm của Gemma. Chính sách sử dụng bị cấm là một tài liệu về hành vi liệt kê các loại đầu ra mà mô hình không được phép dùng để tạo ra. Đó là một chính sách, không phải một hạn chế giấy phép đối với trọng số — bản thân trọng số là Apache 2.0, chính điều đó mới khiến cho các bản phái sinh cộng đồng của mô hình này có thể tồn tại được. Nếu bạn đang phân phối lại Gemma 4 12B hoặc một bản tinh chỉnh của nó, thì giấy phép là thứ điều chỉnh việc phân phối lại của bạn; còn chính sách là thứ điều chỉnh việc sử dụng được chấp nhận.

Sự phân biệt đó trả lời câu hỏi mà hệ sinh thái phái sinh của cộng đồng đặt ra, mà không cần mô tả đặc điểm hành vi của bất kỳ ai. Bởi vì các trọng số được mở theo một giấy phép cấp phép thoáng, các bên thứ ba có thể và thực sự công bố các bản tinh chỉnh và lượng tử hóa của 12B — các biến thể abliterated, các bản tinh chỉnh theo lĩnh vực, các công thức lượng tử hóa thay thế. Điều mà giấy phép cho phép là việc phân phối lại những phái sinh đó; giấy phép cũng là lý do khiến chúng tồn tại.

Ba so sánh mà trang này nằm phía sau

Tất cả ba trang đang hoạt động dưới nhánh này đều là các màn đối đầu, và mỗi trang đã trả lời một câu hỏi khác nhau. Trang này không phân xử bất kỳ trang nào trong số đó — nó chính là thứ mà chúng mô tả.

• Gemma 4 12B so với Gemini 3.5 Flash-Lite — làm rõ điều gì xảy ra khi cả hai lựa chọn đều thuộc về nhà cung cấp và trục so sánh là cách bạn trả tiền: một mô hình bạn tải về theo Apache 2.0 đối đầu với bậc tính phí theo lưu lượng rẻ nhất của API được lưu trữ.

• Gemma 4 12B vs GLM 5.2 — làm rõ cặp đối đầu vô cùng bất đối xứng: một mô hình 12B không dùng encoder mà bạn có thể chạy trên laptop, đối lại với một mixture-of-experts trọng số mở 744 tỷ tham số được xây dựng cho lập trình tác tử tầm xa với mức giá cao gấp nhiều lần.

• Gemma 4 12B so với Qwen3.8 Max — giải quyết trực tiếp câu hỏi giữa chạy trên thiết bị và thuê dịch vụ: một cỗ máy trên bàn làm việc của bạn đối đầu với mô hình chủ lực của cùng phòng thí nghiệm đó được cung cấp theo từng token.

Nếu điều bạn thực sự muốn là một trong các kích cỡ Gemma 4 khác thay vì một cuộc so tài 12B khác, thì trang bao quát cả năm cùng lúc là family hub, nơi E2B, E4B, 26B A4B và 31B được mô tả cùng nhau. Và nếu bạn đã quyết định rằng 12B không phải kích cỡ phù hợp, thì những mô hình mà nó thường được đem ra so sánh nhất — GLM 5.2, Qwen3.8 Max và Gemini 3.5 Flash-Lite — đều có thể truy cập được thông qua OrcaRouter chỉ với một khóa, với mức tăng giá 0% trên giá niêm yết của chính nhà cung cấp, nên khi nhà cung cấp giảm giá, mức giảm đó sẽ có hiệu lực ở đây ngay trong ngày được công bố.

Điều gì chưa được giải quyết

Hai khoảng trống đáng được nêu rõ thay vì lấp liếm. Bảng benchmark ở trên là do nhà cung cấp báo cáo — bảng thông số và thiết lập đánh giá của chính nhà cung cấp — và dù Artificial Analysis từ đó đã chấm điểm mô hình một cách độc lập với Intelligence Index là 14, vẫn không có sự tái lập độc lập rộng rãi cho các con số theo từng benchmark, nên hãy coi các số liệu ở cấp hàng là những tuyên bố. Và không có bảng bộ nhớ theo từng mức lượng tử hóa nào được công bố cho 12B, nghĩa là câu "16GB là đủ" là một tuyên bố của nhà cung cấp với các kích thước tệp ủng hộ nó, chứ không phải một cấu hình đã được đo lường mà bạn có thể sao chép.

Bản thân mô hình thì dễ định vị: một mô hình đa phương thức 12 tỷ tham số, không dùng encoder, theo giấy phép Apache 2.0, được ghi ngày 3 tháng 6 năm 2026, sẽ chạy trên laptop ở chế độ 4-bit và là kích cỡ Gemma 4 nhỏ nhất có âm thanh nguyên bản. Điều mà nó không phải là một mô hình có mức giá dịch vụ lưu trữ do chính bên thứ nhất đưa ra, và đó là lý do quyết định thực tế xoay quanh nó trước hết là một quyết định về phần cứng, sau đó mới là một quyết định về giá.

Nếu bạn đến đây từ một màn đối đầu và màn đối đầu đó không phải là cái bạn cần, thì trang tiếp theo chính là so sánh khớp với câu hỏi của bạn, và nếu vẫn không có thì là cả dòng Gemma 4 rộng hơn — 12B chỉ là một trong năm kích cỡ, và kích cỡ bạn thực sự muốn có thể là 26B A4B mà bạn có thể gọi ngay hôm nay, hoặc 31B mà bạn có thể chạy ở mức cao nhất trong dải của dòng này.