Granite Switch 4.1 8B so với Gemma 4 12B: Các chuyên gia được kết hợp hay một mô hình thống nhất?

Hỏi hai phòng thí nghiệm cách xây dựng một mô hình có thể trò chuyện, đọc ảnh chụp màn hình và phiên âm ghi chú thoại, bạn sẽ nhận được những câu trả lời trái ngược. Granite Switch 4.1 8B, do IBM phát hành vào ngày 14 tháng 10 năm 2026, giữ nguyên một mô hình văn bản 8B đóng băng và gắn những bộ điều hợp nhỏ có thể chuyển đổi vào nó, nên bộ kiểm tra an toàn, bộ máy ra quyết định và bộ nhận dạng giọng nói đều là các phần gắn thêm trên một xương sống dùng chung. Gemma 4 12B, do Google công bố vào ngày 23 tháng 5 năm 2026, làm điều ngược lại: một mô hình 11,95 tỷ tham số được huấn luyện ngay từ đầu trên văn bản, hình ảnh và âm thanh, không cần bộ mã hóa riêng để đấu nối. Cả hai đều theo Apache-2.0, đều chạy trên một GPU duy nhất, và chúng bất đồng về gần như mọi thứ bên dưới.

Phiên bản thực dụng, trước khi đi vào chi tiết: Gemma 4 12B là lựa chọn chín muồi cho bất cứ thứ gì cần thấy, vì nó đã công khai được năm tháng, có lượng cài đặt thực sự lớn, và đường xử lý đa phương thức của nó được huấn luyện chứ không phải ghép nối. Granite Switch 4.1 8B là lựa chọn thú vị cho bất cứ thứ gì cần quyết định hoặc chạy một endpoint thay vì ba, và nó mới ra đời được hai ngày, chưa có đánh giá độc lập nào. Đó không phải là những kết luận cạnh tranh nhau — chúng là câu trả lời cho những câu hỏi khác nhau, và phần còn lại của bài viết này là chi tiết giúp bạn nhận ra câu hỏi nào bạn thực sự đang có.

Sự chia tách kiến trúc, được trình bày một cách đơn giản

Granite Switch 4.1 8B là một tổ hợp. Nền tảng là Granite 4.1 8B — 40 lớp, kích thước ẩn 4.096, 32 head truy vấn so với 8 head KV, cửa sổ 131.072 token, vốn từ 100.352 token mà hai adapter mở rộng thêm đúng ba id dự trữ. Bên trên là hai adapter LoRA được kích hoạt, guardian-core ở rank 16 trên các phép chiếu attention và decision ở rank 64 trên cả bảy phép chiếu đó, cộng thêm Granite Speech 5.0 TurboCTC, một encoder conformer phi tự hồi quy 470 triệu tham số, dành cho đầu vào âm thanh. Tổng cộng: 8.776.400.896 tham số so với 8.380.551.168 của bản nền — mức tăng 4,72% cho hai adapter và một mô hình giọng nói.

Gemma 4 12B là một stack duy nhất. Cấu hình gọi nó là gemma4_unified, và cái tên này đúng nghĩa đen: hình ảnh, âm thanh và video đều có token id riêng bên trong một từ vựng 262.144 token, và card mô tả kiến trúc là encoder-free, nghĩa là không có vision tower hay audio tower riêng để đưa một projection vào mô hình ngôn ngữ. Nó xen kẽ attention cục bộ dạng cửa sổ trượt trên cửa sổ 1.024 token với attention toàn cục đầy đủ, dùng p-RoPE cho vị trí, và mở rộng tới ngữ cảnh 256K. Apache-2.0, giống như Granite.

• Tham số — Granite Switch 4.1 8B: 8.78B tổng hợp (8.38B cơ sở). Gemma 4 12B: 11.95B.

• Ngữ cảnh — 131.072 token so với 256.000 token.

• Từ vựng — 100.355 so với 262.144, trong đó từ vựng của Gemma được dành riêng cho các token hình ảnh, âm thanh và video.

• Các phương thức trong — văn bản và âm thanh so với văn bản, hình ảnh, âm thanh và video.

• Loại bỏ các phương thức — chỉ văn bản so với chỉ văn bản.

• Đầu chuyên dụng — một phân phối quyết định đã hiệu chỉnh và một bộ phân loại an toàn so với không có; Gemma trả lời, nó không chấm điểm các nhãn tùy chọn.

• Giấy phép — Apache-2.0 cho cả hai.

Nơi Gemma 4 12B giành chiến thắng tuyệt đối

Thị giác không hề gần nhau. Gemma 4 12B đọc hình ảnh native; Granite Switch 4.1 8B không có bất kỳ luồng xử lý hình ảnh nào. Nếu pipeline của bạn tiếp nhận ảnh chụp màn hình, PDF, biểu đồ hoặc ảnh chụp UI, thì cuộc so sánh chấm dứt tại đây — adapter có khéo léo đến đâu cũng không thể thay thế cho một dạng dữ liệu mà checkpoint không chấp nhận.

Thành tích đã được kiểm chứng là yếu tố thứ hai. Gemma 4 12B đã có mặt trên Hub từ ngày 23 tháng 5 năm 2026 và phiên bản instruct cùng dòng của nó đã vượt 1,6 triệu lượt tải xuống; chỉ riêng checkpoint base đã vượt 79.000. Cả hai con số đều là số lượt tải xuống trên Hub chứ không phải số liệu sử dụng, nên chúng phóng đại mức triển khai thực tế, nhưng xu hướng là không thể nhầm lẫn: có một lượng lớn người đã từng gặp các dạng lỗi của nó và viết về chúng. Granite Switch 4.1 8B, tại thời điểm viết bài, mới ra đời được hai ngày với vài chục lượt tải xuống và một vài lượt thích. Năm tháng báo cáo lỗi công khai là một tài sản bạn không thể mua được, và đó là lập luận mạnh mẽ nhất cho Gemma trên con đường sản xuất trong quý này.

Độ dài ngữ cảnh là yếu tố thứ ba, và là yếu tố âm thầm. 256K so với 131.072 không phải là một khác biệt tiếp thị khi bạn đang nạp những tài liệu dài. Cả hai mô hình đều không cần giải pháp vòng vo cho khối lượng trò chuyện điển hình, nhưng chỉ một trong hai sẽ tiếp nhận được ngữ cảnh quy mô kho mã nguồn mà không cần phân mảnh.

Những điểm Granite Switch 4.1 8B thắng tuyệt đối

Bộ điều hợp quyết định là một năng lực mà mô hình kia đơn giản là không có. Đưa cho nó một trạng thái và một câu hỏi với các tùy chọn được gán nhãn, và nó trả về một softmax đã hiệu chỉnh trên các nhãn đó trong một lượt lan truyền xuôi duy nhất — lệnh gọi được tài liệu hóa yêu cầu vLLM lấy logprobs của đúng các token id nhãn rồi lấy hàm mũ của chúng, tạo ra đầu ra có dạng A: 0.982, B: 0.0035, C: 0.014. Một mô hình đa dụng có thể được đưa prompt để chọn một nhãn, nhưng việc đưa prompt chỉ tạo ra một token, chứ không phải một phân phối mà bạn có thể đặt ngưỡng, so sánh qua các lượt, hay ghi log như một điểm số đã hiệu chỉnh. Đối với logic định tuyến, phân loại sàng lọc, ngưỡng chuyển cấp và bất cứ thứ gì cần một giá trị độ tin cậy thay vì một câu trả lời, đó là một loại đầu ra khác.

Hợp nhất về một endpoint duy nhất là điểm thứ hai. Phiên âm giọng nói chạy trên cùng endpoint với chat và các quyết định; bạn gửi một phần nội dung input_audio trong một lượt chat completion thông thường và bộ mã hoá 470M sẽ phiên âm nó trước khi ghép văn bản vào ngữ cảnh. Không cần máy chủ thứ hai, không có lớp điều phối, không có hoá đơn ASR riêng. Gemma 4 12B cũng nhận âm thanh, nên đây không phải là khoảng trống về năng lực — mà là sự khác biệt về hình dạng triển khai, và nó chỉ quan trọng nếu bạn vốn định chạy một dịch vụ giọng nói riêng song song với LLM.

Dấu chân bộ nhớ là yếu tố thứ ba. 8,78B so với 11,95B là khối lượng phải giữ ít hơn khoảng một phần tư, và thiết kế shared-KV-cache nghĩa là các adapter không phải mỗi cái tự mang trạng thái attention riêng. IBM tuyên bố mô hình kết hợp chiếm lượng VRAM gần bằng chỉ mình mô hình cơ sở; tuyên bố cụ thể đó chưa được tái lập, nhưng mức chênh lệch tham số 4,72% đằng sau nó là dữ kiện từ build manifest.

Hai tuyên bố từ phía Granite vẫn chưa phải là sự thật

Con số Decision Index được công bố chodecision bộ chuyển đổi là 42.9 tổng thể trên tập con nhanh công khai edition-v0.3 gồm 1.068 dòng, với điểm theo từng lĩnh vực là Knowledge 29.1, Language 48.9, Retrieval 49.8, Tools 59.8 và Arts 18.0. IBM đã chạy đánh giá đó và IBM đã công bố nó. Không ai khác tái lập được kết quả này, và hoàn toàn không có mục nào trên bảng xếp hạng của bên thứ ba dành cho Granite Switch. Cũng hãy đọc cả hình dạng của nó: 59.8 ở Tools nằm ngay cạnh 18.0 ở Arts là một hồ sơ chuyên biệt, chứ không phải điểm năng lực tổng quát, và thẻ mô hình nêu rõ rằng nên coi các xác suất lựa chọn như một tiên nghiệm thay vì một phân loại đã được chứng nhận trên những lĩnh vực mà bộ chuyển đổi chưa được huấn luyện.

Cái thứ hai là đường dẫn giọng nói, và đây là tuyên bố dễ bị diễn giải quá mức nhất. Bộ mã hóa chỉ dùng cho tiếng Anh, đầu ra của nó là chữ thường và không có dấu câu, và — chính theo lời IBM trong thẻ mô hình — bộ mã hóa giọng nói và LLM không được huấn luyện chung; không có phép chiếu nào đã được huấn luyện để ghép nối chúng. Đường dẫn âm thanh của Gemma 4 12B được huấn luyện như một phần của chính mô hình. Đó mới là sự khác biệt thực sự, và nó vẫn đúng bất chấp mọi lời bàn về việc hợp nhất các điểm cuối: một hệ thống có sự ghép nối đã được huấn luyện giữa âm thanh và ý nghĩa, còn hệ thống kia có một bản băng ghi lời được nối vào câu lệnh bởi một thành phần chưa từng được tối ưu hóa để làm việc với thứ đang đọc nó.

Chạy chúng song song với nhau

Cả hai checkpoint đều có thể tải xuống, cả hai đều là Apache-2.0, và cách diễn đạt trung thực là chúng thuộc về những vị trí khác nhau thay vì trong một cuộc so tài. Gemma 4 12B là thứ bạn tìm đến khi đầu vào bao gồm các pixel. Granite Switch 4.1 8B là thứ bạn tìm đến khi đầu ra cần là một xác suất, hoặc khi bạn muốn một endpoint đảm nhận chat, ra quyết định và phiên âm và sẵn sàng chấp nhận rằng nửa phiên âm là một mối nối chứ không phải là một đường dẫn được huấn luyện.

Nếu bạn đang so sánh hiệu năng giữa hai mô hình, hãy làm việc đó mà không cần đấu lại toàn bộ hệ thống của mình. OrcaRouter cung cấp hơn 200 mô hình phía sau một API key duy nhất với khả năng tự động chuyển đổi dự phòng và chuyển nguyên giá niêm yết của nhà cung cấp với mức markup 0%, nên khi giá bên phía nhà cung cấp thay đổi thì nó sẽ được cập nhật ở đây ngay trong cùng ngày, thay vì phải chờ đến lần làm mới danh mục tiếp theo. img src="4.png" alt="Ảnh chụp màn hình trang mô hình OrcaRouter của Gemma 4 26B A4B, hiển thị mô hình được gắn thẻ Vision, Tools, JSON và Reasoning với ngữ cảnh 262K token, đầu vào dạng văn bản, hình ảnh và video, ngày phát hành của Google là 2026-04-03, mức giá trên mỗi triệu token là $0.06 cho đầu vào và $0.33 cho đầu ra, thời gian đến token đầu tiên p50 là 2,74 giây, cùng phần giới thiệu mô tả Gemma 4 26B A4B IT là một mô hình mixture-of-experts được tinh chỉnh theo chỉ dẫn với tổng cộng 25,2B tham số, trong đó 3,8B được kích hoạt trên mỗi token." /> Cả hai checkpoint này đều chưa có trong danh mục của chúng tôi ở thời điểm hiện tại, và chúng tôi sẽ không giả vờ điều ngược lại — Granite Switch là một bản tải xuống từ Hugging Face và một container vLLM, Gemma 4 12B cũng vậy. Mục đích của việc đặt một ứng viên phía sau một key duy nhất là khi nó thực sự trở nên khả dụng, việc so sánh nó với mô hình hiện hành trên chính lưu lượng của bạn chỉ tốn một chuỗi mô hình, chứ không phải một cuộc di trú. Hãy xem xét một số mô hình mà chúng tôi thực sự phục vụ, chẳng hạn như Gemma 4 26B A4B, như một cầu nối: nó cùng dòng với mô hình bạn đang đánh giá, trên một endpoint được lưu trữ, ngay hôm nay.

Cái nào, cho ai

Hãy chọn Gemma 4 12B nếu khối lượng công việc của bạn có pixel trong đó, nếu ngữ cảnh 256K đóng vai trò trụ cột, hoặc nếu bạn đang phát hành trong quý này và muốn có năm tháng sai lầm của người khác nằm giữa bạn và production. Hãy chọn Granite Switch 4.1 8B nếu bạn cần một phân phối đã hiệu chỉnh trên các tùy chọn được gán nhãn thay vì một câu trả lời, nếu việc gộp chat, quyết định và giọng nói vào một endpoint giúp loại bỏ một dịch vụ khỏi kiến trúc của bạn, hoặc nếu bạn thuộc kiểu đội ngũ muốn đọc build manifest và tự tổng hợp biến thể của riêng mình — composer là công khai và danh mục adapter là mở.

Đừng chọn Granite Switch 4.1 8B cho thị giác. Nó không có khả năng đó. Và đừng chọn cả hai chỉ vì một con số benchmark mà bạn chưa tự chạy, bởi vì điểm quyết định duy nhất trong so sánh này là điểm do nhà cung cấp báo cáo, không có ý kiến thứ hai nào đằng sau — đó là nhận định về tình trạng bằng chứng, không phải về mô hình.