North Small Translate 1.0 so với Hy-MT2-1.8B: 218GB mô hình so với 440MB

Một trong hai cái này vừa vặn trong một chiếc điện thoại. Hy-MT2-1.8B, mô hình dịch trên thiết bị của Tencent Hunyuan, được mã nguồn mở theo Apache 2.0 vào ngày 21 tháng 5 năm 2026, thu nhỏ xuống còn 440 megabyte dưới lượng tử hóa 1,25-bit của AngelSlim và chạy trên chip điện thoại của Apple, Qualcomm và MediaTek. North Small Translate 1.0, mô hình hỗn hợp chuyên gia 218 tỷ tham số mà Cohere ghi lại trong ghi chú phát hành ngày 9 tháng 9 năm 2026, cung cấp một bộ trọng số FP8 vào khoảng 218 gigabyte và yêu cầu tối thiểu hai chiếc B200. Đó là lượng lưu trữ gấp khoảng năm trăm lần cho một trong số chúng, và câu hỏi thú vị không phải là cái nào tốt hơn — mà là mỗi cái thực sự để làm gì, và giấy phép nào cho phép bạn phát hành nó.

Khoảng cách về quy mô không phải là khoảng cách về chất lượng.

Thật dễ để coi 218B so với 1.8B như một bảng xếp hạng năng lực trực tiếp. Nhưng không phải vậy, vì hai lý do. Lý do thứ nhất là North Small Translate 1.0 là một mô hình mixture-of-experts thưa chỉ với 25 tỷ tham số hoạt động trên mỗi token, nên khối lượng tính toán trên mỗi token nằm ở một đẳng cấp khác hẳn so với số lượng tham số. Lý do thứ hai là hai mô hình được tối ưu hóa theo các mục tiêu khác nhau: mô hình 1.8B của Tencent được xây dựng đủ nhỏ để chạy ngoại tuyến trên thiết bị cầm tay, còn mô hình của Cohere được xây dựng để giữ toàn bộ tài liệu trong ngữ cảnh và dịch nó như một thể thống nhất.

Sự khác biệt đó thể hiện rõ qua các cửa sổ ngữ cảnh. Cấu hình của Hy-MT2-1.8B quảng cáo tối đa 262.144 vị trí, nhưng hướng dẫn suy luận của chính Tencent lại giới hạn sinh ở mức 8.192 token — cửa sổ làm việc thực tế là 8K. North Small Translate 1.0 ghi rõ 16K đầu vào và 16K đầu ra, tức gấp đôi cửa sổ đầu vào và quan trọng hơn, là trọn vẹn 16K đầu ra. Nếu đơn vị công việc của bạn là một cuốn sổ tay hướng dẫn bảo trì, thì ngân sách đầu ra đó chính là tính năng đáng giá. Nếu đơn vị công việc của bạn chỉ là một tin nhắn trò chuyện, thì nó chẳng có ý nghĩa gì.

• Tổng số tham số — North Small Translate 1.0: 218B MoE, 25B hoạt động so với Hy-MT2-1.8B: 1.8B dense

• Ngữ cảnh — 16K vào và 16K ra so với cửa sổ làm việc 8K (cấu hình quảng cáo tới 262.144 vị trí; hướng dẫn của Tencent ghi là 8.192)

• Ngôn ngữ — 50 (tiếng Anh + 49) so với 33 ngôn ngữ cùng 5 ngôn ngữ thiểu số và phương ngữ

• Giấy phép — CC BY-NC 4.0, thương mại qua Model Vault so với Apache 2.0, không cần phê duyệt truy cập

• Kích thước sau lượng tử hóa — FP8 ~218GB, NVFP4 W4A16 ~109GB so với 440MB ở 1,25-bit, FP8 và GGUF cũng đã được phát hành

• Phần cứng tối thiểu — 2×B200 hoặc 4×H100 ở FP8 so với một thiết bị cầm tay

Tencent thực sự đã tung ra những gì trong 1.8B

1.8B là thành viên nhỏ nhất của một dòng gồm ba mô hình — 1.8B, 7B và một mô hình chủ lực MoE 30B-A3B — tất cả được phát hành cùng nhau với một bộ đánh giá đi kèm tên là IFMTBench, đo mức độ tuân thủ chỉ dẫn dịch thuật thay vì chất lượng dịch thuật thuần túy. Tencent đã phát hành các bản lượng tử hóa FP8, GGUF, 2-bit và 1.25-bit song song với trọng số cơ sở, và phiên bản 1.25-bit chính là bản tạo ra con số 440MB và được tuyên bố tăng tốc suy luận 1.5 lần so với thế hệ Hy-MT1.5 trước đó. Việc phục vụ được hỗ trợ thông qua transformers 5.6.0 trở lên, vLLM, SGLang và llama.cpp, với đường GGUF phụ thuộc vào một kernel STQ đã được đưa vào llama.cpp. Tham số lấy mẫu được khuyến nghị là temperature 0.7, top_p 0.6, top_k 20, repetition penalty 1.05, và không có system prompt mặc định — ngược lại với cách tiếp cận của Cohere.

Ngoài ra, không giống như North Small Translate 1.0, đây là một mô hình có sự đón nhận rõ rệt. Kho lưu trữ Hugging Face đã được tải xuống hơn 23.000 lần và có khoảng 1.200 lượt thích. Kho lưu trữ chính của Cohere cho thấy 26 lượt tải xuống và không có lượt thích nào vào thời điểm bài viết này được viết.

Giấy phép chính là điểm khác biệt rõ nét hơn.

Đây là phần đáng lẽ phải quyết định nhiều trường hợp triển khai hơn cả bảng benchmark. Hy-MT2-1.8B dùng giấy phép Apache 2.0, không có gating — sử dụng thương mại, tinh chỉnh, tác phẩm phái sinh, phân phối lại, tất cả đều được phép. North Small Translate 1.0 dùng giấy phép CC BY-NC 4.0: các trọng số miễn phí cho mục đích phi thương mại, và việc triển khai thương mại đòi hỏi phải mua giấy phép thông qua Model Vault của Cohere, với mức giá không được công bố.

Nói thẳng ra: nếu bạn đang xây dựng một sản phẩm, mô hình của Tencent là mô hình bạn có thể đưa vào sản phẩm ngay hôm nay mà không cần trao đổi, còn của Cohere là mô hình bạn chỉ có thể đánh giá. Sự bất đối xứng đó không khiến mô hình của Cohere trở nên tệ hơn, nhưng nó thay đổi trình tự công việc — bạn đánh giá mô hình của Cohere, còn mô hình của Tencent thì bạn có thể triển khai.

Bằng chứng về chất lượng vốn bất đối xứng, và cả hai phía đều do nhà cung cấp tự báo cáo.

Cả hai mô hình đều không có đánh giá độc lập nào đằng sau, nên hãy coi mọi con số ở đây là tuyên bố của nhà sản xuất. Sự khác biệt nằm ở việc các nhà sản xuất đã công bố bao nhiêu. Tencent đã công bố bảng so sánh đầy đủ và báo cáo kỹ thuật: trên tác vụ dịch English-to-X của FLORES-200, Hy-MT2-1.8B đạt 90.00 so với 94.42 của Gemini 3.1 Pro và 94.16 của GPT-5.5 — kém hơn một chút so với các mô hình tiên phong nhưng chỉ trong vài điểm, từ một mô hình vừa trên điện thoại. Trên điểm tuân theo chỉ dẫn tổng thể của IFMTBench, mô hình 1.8B đạt 69.36%, kém xa so với mô hình anh em 30B-A3B của chính nó ở 85.7% và Gemini 3.1 Pro ở 89.08%, đây là đánh giá trung thực về sự đánh đổi: mô hình nhỏ tuân theo các chỉ dẫn về định dạng và thuật ngữ kém tin cậy hơn nhiều so với khả năng dịch của nó.

Cohere đã công bố một con số — điểm WMT26 là 83,60, tăng lên 84,36 với một quy trình tác nhân nhiều lượt — mà không gắn tên chỉ số nào và không có trang kết quả WMT26 nào để đối chiếu. Đó không phải là một phép so sánh mà chúng ta có thể thực hiện. Một con số không tên duy nhất không thể được đặt cạnh một bảng các benchmark có tên, và giả vờ điều ngược lại sẽ là điều gây hiểu lầm nhất mà bài viết này có thể làm.

Đối trọng của Tencent nằm ở chỗ các con số của họ xuất phát từ một nơi mà người đọc có thể tự mình kiểm chứng. Kho lưu trữ Hy-MT2 công bố phần tổng quan về dòng mô hình, ba kích cỡ mô hình và các môi trường chạy mà mỗi mô hình hỗ trợ, cùng với bảng đánh giá — chính điều này mới khiến các số liệu FLORES-200 và IFMTBench có thể kiểm chứng được, và cũng chính điều này khiến con số đơn lẻ không tên của Cohere trở nên nổi cộm khi đặt bên cạnh.

Mỗi cái tốn bao nhiêu để gọi

Mô hình 1.8B của Tencent có một API thương mại được lưu trữ (hosted) ra mắt vào tháng 8 năm 2026, với giá khoảng 0,044 USD cho mỗi triệu token đầu vào và 0,177 USD cho mỗi triệu token đầu ra — rẻ về mặt tuyệt đối, và được tính giá theo token. Mô hình của Cohere chạy trên gói miễn phí của Chat V2, miễn phí cho cả khóa dùng thử lẫn khóa sản xuất cho đến khi đạt giới hạn tần suất, vì vậy chi phí đánh giá bằng không nhưng chi phí sản xuất là một hợp đồng mà bạn phải thương lượng. Tự lưu trữ đảo ngược hoàn toàn bài toán: 440MB trên một thiết bị cầm tay so với hai B200, một khác biệt được đo bằng bậc độ lớn chứ không phải phần trăm.

Lý do khoảng cách đó đáng được nêu ra trong một bài viết về nền tảng định tuyến là vì tầng giá rẻ và tầng đắt đỏ không phải là những đối thủ cạnh tranh — chúng là hai vị trí trong một chuỗi tầng bậc, và chuỗi tầng bậc chính là thứ mà một bộ định tuyến sinh ra để xử lý. OrcaRouter chuyển tiếp nguyên mức giá niêm yết của nhà cung cấp với 0% chênh lệch, nên khi một nhà cung cấp giảm giá cho endpoint dịch thuật dạng lưu trữ, phía chúng tôi sẽ cập nhật ngay trong cùng ngày mà không có phần chênh lệch của nhà bán lại để phải thương lượng lại, và các chuỗi chuyển đổi dự phòng cho phép một mô hình nhỏ hơn đảm nhận phần lớn lưu lượng trong khi một mô hình nặng hơn xử lý những yêu cầu mà nó làm thất bại. Hãy thử mô hình rẻ trước, nâng cấp lên với những ca khó, và để tầng định tuyến nắm giữ chính sách thay vì mã ứng dụng của bạn.

Bạn nên chọn cái nào

Nếu bản dịch của bạn diễn ra trên một thiết bị, ngoại tuyến, dưới ngân sách lưu trữ tính theo mỗi megabyte, hoặc bên trong một sản phẩm thương mại không muốn đàm phán giấy phép, thì Hy-MT2-1.8B là câu trả lời và North Small Translate 1.0 không nằm trong danh sách cân nhắc. Nếu đơn vị công việc của bạn là một tài liệu dài bằng một trong năm mươi ngôn ngữ mà Cohere hỗ trợ, nếu bạn cần 16K đầu ra trong một lượt, và nếu giấy phép thương mại là thứ tổ chức của bạn sẵn sàng mua, thì mô hình của Cohere là cỗ máy có năng lực hơn trên mọi khía cạnh được công bố — với lưu ý rằng chất lượng của nó dựa trên một con số duy nhất chưa được tái lập.

Và với hầu hết các đội nhóm, câu trả lời trung thực là cả hai, theo đúng thứ tự đó: mô hình 440MB đảm nhiệm công việc thường ngày với chi phí không đáng kể, mô hình 218B xử lý những tài liệu thực sự quan trọng, và quyết định yêu cầu nào đi đâu là một quy tắc định tuyến chứ không phải việc viết lại. Khoảng cách giữa hai mô hình này không phải là khoảng cách cần được lấp đầy. Đó là một phổ để tận dụng.