North Small Translate 1.0: Mô hình lớn yên tĩnh nhất của Cohere cho đến nay

North Small Translate 1.0 là một mô hình dịch thuật mixture-of-experts 218 tỷ tham số từ Cohere và Cohere Labs, và nó xuất hiện theo cách mà rất ít bản phát hành quy mô tiên phong làm: chỉ với một ghi chú phát hành và không gì khác. Nhật ký thay đổi của Cohere ghi ngày công bố là 9 tháng 9 năm 2026, nhưng ba checkpoint đã nằm trên Hugging Face phía sau một cổng kiểm soát từ ngày 14 tháng 8 — ba tuần rưỡi trọng số mà không có bài đăng blog, không đưa tin báo chí, và không có chuỗi bài đăng ra mắt. Vào thời điểm bài viết này được viết, kho lưu trữ chính hiển thị không lượt thích, 26 lượt tải xuống trong tháng trước, và một thảo luận cộng đồng duy nhất chưa được trả lời. Một mô hình 218B với điểm WMT26 do nhà cung cấp báo cáo là 83,60 mà hầu như không ai để ý thì đáng để giải thích, vì vậy đây là những gì tài liệu và kho lưu trữ thực sự xác lập, tách biệt khỏi những gì chúng không.

Những con số mà Cohere gắn tên mình vào

Bắt đầu với các thông số kỹ thuật, vì chúng rõ ràng, không mập mờ và là phần của bản phát hành này có thể biết trọn vẹn. North Small Translate 1.0 là một mô hình mixture-of-experts thưa chỉ có decoder — cùng dạng mà Cohere đã dùng cho Command A+ vào tháng 5 năm 2026 — với 128 expert, tám expert được kích hoạt trên mỗi token, cùng các expert chia sẻ chạy trên mọi token. Bộ định tuyến áp dụng hàm kích hoạt sigmoid trên các logit của expert và chuẩn hóa trên toàn bộ lựa chọn top-k. Cơ chế attention luân phiên theo tỷ lệ 3:1 giữa các lớp cửa sổ trượt (cửa sổ 4.096, RoPE) và các lớp attention toàn cục không mang embedding vị trí nào cả.

• Tham số — tổng cộng 218B, 25B hoạt động trên mỗi token

• Ngữ cảnh — đầu vào 16K và đầu ra 16K

• Ngôn ngữ — Tiếng Anh cùng 49 ngôn ngữ khác, tổng cộng 50

• Ngôn ngữ cấp một — Tiếng Ả Rập chuẩn hiện đại, tiếng Đức, tiếng Pháp, tiếng Nhật, tiếng Hàn, tiếng Nga, tiếng Ukraina

• Checkpoint — BF16, FP8 và NVFP4 W4A16

• Phần cứng tối thiểu — BF16: 4×B200 hoặc 8×H100; FP8: 2×B200 hoặc 4×H100; W4A16: 1×B200 hoặc 2×H100

• Giấy phép — CC BY-NC 4.0, với việc sử dụng cho mục đích thương mại được chuyển đến Model Vault của Cohere

• Chất lượng được báo cáo — WMT26 83.60, tăng lên 84.36 nhờ quy trình dịch đa lượt có tác tử

Hai trong số những dòng đó xứng đáng được bàn kỹ hơn là chỉ một gạch đầu dòng. Cửa sổ ngữ cảnh là 16K đầu ra, một điều khá bất thường đối với một mô hình dịch, và đó chính là khác biệt giữa việc dịch một đoạn văn và dịch trọn một tài liệu quy trình chỉ trong một lượt. Còn con số mang tính tác tử — 84,36 so với 83,60 — là cách Cohere mô tả một quy trình làm việc, chứ không phải một mô hình: nhiều lượt chạy, hẳn là với một tác tử quyết định phần nào cần dịch lại. Đó cũng chính là ý tưởng mà Cohere đã bán dưới tên "Deep Translation" cùng Command A Translate vào tháng 8 năm 2025, và nó tái xuất ở đây với quy mô lớn hơn.

Những gì kho lưu trữ thể hiện mà ghi chú phát hành không thể hiện

Ghi chú phát hành là một tài liệu tiếp thị; còn kho mã nguồn mới là tài liệu kỹ thuật, và một vài chi tiết trong đó quan trọng hơn cả những thông số được nhắc đến trên tiêu đề. Việc phục vụ được hỗ trợ thông qua vLLM với cohere_melody>=0.9.0, và Cohere khuyến nghị giải mã tham lam (greedy decoding) một cách rõ ràng nhằm "khớp với triển khai production" — một mô hình dịch bảo bạn tắt lấy mẫu là một mô hình dịch hướng tới tính tất định, chứ không phải để viết sáng tạo. Đầu ra được bọc trong <|START_TEXT|> và <|END_TEXT|> các marker, và việc phân tích cú pháp mong đợi thư viện melody của Cohere. Những marker đó không được đăng ký như các token đặc biệt, nên việc đặt skip_special_tokens=True sẽ không loại bỏ chúng — một cái bẫy nhỏ sẽ tạo ra rác thẻ hiển thị rõ ràng trong một tích hợp ngây thơ.

Ngoài ra còn có một mẫu trò chuyện với hướng dẫn hệ thống mặc định giới thiệu mô hình dưới tên "North Small Translate" và nêu rõ nó được xây dựng bởi Cohere. Các thông báo hệ thống theo từng cuộc trò chuyện được nối thêm vào mặc định đó thay vì thay thế nó — có một ô platform_instruction_override riêng nếu bạn cần ghi đè nó. Đây là kiểu cơ chế ngầm cho bạn biết đây là một mô hình trò chuyện đã qua huấn luyện hậu kỳ đang khoác lên nhiệm vụ dịch thuật, chứ không phải một bộ mã hóa-giải mã cổ điển.

Vị trí của nó trong dòng sản phẩm của Cohere

Dòng phát triển là bối cảnh hữu ích nhất để đọc bản phát hành này, và nó đã được ghi lại. Command A Translate, được công bố ngày 28 tháng 8 năm 2025, là mô hình dịch máy đầu tiên của Cohere — 111B tham số, cửa sổ 16K chia 8K đầu vào và 8K đầu ra, 23 ngôn ngữ, và một bản phát hành nghiên cứu CC-BY-NC. North Small Translate 1.0 tăng hơn gấp đôi số ngôn ngữ lên 50, tăng gấp ba số tham số hoạt động lên 25B, giữ tổng cửa sổ ở 16K nhưng làm cho toàn bộ cửa sổ có thể dùng cho đầu ra, và thay một mô hình đơn lẻ kiểu dense bằng một MoE thưa với cùng dấu chân mà Cohere đã dùng ở những nơi khác trong dòng North.

Cách hiểu trung thực là đây là một biến thể chuyên dụng từ lõi MoE hiện tại của Cohere, được huấn luyện hậu kỳ cho dịch thuật, chứ không phải một kiến trúc mới. Thẻ mô hình nói đúng như vậy trong một dòng — nó được "huấn luyện hậu kỳ chuyên biệt để đảm bảo chất lượng dịch thuật" — và không tiết lộ gì về kho ngữ liệu huấn luyện, số lượng token, hay quy trình dữ liệu. Báo cáo kỹ thuật của Command A Translate đã mô tả chi tiết một kỹ thuật lọc dữ liệu theo độ khó; không có nội dung tương đương nào được công bố cho mô hình này.

Điều gì thực sự chưa được xác nhận?

Đây là lúc một bản phát hành âm thầm phải được xử lý cẩn trọng, bởi vì sự thiếu vắng tiếng ồn có thể tác động theo cả hai chiều. Sau đây là những điều mà hiện tại không ai bên ngoài Cohere biết:

• WMT26 83.60 đo lường điều gì. Không có chỉ số nào được nêu tên trên thẻ mô hình hay trong ghi chú phát hành, và chưa có trang kết quả WMT26 nào được công bố cho mô hình này. "83.60" mà không có tên chỉ số thì chỉ là một con số, chứ không phải một kết quả.

• Liệu điểm số có tái lập được hay không. Không có nhóm độc lập nào đã chạy mô hình này. Mọi số liệu trong bài viết này đều là của chính Cohere.

• Quy trình đa lượt mang tính tác tử thực chất là gì. Con số 84.36 chỉ được mô tả trong một mệnh đề duy nhất. Đó là một tuyên bố ở cấp hệ thống gắn với một thẻ mô hình, và hệ thống đó không được chỉ rõ.

• Chi phí của một giấy phép thương mại là bao nhiêu. Cohere hướng dẫn các doanh nghiệp liên hệ với bộ phận kinh doanh và Model Vault. Không có mức giá nào được công bố trên trang tài liệu.

• Liệu có một bài đăng blog sắp ra mắt hay không. Cohere có một blog. Command A Translate có hẳn một bài đầy đủ. Mô hình này thì chỉ có một ghi chú phát hành.

Không có gì trong số đó là một lời buộc tội. Đó là sự khác biệt giữa một mô hình bạn có thể đánh giá và một sản phẩm bạn có thể mua, và hiện tại North Small Translate 1.0 hoàn toàn thuộc vế đầu tiên — cộng thêm một thứ bạn có thể dùng miễn phí.

Gói miễn phí là phần bạn thực sự có thể dùng thử ngay hôm nay

Khác với một đợt phát hành trọng số thuần túy, lần này có một bề mặt trực tiếp: North Small Translate 1.0 nằm trong gói miễn phí của Cohere thông qua Chat V2 API, và ghi chú phát hành của Cohere cho biết nó miễn phí cho cả khóa dùng thử vàkhóa sản xuất cho đến khi đạt đến giới hạn tốc độ. Đó là một cửa sổ đánh giá có mức độ cho phép bất thường — bạn không cần một hợp đồng trả phí để đưa lưu lượng thật chạy qua nó. Trong khi đó, các trọng số là bộ FP8 trên Hugging Face theo CC BY-NC 4.0, nên việc tự lưu trữ cho mục đích thương mại là không thể nếu không có thỏa thuận Model Vault.

Vậy hình hài thực tế của quyết định là: đánh giá qua API miễn phí, và chỉ trả tiền nếu bạn quyết định đưa nó vào vận hành. Đó là một phép thử rủi ro thấp, và đây đúng là kiểu việc mà một lớp định tuyến được sinh ra để làm. Nếu bạn đã đang gọi dịch vụ dịch thuật qua OrcaRouter — một khóa dùng cho danh mục hơn 200 mô hình, giá niêm yết của nhà cung cấp được chuyển nguyên ở mức markup 0% — câu hỏi có thể đánh giá được không phải là "tôi có nên chuyển đổi không" mà là "liệu cái này có vượt qua cái tôi đang gọi trên chính tài liệu của mình không", điều bạn có thể trả lời bằng cách chạy cùng đoạn văn bản đó qua cả hai. Một nhà cung cấp cắt giảm giá là một thay đổi trực tiếp phía chúng tôi ngay trong ngày, vì không có phần chênh lệch của nhà bán lại nào được xếp thêm lên trên. Và với một mô hình chỉ có một benchmark chưa được tái lập và không có đánh giá từ bên thứ ba, failover là cơ chế cho phép bạn thử nó mà không đặt cược một luồng production vào nó: lưu lượng của bạn vẫn tiếp tục chảy tới mô hình vốn đã hoạt động tốt trong khi mô hình mới được chấm điểm trên các đầu vào thực tế.

Điều gì sẽ biến cái này từ một ghi chú phát hành thành một bản phát hành?

Ba điều sẽ đưa North Small Translate 1.0 từ một mục tài liệu trở thành một đối thủ thực sự, và cả ba đều có thể quan sát được từ bên ngoài. Thứ nhất, một chỉ số được đặt tên cho con số WMT26 — một 83.60 có gắn chỉ số thì có thể so sánh được, còn một con số không có thì không. Thứ hai, một lần tái lập độc lập đầu tiên, dù đến từ chính chiến dịch đánh giá WMT26 hay từ một bên thứ ba chạy các bài kiểm tra kiểu FLORES trên trọng số FP8. Thứ ba, một bài đăng ra mắt thực sự, thứ sẽ báo hiệu rằng Cohere có ý định bán sản phẩm này thay vì chỉ công bố nó.

Cho đến lúc đó, lập trường đúng đắn là lập trường mà bằng chứng ủng hộ: một chuyên gia dịch thuật MoE 218B thực sự thú vị với một lộ trình đánh giá miễn phí, năm mươi ngôn ngữ và cửa sổ đầu ra dài bằng cả một tài liệu, mà những tuyên bố về chất lượng của nó hoàn toàn dựa vào lời của nhà sản xuất. Cohere đã phát hành bốn mô hình có khả năng dịch trong mười ba tháng và chỉ một trong số đó có bài đăng blog. Điều nào trong hai sự thật đó mang tính thông tin cao hơn là câu hỏi đáng để ngẫm nghĩ.