ERNIE-5.5-Flash-Base: Baidu mở một checkpoint 280B, rồi thu hẹp phạm vi nơi bạn có thể sử dụng nó

Trong hai tuần, điều đáng chú ý nhất về ERNIE-5.5-Flash-Base là việc Baidu nói rất ít về nó. Kho lưu trữ Hugging Face được đăng ký vào ngày 21 tháng 10 năm 2026 và gần như trống rỗng cho đến ngày 2 tháng 11, chỉ chứa gần như không gì ngoài một README. Những shard trọng số đầu tiên đã được đưa lên vào sáng hôm đó, và checkpoint FP8 gồm 128 phần đã hoàn tất tải lên vào ngày hôm sau. Mãi đến ngày 5 tháng 11, Baidu mới công bố blog kỹ thuật và model card giải thích những gì họ thực sự đã đưa vào đó: một checkpoint mixture-of-experts thưa với 280 tỷ tham số, trong đó 14 tỷ tham số hoạt động trên mỗi token, được tiền huấn luyện từ đầu trên 33,5 nghìn tỷ token.

Đến sáng hôm đó, kho lưu trữ chính đã được tải xuống bốn lần, so với số lượt thích ở mức cuối năm mươi. Khoảng cách giữa hai con số ấy chính là bản phát hành thu nhỏ. Rất nhiều người đang theo dõi lần chuyển hướng thứ hai của Baidu sang trọng số mở, và gần như chưa ai đem trọng số về nhà.

Hai điều lý giải sự do dự, và cả hai đều là đặc điểm của chính bản phát hành chứ không phải những lời bàn tán xung quanh nó. Điều thứ nhất là đây là một base checkpoint — điểm kết thúc của tiền huấn luyện, không có huấn luyện trung gian và không có hậu huấn luyện — nên nó không phải là mô hình trò chuyện và không hành xử như một mô hình trò chuyện. Điều thứ hai là giấy phép. Đây không phải Apache 2.0, không áp dụng cho Liên minh châu Âu, Vương quốc Anh hay Hàn Quốc, và các điều khoản thương mại của nó sẽ thay đổi khi doanh thu liên quan của bạn vượt quá 50 triệu đô la Mỹ mỗi năm.

Baidu đã công bố những gì, và theo thứ tự nào

Lịch sử commit trên kho lưu trữ là một bản tường thuật về bản phát hành rõ ràng hơn bất kỳ thông báo nào. Một commit đầu tiên vào ngày 21 tháng 10. Một README vào ngày 26 tháng 10, tiếp theo hai phút sau là một lần tải thư mục lên và rồi là việc xóa các hình ảnh kiến trúc và hiệu năng — sự xáo trộn thông thường của một người đang lắp ghép một trang. Các tệp cấu hình đến vào ngày 2 tháng 11 lúc 06:29, ngay sau đó là các shard trọng số, và mảnh cuối cùng trong số 128 mảnh trước 09:00 sáng hôm sau. Các số liệu benchmark và kiến trúc được đăng lên vào ngày 4 tháng 11. Logo, các chỉnh sửa tokenizer và những lần rà soát README cuối cùng đến vào ngày 5 tháng 11, trong vòng vài giờ sau khi bài blog được đăng.

Vậy trình tự là: trọng số trước, tài liệu thứ hai, thông báo thứ ba. Baidu không dàn dựng một buổi ra mắt rồi lôi các tệp ra phía sau. Họ đưa một checkpoint 280B lên internet và viết lời giải thích sau đó. Điều đó đáng nói thẳng, vì cách trình bày mà bạn sẽ thấy trong các bài đưa tin tiếng Trung — một thông báo mã nguồn mở đầy khải hoàn — mô tả điều đã xảy ra vào ngày 5 tháng 11, không phải điều đã xảy ra vào ngày 2 tháng 11.

Có hai kho lưu trữ, và sự chia tách này quan trọng hơn mức thông thường. baidu/ERNIE-5.5-Flash-Base cung cấp safetensors độ chính xác hỗn hợp FP8; baidu/ERNIE-5.5-Flash-Base-BF16 cung cấp cùng checkpoint đó ở định dạng BF16. Cả hai đều không bị hạn chế truy cập, cả hai đều chỉ dành cho văn bản, và cả hai đều công bố cùng tổng 280B và 14B được kích hoạt. Có một bộ trọng số thứ ba tồn tại bên trong mô hình dưới dạng tham số ECHO — 0,36B trong số đó — mà Baidu loại trừ rõ ràng khỏi các con số tổng quan.

Các quy ước đếm đáng để xác định rõ, vì chúng không thống nhất trên cùng một trang. Con số 280B của Baidu bao gồm embedding đầu vào và output head, còn con số 14B tham số được kích hoạt của nó tính cả output head nhưng không tính phép tra cứu embedding. Tiện ích widget kích thước mô hình của chính Hugging Face hiển thị 286B — một quy ước khác được áp dụng cho cùng những tệp đó. Cả hai đều không sai; chúng đang trả lời những câu hỏi hơi khác nhau, và một bảng thông số trộn lẫn chúng sẽ không khớp.

Một checkpoint cơ sở không phải là chatbot, và sự khác biệt không phải là chuyện bề ngoài.

Dòng quan trọng nhất trên thẻ mô hình lại là dòng ít kịch tính nhất: đây là “checkpoint ở cuối quá trình tiền huấn luyện, trước bất kỳ giai đoạn huấn luyện trung gian hay hậu huấn luyện nào.” Mục đích được Baidu nêu rõ là nghiên cứu thích ứng miền, tinh chỉnh theo chỉ dẫn và học tăng cường. Đây là một điểm khởi đầu, được bán như một điểm khởi đầu.

Điều đó có nghĩa trên thực tế là bạn không thể thay nó vào một sản phẩm trò chuyện và kỳ vọng nó sẽ là ERNIE. Thẻ mô hình phục vụ nó qua endpoint /v1/completions thay vì chat completions, và lưu ý rằng đầu vào cần một token BOS, nên quá trình token hóa phải giữ add_special_tokens=True. Một mô hình cơ sở sẽ tiếp tục văn bản. Nó không tuân theo chỉ dẫn, từ chối yêu cầu hay duy trì một cuộc trò chuyện, vì chưa có gì dạy nó làm những điều đó.

Hiện cũng chưa có phiên bản cùng dòng nào đã qua hậu huấn luyện, và đây là chỗ độc giả thường hiểu sai nhất khi nhìn thấy các con số benchmark. Blog của Baidu nói rằng ERNIE 5.5 Flash đã qua hậu huấn luyện “sẽ ra mắt sau”. Hiện tại nó chưa tồn tại. Không có API được lưu trữ nào cho nó trên Qianfan được tài liệu phát hành nêu tên, không có mô hình trò chuyện nào để so sánh, và không có dòng nào cho ERNIE 5.5 Flash trên Artificial Analysis — tôi đã kiểm tra chỉ mục mô hình vào ngày 5 tháng 11 và nó có ERNIE 4.5 300B A47B và ERNIE 5.0 Thinking Preview, còn dòng 5.5 thì không có gì.

Vậy nên mô tả trung thực về 5.5 Flash với tư cách là một dòng sản phẩm, vào ngày công bố, là: một checkpoint gốc, trọng số mở, không có mô hình instruct, không có endpoint. Mọi thứ còn lại chỉ là lời hứa về sau.

Bên trong kiến trúc, một cách ngắn gọn.

Baidu đã dồn nỗ lực kỹ thuật vào bài toán chi phí của ngữ cảnh dài, và thiết kế này vẫn dễ hiểu ngay cả khi bạn chưa từng huấn luyện nó.

• Attention — 37 trong 43 lớp sử dụng Heavily Compressed Attention, cơ chế này lưu một mục cho mỗi 128 token, trong khi 6 lớp vẫn giữ quyền truy cập ở cấp token thông qua MLA với attention thưa (DSA). Với ngân sách KV-cache tương đương, Baidu báo cáo rằng HCA kết hợp với MLA vượt trội hơn HCA kết hợp với compressed sparse attention.

• Hình học head — các lớp HCA rẻ, được nén 128× nhận các head rộng 512 chiều; các lớp MLA cấp token đắt đỏ nhận các head hẹp 256 chiều. Độ rộng head được khớp với chi phí chú ý thực tế của từng lớp.

• Chuyên gia — 512 chuyên gia được định tuyến cho mỗi lớp MoE với định tuyến top-10 cùng một chuyên gia chia sẻ, được phân phối và kết hợp trong không gian tiềm ẩn 2,048 chiều bằng một nửa chiều rộng ẩn. Cân bằng tải không cần hàm mất mát phụ.

• Phần dư và đầu ra — Manifold-Constrained Hyper-Connections với bốn luồng phần dư song song thay thế đường phần dư tiêu chuẩn, và đầu MultiMax với nhiệt độ theo từng đoạn có thể học được làm sắc phân phối từ vựng.

• ECHO — thay vì một mô-đun dự đoán đa token riêng biệt, lớp cuối cùng của chính backbone sẽ dự đoán các token tương lai và đồng thời đóng vai trò mô hình nháp cho giải mã suy đoán. Đây là 0.36B nằm ngoài số lượng tham số.

• Tokenizer — khoảng 201.000 mục BPE, với các số được token hóa từ phải sang trái theo nhóm tối đa ba chữ số.

Câu chuyện ngữ cảnh chính là điểm nhấn thực tế: 128K trong huấn luyện, và 1M cho tinh chỉnh và suy luận, với cấu hình được phát hành đã bật sẵn thiết lập 1M. Đó thực sự là một cửa sổ lớn đối với một checkpoint mở ở kích thước này, và đó là năng lực mà Baidu xây dựng kiến trúc xoay quanh chứ không phải gắn thêm vào.

Bảng điểm chuẩn là có thật, và đó không phải là con số mà bạn nghĩ.

Baidu công bố 30 dòng trên các lĩnh vực bài thi, kiến thức, STEM, suy luận, đa ngôn ngữ, lập trình và ngữ cảnh dài, so với ba mô hình nền cùng thời: DeepSeek-V4-Flash-Base với tổng 284B và 13B hoạt động, Hy3-preview-Base với 295B và 21B, và MiMo-V2.5-Base với 310B và 15B. Cả bốn đều được chạy qua một quy trình đánh giá với cùng lời nhắc và cài đặt few-shot — đó là cách đúng để xây dựng bảng, và cũng là lý do bảng này không thể được đưa thẳng vào một bảng xếp hạng bên cạnh các mô hình trò chuyện.

ERNIE-5.5-Flash-Base dẫn đầu 24 trong số 30 hàng. Những khoảng cách quan trọng nhất nằm ở lập trình và kiến thức kiểu bài thi, nơi sự khác biệt giữa các mô hình cơ sở thường nhỏ:

• HumanEval+ (1-shot, Pass@1) — ERNIE 82.3 so với DeepSeek 69.5, Hy3 78.0, MiMo 74.4

• MMLU-Pro (5-shot, EM) — ERNIE 78,4 so với DeepSeek 69,2, Hy3 66,9, MiMo 65,7

• LiveCodeBench (1-shot, Pass@1) — ERNIE 40,1 so với DeepSeek 31,9, Hy3 33,5, MiMo 32,4

• RepoQA (0-shot, Pass@1) — ERNIE 91,7 so với DeepSeek 81,0, Hy3 91,3, MiMo 56,5

Nó cũng thua sáu mục, và sáu mục đó mang nhiều thông tin hơn những mục thắng. ChineseSimpleQA về tay DeepSeek với 75.3 so với 73.0 của ERNIE. BBH với chain-of-thought về tay Hy3 với 90.0 so với 89.2. INCLUDE-lite là một thất bại sát nút trước DeepSeek, 79.8 so với 79.5. FullStackBench về tay Hy3 với 56.7 so với 54.6. HELMET-Rerank là thất bại có cách biệt lớn nhất, 60.0 so với 56.2. InfiniteBench, 48.0 so với 46.5, cũng về tay DeepSeek — một kết quả đầy hàm ý đối với một mô hình mà mục tiêu thiết kế trọng tâm là ngữ cảnh dài.

Mỗi một con số trong số đó đều là của chính Baidu, do Baidu tạo ra, trên một harness do Baidu cấu hình và được công bố cùng với các trọng số. Chưa có bên thứ ba nào tái lập được bất kỳ phần nào trong đó. Đó không phải là một lời buộc tội; đó là trạng thái bình thường của một mô hình mới ra đời được vài giờ, và chính là trạng thái mà các bảng số liệu của nhà cung cấp thường được trích dẫn nhiều nhất như thể chúng là kết quả đo.

Phép so sánh thực sự hữu ích vẫn chưa tồn tại, và nó không phải phép so sánh mà bảng gợi ý. Đây đều là nền. Điểm 93,3 trên MMLU của một checkpoint nền không phải là 93,3 trên một mô hình chat, và đặt nó bên cạnh điểm Chỉ số Trí tuệ Artificial Analysis — vốn được tính trên các mô hình đã qua huấn luyện hậu kỳ làm công việc agentic và suy luận — sẽ là một lỗi phạm trù. Baidu đã công bố một phép so sánh cẩn thận trong cùng phạm trù. Sai lầm mà bất kỳ ai đọc nó cũng có thể mắc phải là coi nó như một phép so sánh khác phạm trù.

Giấy phép là phần thực sự sẽ ngăn chặn mọi người.

Gạt thông cáo sang một bên, văn bản điều chỉnh bản phát hành này là ERNIE 5.5 Flash Base Model License Agreement v1.0. Văn bản được ghi ngày 5 tháng 11 năm 2026 — bản thân giấy phép là xác nhận đáng tin cậy nhất về ngày công bố — và đây là một thỏa thuận riêng, không phải thỏa thuận được OSI phê duyệt.

Ba mệnh đề đảm nhận phần lớn công việc.

• Lãnh thổ. Việc cấp phép được thực hiện “chỉ trong Lãnh thổ”, mà Mục 1.11 định nghĩa là mọi khu vực địa lý trên toàn thế giới ngoại trừ Liên minh châu Âu, Vương quốc Anh và Hàn Quốc. Việc phân phối lại theo Mục 3.1 bị giới hạn trong cùng lãnh thổ đó. Đây là điều khoản có khả năng quan trọng nhất đối với một công ty đọc “trọng số mở” và lên kế hoạch triển khai.

• Ngưỡng 50 triệu USD.Việc sử dụng phi thương mại là miễn phí. Sử dụng thương mại cũng miễn phí miễn là doanh thu hằng năm của bạn từ các sản phẩm hoặc dịch vụ liên quan ở mức bằng hoặc dưới 50 triệu USD, với điều kiện bạn gửi thông báo sử dụng một lần cho Baidu trước lần sử dụng thương mại đầu tiên và hiển thị chính xác chuỗi "Powered by ERNIE" ở một nơi dễ truy cập — giao diện người dùng, trang giới thiệu hoặc, đối với API và dịch vụ phía máy chủ, tài liệu dành cho nhà phát triển của bạn. Trên 50 triệu USD, bạn cần có sự cho phép trước bằng văn bản riêng trước khi bắt đầu, và phí được quy định theo một thỏa thuận riêng.

• Cách doanh thu được tính. Mục 1.7 gộp mọi pháp nhân thuộc cùng kiểm soát — hơn 50% vốn chủ sở hữu hoặc quyền biểu quyết — vào một đơn vị vận hành. Nó cũng tính toàn bộ doanh thu của một sản phẩm liên quan ngay cả khi sản phẩm đó dùng các mô hình khác cùng với ERNIE. Bạn không thể phân bổ để xuống dưới ngưỡng bằng cách chỉ vào phần lưu lượng truy cập chạm đến các trọng số này.

Sự tương phản với chính lịch sử của Baidu là điều khiến tin này đáng đưa tin chứ không phải chuyện thường nhật. ERNIE 4.5, phát hành ngày 30 tháng 6 năm 2025, ra mắt mười biến thể theo Apache 2.0 — thực sự cho phép rộng rãi, không giới hạn lãnh thổ, không rào cản doanh thu, không yêu cầu chuỗi ghi công. ERNIE 5.0 vào tháng 11 năm 2025 đi theo hướng hoàn toàn ngược lại và không phát hành trọng số nào cả. ERNIE-5.5-Flash-Base là một vị thế thứ ba: trọng số bạn có thể tải xuống, theo các điều khoản khiến "open" trở thành một tuyên bố về tính sẵn có chứ không phải về quyền cho phép.

Nếu bạn đang đánh giá mô hình này cho bất kỳ mục đích thương mại nào, hãy đọc Mục 1.7, 1.11 và 4 trước khi đọc bảng điểm chuẩn. Bảng này cho bạn biết mô hình có thể làm gì. Ba mục đó cho bạn biết liệu bạn có được phép tìm hiểu hay không.

Cần những gì để vận hành

Các trọng số đủ lớn để câu hỏi về phần cứng tự có câu trả lời, và đủ nhỏ để câu trả lời không vô lý. Ở FP8, 280B tham số là khoảng 280 GB trọng số trước bất kỳ KV cache nào — phép tính, không phải phép đo — vừa với một node bốn GPU dùng card 80 GB, với khoảng dư chật hơn vẻ ngoài khi bạn bật ngữ cảnh 128K. Kho BF16 gấp đôi con số đó lên khoảng 560 GB và cần tám card.

Baidu cung cấp hai con đường phục vụ, và cả hai đều có những trở ngại đáng để biết trước khi bạn bắt đầu.

• SGLang — một image dựng sẵn, lmsysorg/sglang:dev-ernie-55-flash, được khởi chạy với tensor parallelism 4 và attention data parallelism 4. Đây là một dev tag, không phải bản phát hành được ghim.

• vLLM — vLLM 0.32.0 cùng một plugin được cài đặt từ kho vLLM-ERNIE của chính Baidu. Các cờ khởi chạy bao gồm bộ nhớ đệm KV FP8, song song chuyên gia và --moe-backend humming.

Cả hai cách đều không phải là cài đặt chỉ một dòng, và riêng hướng vLLM sẽ ghim bạn vào một phiên bản vLLM cụ thể cùng một plugin do Baidu duy trì. Điều đó là bình thường với một mô hình có cơ chế attention và cấu trúc MoE mới, và đây là kiểu chi tiết quyết định liệu một đợt đánh giá kéo dài hai tuần có bị trượt thêm một tuần hay không. Một ví dụ tinh chỉnh Megatron-Bridge được liên kết từ thẻ mô hình vì cùng lý do: checkpoint này được tạo ra để huấn luyện, chứ không chỉ để phục vụ.

Ai nên tải xuống và ai nên chờ đợi

Hãy tải nó về nếu bạn đã sẵn sàng để tinh chỉnh. Một checkpoint cơ sở 280B-A14B được huấn luyện trên 33,5T token, với cửa sổ suy luận 1M token và các điều khoản thương mại khả thi dưới ngưỡng doanh thu và ngoài các lãnh thổ bị loại trừ, là một điểm khởi đầu đáng cân nhắc cho việc thích nghi miền hoặc một lần chạy RL — và tỷ lệ kích hoạt nghĩa là chi phí huấn luyện và phục vụ của bạn bám theo 14B, không phải 280B. Công việc tối ưu hiệu quả mà Baidu thực hiện trên attention và KV cache nhắm thẳng vào các khối lượng công việc agentic, ngữ cảnh dài, vốn tốn kém khi chạy trên một mô hình dense có chất lượng tương đương.

Khoan đã, nếu bạn muốn một mô hình để gọi. Không có phiên bản instruct, không có API và không có đánh giá độc lập. Bất kỳ ai cần ERNIE 5.5 Flash như một sản phẩm đều đang chờ bản phát hành sau huấn luyện mà Baidu đã hứa nhưng chưa ấn định ngày.

Và hãy kiểm tra bản đồ trước. Nếu người dùng, pháp nhân hoặc hạ tầng của bạn nằm ở EU, Vương quốc Anh hoặc Hàn Quốc, thì giấy phép không cấp cho bạn những quyền mà nút tải xuống hàm ý.

Có một con đường trung gian thiết thực cho các nhóm mà câu hỏi thực sự không phải là "chúng ta có thể chạy cái này không" mà là "cái này có tốt hơn những gì chúng ta đang trả tiền hay không." Phép so sánh bạn cần là với các mô hình được lưu trữ mà bạn sẽ thay thế, và những mô hình bạn có thể gọi ngay hôm nay. OrcaRouter đưa hơn 200 mô hình phía sau một API với mức markup 0% — giá niêm yết của nhà cung cấp được chuyển nguyên vẹn, vì vậy khi nhà cung cấp giảm giá, mức giảm sẽ có hiệu lực ngay trong cùng ngày — điều này khiến cuộc đối chiếu với mô hình sản xuất hiện tại của bạn chỉ còn là việc thay đổi một chuỗi mô hình thay vì ký thêm hợp đồng thứ hai. Đối với một checkpoint mà bạn định tinh chỉnh và tự lưu trữ, lớp định tuyến là cách để bạn giữ mô hình đương nhiệm trong quy trình trong khi xác định xem bản tinh chỉnh có thực sự tốt hơn hay không, với tính năng chuyển đổi dự phòng tự động nếu không. ERNIE-5.5-Flash-Base không có trên OrcaRouter; đó là một bộ trọng số bạn tự chạy, và không có gì ở đây thay đổi điều đó.

Xem gì

Biến đáng quan tâm không phải là liệu checkpoint gốc có tốt hay không — theo chính các con số của Baidu, nó cạnh tranh được với các mô hình cơ sở mà nó được đo so sánh, và thắng ở phần lớn các dòng. Biến đó là Baidu làm gì với mô hình sau huấn luyện, vì đây là chỗ các điều khoản giấy phép bắt đầu ràng buộc đối với các sản phẩm thực tế, và cũng là chỗ cuối cùng sẽ có một điểm đánh giá độc lập.

Có hai thời điểm đáng để ghi nhớ. Thứ nhất là ERNIE 5.5 Flash bản post-trained, thứ mà Baidu nói sẽ ra mắt tiếp theo và chưa ấn định lịch. Thứ hai là lần đầu tiên một bên thứ ba tái lập được bất kỳ hàng nào trong bảng 30 hàng đó — khoảnh khắc những con số không còn là của Baidu mà bắt đầu thuộc về tất cả mọi người. Cho đến lúc đó, tóm tắt trung thực về ERNIE-5.5-Flash-Base là: Baidu đã phát hành công khai một checkpoint tiền huấn luyện lớn, được xây dựng kỹ lưỡng, mô tả nó chính xác, và gắn kèm một giấy phép kém mở hơn đáng kể so với hàm ý thường thấy của cụm "trọng số mở".