ERNIE-5.5-Flash vs Qwen 3.8 Flash: Một checkpoint cơ sở gặp một mô hình hoàn chỉnh

Đặt ERNIE-5.5-Flash bên cạnh Qwen 3.8 Flash và nhận xét trung thực đầu tiên là chúng không cùng loại đối tượng. Thứ mà Baidu thực sự công bố là ERNIE-5.5-Flash-Base, checkpoint ở cuối quá trình tiền huấn luyện — trước huấn luyện giữa, trước tinh chỉnh theo chỉ dẫn, trước mọi bước tối ưu theo sở thích — nên nó tiếp nối văn bản thay vì trả lời yêu cầu, và nó được phục vụ qua endpoint completions chứ không phải endpoint chat. Qwen 3.8 Flash, được Alibaba phát hành ngày 26 tháng 8 năm 2026, là một mô hình đa phương thức hoàn chỉnh nhận văn bản, hình ảnh và video rồi trả về văn bản, với giá 0,15 USD cho mỗi triệu token đầu vào và 0,47 USD cho mỗi triệu token đầu ra. Một cái là điểm khởi đầu mà bạn vẫn phải huấn luyện; cái kia là sản phẩm bạn có thể gọi ngay chiều nay. Gần như mọi con số dưới đây đều thay đổi ý nghĩa tùy thuộc vào việc bạn nghĩ mình đang so sánh thứ nào trong hai thứ đó, đó là lý do nên làm rõ trước bảng thông số kỹ thuật chứ không phải sau.

Baidu đã tung ra những gì và những gì họ chưa công bố

Bản phát hành diễn ra lặng lẽ theo đúng kiểu mà các đợt phát hành trọng số mở của Trung Quốc thường có: các tạo tác đến trước khi câu chuyện xuất hiện. baidu/ERNIE-5.5-Flash-Base kho lưu trữ được tạo trên Hugging Face vào ngày 21 tháng 10, gần như trống rỗng trong một tuần, rồi nhận 128 mảnh trọng số FP8 của nó trong khoảng ngày 2 đến ngày 3 tháng 11. Các sơ đồ kiến trúc và đánh giá chuẩn đã xuất hiện vào ngày 4 tháng 11, và bản thân thẻ mô hình vẫn đang được chỉnh sửa vào sáng nay. Trang phát hành của chính Baidu được ghi ngày hôm nay, 5 tháng 11, và thảo luận duy nhất mà nó tạo ra ngoài trang đó là một chủ đề diễn đàn và một bài đăng WeChat. Không có thông cáo báo chí, không có sự kiện ra mắt và không có tin tức báo chí đáng kể.

Điều đó quan trọng đối với việc bạn có thể tin và không thể tin điều gì. Có thể biết được từ kho lưu trữ: kiến trúc, số lượng tham số, một bảng đánh giá chuẩn hoàn chỉnh của nhà cung cấp với một harness được nêu tên rõ ràng, các công thức phục vụ SGLang và vLLM đang hoạt động, văn bản giấy phép, và việc tồn tại một phiên bản anh em BF16 bên cạnh phiên bản FP8. Không thể biết được: liệu Baidu có định phục vụ nó dưới dạng API hay không — bảng giá của Qianfan, được cập nhật lần cuối vào ngày 18 tháng 10, liệt kê ERNIE 5.1, 5.0 và 4.5 Turbo, và không có mục ERNIE 5.5 dưới bất kỳ hình thức nào — phiên bản được tinh chỉnh theo chỉ dẫn của nó đạt điểm số bao nhiêu, và liệu có bất kỳ đơn vị đánh giá độc lập nào sẽ tái tạo được dù chỉ một con số trong bảng của Baidu hay không.

Thông số kỹ thuật trên tạp chí, để ghi nhận: tổng cộng 280B tham số với 14B tham số hoạt động trên mỗi token, được tiền huấn luyện từ đầu trên 33.5T token, 43 lớp trong đó một lớp là FFN dày đặc và 42 lớp là MoE, 512 chuyên gia được định tuyến với định tuyến top-10 cộng thêm một chuyên gia dùng chung, và bộ từ vựng 201,216 token. Cấu hình phát hành cho phép ngữ cảnh 1,048,576 token, mặc dù quá trình huấn luyện chỉ từng thấy 131,072. Ngoài ra còn có một đầu dự đoán đa token 0.36B không được tính vào cả hai con số tham số.

Sự tương phản về thông số kỹ thuật, trên những khía cạnh thực sự mang tính quyết định

• Những gì bạn nhận được — ERNIE-5.5-Flash-Base chỉ là một checkpoint và không gì khác: các trọng số bạn tải xuống, một endpoint /v1/completions, và không có hành vi tuân theo chỉ dẫn. Qwen 3.8 Flash là một mô hình được phục vụ với khả năng gọi công cụ, chế độ lập luận, đầu ra có cấu trúc và phản hồi tối đa 131.072 token.

• Kích thước — tổng 280B / 14B hoạt động đối với ERNIE, so với tổng 125B / khoảng 6B hoạt động của Qwen 3.8 Flash, mô hình này còn có bảng nhúng n-gram 51B và đầu MTP ~4B, đưa khoảng 180B tham số lên đĩa.

• Thiết kế attention — ERNIE sử dụng 43 lớp, chia thành 37 lớp attention nén mạnh (HCA) cộng với 6 lớp MLA dùng attention thưa; Qwen 3.8 Flash dùng kết hợp Gated DeltaNet và Qwen Sparse Attention trên 48 lớp. Cả hai đều là những đặt cược rằng attention đầy đủ cổ điển không phải là thứ đáng bỏ tiền ở mức giá phân khúc Flash, và chúng được đưa ra từ hai hướng đối lập.

• Ngữ cảnh — 1 triệu token được công bố ở cả hai bên, nhưng đến từ những nơi khác nhau: ERNIE được huấn luyện ở 128K và chỉ bật 1M tại thời điểm tinh chỉnh và suy luận, trong khi Qwen 3.8 Flash vốn có 262K và đạt 1M thông qua phần mở rộng YaRN.

• Phương thức — ERNIE-5.5-Flash-Base chỉ xử lý văn bản, bằng tiếng Anh và tiếng Trung. Qwen 3.8 Flash chấp nhận văn bản, hình ảnh và video, và bảng thông tin của nhà cung cấp bao gồm các kết quả AndroidWorld, OSWorld 2.0, MathVision và LVBench mà một checkpoint chỉ văn bản không thể tạo ra.

• Trọng số về phía Qwen — Qwen 3.8 Flash bản sản xuất chỉ có API, nhưng phiên bản anh em mở trọng số Qwen3.8-Flash-Next của nó được phát hành theo Giấy phép Cộng đồng Qwen 1.0, nên hai bên có thể so sánh được với nhau nhiều hơn so với những gì cách phân biệt API với trọng số thoạt đầu gợi ra.

• Triển khai phục vụ — Baidu cung cấp một công thức chạy được: image lmsysorg/sglang:dev-ernie-55-flash với --tp 4, hoặc vLLM 0.32.0 cùng plugin baidu/vLLM-ERNIE với kích thước song song dữ liệu là 4. Qwen 3.8 Flash không cần công thức triển khai phục vụ vì Alibaba đã phục vụ nó cho bạn.

• Giá — không có giá công bố trên mỗi token cho ERNIE-5.5-Flash-Base ở bất kỳ đâu, vì không có endpoint được lưu trữ nào để định giá; đầu vào $0,15 / đầu ra $0,47 trên mỗi triệu token đối với Qwen 3.8 Flash, với lượt đọc đầu vào từ bộ nhớ đệm ở mức $0,0184.

• Giấy phép — Thỏa thuận Cấp phép Mô hình Cơ sở ERNIE 5.5 Flash v1.0, một thỏa thuận tùy chỉnh đáng để đọc toàn văn trước khi bạn xây dựng sản phẩm dựa trên đó, so với Qwen Community License 1.0 ở phía Qwen mã nguồn mở.

Những dòng benchmark trông có vẻ có thể so sánh được nhưng thực ra không phải vậy

Đây là cái bẫy mà phép so sánh này đặt ra. Cả hai nhà cung cấp đều công bố một con số LiveCodeBench, và hai con số đó là 40.1 và 91.9.

Chúng không đo cùng một thứ, và khoảng cách giữa chúng không phải là khoảng cách về năng lực. 40.1 của Baidu là Pass@1, one-shot, trên checkpoint tiền huấn luyện thô — mô hình được yêu cầu hoàn thành các phần tiếp nối mã dù chưa từng được dạy cách tuân theo chỉ dẫn. 91.9 của Alibaba là LiveCodeBench v6, một phiên bản benchmark khác và muộn hơn, được báo cáo cho một mô hình đã trải qua toàn bộ quy trình hậu huấn luyện. Cặp GPQA cũng có vấn đề tương tự: 60.2 cho ERNIE ở chế độ five-shot exact match trên một checkpoint cơ sở, 91.7 cho Qwen trên GPQA Diamond sau khi tinh chỉnh theo chỉ dẫn. Ngay cả so sánh MMLU, 93.3 với một mô hình không công bố MMLU, cũng không có gì để đặt cạnh.

Đây không phải là lời chê bai mô hình nào trong hai mô hình. Đó là một nhận định về mục đích của việc đánh giá mô hình nền. Điểm 40,1 trên LiveCodeBench từ một checkpoint chưa từng thấy chỉ dẫn nào là một nhận định về lượng cấu trúc lập trình mà quá trình tiền huấn luyện đã hấp thụ, và xét theo cách hiểu đó thì đây là một con số hợp lý. Nó không cho bạn biết gì về việc cùng bộ trọng số đó sẽ đạt điểm bao nhiêu sau khi được ai đó tinh chỉnh. Chưa ai, kể cả Baidu, công bố con số đó.

Bảng duy nhất có thể đọc theo đúng giá trị bề mặt là bảng của chính Baidu, vì cả bốn cột đều được chạy qua cùng một pipeline, prompt và cấu hình few-shot. So với DeepSeek-V4-Flash-Base (284B-A13B), Hy3-preview-Base (295B-A21B) và MiMo-V2.5-Base (310B-A15B), ERNIE-5.5-Flash-Base đạt best-in-row trên 24 trong số 30 benchmark, bao gồm MMLU-Pro với 78,4 so với 69,2, HumanEval+ với 82,3 so với 69,5 và RepoQA với 91,7 so với 81,0. Mô hình này thua DeepSeek ở ChineseSimpleQA, thua Hy3 ở FullStackBench và BBH chain-of-thought, và thua DeepSeek ở cả HELMET-Rerank lẫn InfiniteBench. Đây là những con số do nhà cung cấp tự chạy trên một harness do nhà cung cấp tự chọn, không có tái lập độc lập — nhưng chúng có thể so sánh nội bộ, điều mà không thể nói được với bất kỳ cặp so sánh liên nhà cung cấp nào trong bài viết này.

Chi phí của từng tuyến là bao nhiêu, kèm theo phép tính được trình bày rõ.

Qwen 3.8 Flash là mô hình dễ định giá. Lấy một khối lượng công việc hỗ trợ và trích xuất gồm 1.000 yêu cầu mỗi ngày, trung bình 6.000 token đầu vào và 800 token đầu ra: 6M token đầu vào và 0,8M token đầu ra mỗi ngày, tức 180M và 24M trong một tháng 30 ngày. Với $0.15 và $0.47 mỗi triệu, đó là $27.00 cộng $11.28 — $38.28 một tháng, với các lượt đọc từ bộ nhớ đệm ở mức $0.0184 mỗi triệu giúp giảm thêm phần lời nhắc hệ thống định kỳ.

ERNIE-5.5-Flash-Base không có mục chi phí tương đương, nên mô hình chi phí trung thực duy nhất là phần cứng. Kho lưu trữ FP8 gồm 128 phân mảnh, mỗi phân mảnh khoảng 2,25 GB, tức khoảng 288 GB trọng số; phiên bản BF16 tương ứng gấp đôi con số đó. Lệnh khởi chạy SGLang của chính Baidu chia nó thành bốn phần với --tp 4, đặt khoảng 72 GB trọng số lên mỗi GPU trước khi có bất kỳ KV cache nào — chỉ khả thi trên card 80 GB nếu bạn không bao giờ dùng cửa sổ ngữ cảnh, và thoải mái trên các card hạng H200. Thuê bốn card như vậy ở mức trung bình 2–3 đô la/GPU-giờ thì nút tốn khoảng 5.800–8.600 đô la một tháng khi chạy liên tục, trước khi bạn trả tiền cho bất kỳ ai để tinh chỉnh, đánh giá nó, hoặc giữ cho ngăn xếp phục vụ luôn cập nhật.

Đó vào khoảng 150 đến 225 lần hóa đơn API Qwen trong ví dụ trên, và phép so sánh này cố ý không công bằng theo một hướng: hai bên không phải là thứ thay thế cho nhau cho đến khi ai đó huấn luyện hậu kỳ checkpoint ERNIE. Mục đích của phép tính không phải là tự vận hành thì đắt — mà là chi phí cố định là có thật và nó phát sinh trước khi mô hình có thể trả lời một chỉ dẫn duy nhất, nên khối lượng mà tại đó sở hữu nó tốt hơn thuê một thứ đã hoàn thiện cao hơn nhiều so với những gì một phép so sánh theo từng token gợi ý.

Ngữ cảnh dài là điểm mà hai thiết kế hội tụ.

Cả hai mô hình đều tuyên bố xử lý được một triệu token, và cả hai đạt được điều đó nhờ không thực hiện cơ chế chú ý đầy đủ trên toàn bộ một triệu vị trí. Các lớp HCA của ERNIE lưu cache một mục duy nhất cho mỗi 128 token, nên 37 trong số 43 lớp của nó tăng KV cache chậm hơn 128 lần so với một lớp thông thường; sáu lớp MLA vẫn duy trí khả năng truy cập toàn độ phân giải cho những token cần đến nó. Mô hình lai GDN-plus-QSA của Qwen thực hiện kiểu đánh đổi tương tự từ phía chú ý thưa, và 6B tham số hoạt động của nó giữ chi phí tính toán trên mỗi token ở mức thấp bất kể cơ chế chú ý đang làm gì.

Đối với người đọc, khác biệt thực tế không phải ở chỗ thiết kế nào khéo léo hơn — cả hai đều đáng tin cậy — mà ở chỗ chỉ một trong hai đi kèm một cái giá để thực sự sử dụng ngữ cảnh đó. Một lời nhắc triệu token trên Qwen 3.8 Flash hôm nay đã có một con số cụ thể gắn với nó. Trên ERNIE-5.5-Flash-Base, cùng lời nhắc đó có một ước tính giờ GPU và một câu hỏi không thể trả lời về việc một mô hình cơ sở sẽ hành xử ra sao ở độ dài đó khi không có tinh chỉnh theo chỉ dẫn.

Ai nên chọn cái nào

Chọn Qwen 3.8 Flash nếu bạn cần một mô hình tuân thủ chỉ dẫn ngay lúc này, nếu đầu vào của bạn gồm ảnh chụp màn hình, tài liệu hoặc video, nếu bạn muốn hóa đơn ngữ cảnh dài trở thành bài toán quy hoạch dung lượng của người khác, và nếu mức $0.15/$0.47 trên mỗi triệu token phù hợp với kinh tế đơn vị của thứ bạn đang xây dựng. Mô hình này mới ra mắt được hai tháng, đã được các công cụ theo dõi của bên thứ ba ghi nhận kể từ khi ra mắt, và các con số của nhà cung cấp — SWE-bench Pro 62.5, GPQA Diamond 91.7, CoWorkBench 73.9 — là những tuyên bố chứ không phải kết quả đã được kiểm chứng, nên hãy coi chúng là giới hạn trên cho đến khi bài đánh giá của chính bạn nói khác.

Chọn ERNIE-5.5-Flash-Base nếu bạn có năng lực hậu huấn luyện và lý do để sở hữu mô hình thay vì thuê nó: một lĩnh vực mà bạn không thể gửi dữ liệu của mình tới API, một khối lượng công việc tiếng Trung và tiếng Anh mà ở đó CMMLU 90.0 và ChineseSimpleQA 73.0 là những con số bạn quan tâm, một chương trình nghiên cứu RL muốn có điểm khởi đầu 280B-A14B, hoặc một ngân sách độ trễ biện minh cho một nút bốn GPU chuyên dụng. Bạn cũng cần yên tâm rằng giấy phép là một thỏa thuận tùy chỉnh của Baidu, không phải Apache, và rằng mô hình không làm được gì hữu ích cho đến khi đội của bạn làm cho nó trở nên hữu ích.

Đừng chọn cái nào, tuy vậy, nếu điều bạn thực sự muốn là một mô hình đa dụng đã được chứng minh. Qwen 3.8 Flash là một sản phẩm hoàn chỉnh nhưng không có điểm đánh giá độc lập, còn ERNIE-5.5-Flash-Base là một mô hình chưa hoàn thiện với bảng điểm chuẩn của nhà cung cấp. Cả hai đều không phải lựa chọn mặc định an toàn như một mẫu flagship hai năm tuổi.

Thực hiện thử nghiệm mà không đặt cược cả lộ trình vào đó

Phần trớ trêu của cuộc so sánh này là hai bên được tiếp cận theo những cách hoàn toàn khác nhau, và lớp định tuyến chỉ giúp ích cho đúng một trong hai. Qwen 3.8 Flash có sẵn qua OrcaRouter với tên qwen/qwen3.8-flash, theo giá niêm yết của nhà cung cấp với mức cộng thêm 0% — đúng mức $0.15 và $0.47 mà nhà cung cấp tính, được chuyển thẳng, không cộng thêm gì cho chặng trung gian. ERNIE-5.5-Flash-Base không phải là thứ chúng tôi cung cấp: đó là một bản phát hành trọng số, và không tồn tại endpoint được host nào cho nó để định tuyến tới, ở đây hay ở bất kỳ nơi nào khác mà chúng tôi có thể tìm thấy.

Điều mà một endpoint duy nhất thực sự hữu ích trong tình huống này chính là phần diễn ra sau thử nghiệm. Con đường thực tế cho một ERNIE 5.5 Flash là một nhóm huấn luyện hậu kỳ (post-train) checkpoint gốc, và khi đó câu hỏi trở thành liệu mô hình đã tinh chỉnh có vượt Qwen 3.8 Flash trên chính lưu lượng của bạn hay không. Khi cả hai nằm sau một khóa duy nhất, đó là việc đổi model-id chứ không phải thêm một hợp đồng thứ hai và một SDK thứ hai, DSL định tuyến có thể chia lưu lượng production giữa hai mô hình trong khi bạn quyết định, và chuyển đổi dự phòng tự động nghĩa là một ứng viên thắng chưa được kiểm chứng không thể làm sập toàn bộ tính năng ngay ngày đầu tiên nó gặp sự cố. Model fusion mang đến cho bạn lựa chọn thứ ba — một hội đồng cùng trả lời — mà thường là cách rẻ nhất để tìm ra liệu một bản tinh chỉnh mới thực sự tốt hơn mô hình hiện tại hay chỉ đơn thuần là khác biệt.

Điều gì sẽ làm thay đổi câu trả lời này?

Ba điều, theo thứ tự gần đúng về khả năng xảy ra. Một ERNIE 5.5 Flash được tinh chỉnh theo chỉ dẫn sẽ biến điều này từ một sự lệch loại thành một cuộc đối đầu thực sự, và các con số của bản base cho thấy nó sẽ cạnh tranh — 82,3 trên HumanEval+ và 91,7 trên RepoQA từ một checkpoint chưa được tinh chỉnh là một vị thế khởi đầu mạnh. Một mục ERNIE 5.5 trên bảng giá của Qianfan sẽ cho phép tính toán về tự vận hành có thứ để so sánh và cho bạn biết liệu Baidu định bán mô hình này hay cho không. Và điểm số của bên thứ ba cho một trong hai mô hình sẽ giúp người đọc thôi tin tưởng vào các bảng của nhà cung cấp, đó chính là tình trạng mà cặp đôi này đang mắc kẹt hôm nay: Qwen 3.8 Flash không có kết quả đánh giá độc lập nào mang tên mình, và ERNIE-5.5-Flash-Base không có dòng nào trên bất kỳ bảng xếp hạng trung lập nào.

Cho đến khi hai trong số đó ra mắt, "cái nào tốt hơn" không phải là câu hỏi mà bất kỳ ai đã đo đạc được. Điều có thể trả lời ngay hôm nay thì hẹp hơn và hữu ích hơn: Qwen 3.8 Flash là một mô hình bạn có thể gọi, còn ERNIE-5.5-Flash-Base là một mô hình bạn có thể xây dựng lên trên. Đó là những công việc khác nhau, và không bảng benchmark nào có thể phân định được bạn đang có cái nào.