ERNIE Light DT 1.0 so với ERNIE 5.5 Flash Base: Giấy phép chính là sản phẩm

ERNIE Light DT 1.0 và ERNIE 5.5 Flash Base là câu trả lời của cùng một phòng thí nghiệm cho hai câu hỏi khác nhau, được công bố cách nhau năm ngày vào tháng 11 năm 2026. Light DT là một API: không có trọng số, không có thẻ mô hình, giá 1,13 USD cho mỗi triệu token đầu vào và giới hạn đầu ra 131.072 token. Flash Base là bản tải xuống: 280 tỷ tham số, 14 tỷ tham số hoạt động trên mỗi token, 33,5 nghìn tỷ token huấn luyện, và hoàn toàn không có endpoint được lưu trữ nào từ Baidu. Việc lựa chọn giữa hai mô hình này thực ra không phải là về các benchmark — cả hai đều không có điểm số công bố nào đáng để tranh cãi — mà là về việc bạn muốn thuê một ngăn xếp phục vụ hay sở hữu giấy phép để xây dựng trên đó.

Và giấy phép chính là điểm mà ở đó phép so sánh không còn đối xứng nữa, bởi vì giấy phép của Flash Base quy định cụ thể một cách lạ thường về nơi bạn được phép sử dụng nó và những người bạn phải thông báo.

Hai hiện vật, một phòng thí nghiệm, cách nhau năm ngày

Flash Base ra mắt ngày 5 tháng 11 năm 2026 cùng một báo cáo kỹ thuật và trọng số mở trên Hugging Face ở hai độ chính xác — FP8 và BF16 — được phát hành theo Giấy phép Mô hình ERNIE 5.5 Flash Base v1.0. Đây là một checkpoint tiền huấn luyện, nghĩa là các trọng số bạn nhận được là những trọng số sinh ra từ quá trình tiền huấn luyện, trước mọi công việc tinh chỉnh theo chỉ dẫn hoặc tối ưu sở thích. Không có chat template nào đáng gọi là chat template, và cũng không có phiên bản instruct song hành nào được công bố kèm theo.

Light DT ra mắt ngày 10 tháng 11 năm 2026 dưới dạng một điểm cuối API quốc tế, được Baidu mô tả là dựa trên các mô hình GLM mã nguồn mở, có tích hợp nghiên cứu từ dòng Search “Lightning” của công ty, và được xây dựng xoay quanh Baidu Sparse Attention cùng một cơ chế nén lịch sử dựa trên phản hồi mà nhà cung cấp cho biết giúp cắt giảm dung lượng lưu trữ và khối lượng tính toán của KV-cache. Nó được huấn luyện hậu kỳ, trả lời câu hỏi, gọi công cụ và không tồn tại dưới dạng một tệp mà bạn có thể tải xuống.

Nói theo cách đó thì cặp này trông lệch hẳn về phía hiển nhiên: một bên là sản phẩm hoàn chỉnh, bên kia là điểm khởi đầu. Nhưng giá cả lại nói ngược lại, còn giấy phép lại nói một điều khác nữa.

Bảng giá đi ngược hướng

Light DT có chi phí mỗi token cao hơn một mô hình có số tham số hoạt động gấp hai mươi lần. Đó là sự thật cần ngẫm kỹ trước bất cứ điều gì khác trong bài viết này:

• Giá đầu vào — ERNIE Light DT 1.0 ở mức $1.13 mỗi triệu token so với ERNIE 5.5 Flash Base ở mức $0, vì không có endpoint Baidu và do đó không có giá niêm yết. $0 là có thật: việc lưu trữ nó là một chi phí vốn, không phải một dòng trên hóa đơn.

Giá đầu ra — $3.94 mỗi triệu cho Light DT; với Flash Base, số giờ GPU của chính bạn.

• Đầu vào đã được lưu đệm — $0.113 mỗi triệu trên Light DT, giảm giá gấp mười lần cho các lượt đọc từ bộ nhớ đệm. Flash Base không có tương đương vì bài toán chi phí bộ nhớ đệm sẽ trở thành vấn đề của bộ lập lịch bạn.

• Số tham số hoạt động trên mỗi token — không được tiết lộ đối với Light DT; 14 tỷ đối với Flash Base.

• Ngữ cảnh — 1.024.000 token cho Light DT; 1.000.000 cho Flash Base trong tinh chỉnh và suy luận, với 128.000 là ngữ cảnh huấn luyện tối đa.

• Đầu ra tối đa — 131,072 token cho Light DT; được giới hạn bởi cấu hình phục vụ của bạn cho Flash Base.

• Trọng số — không có cho Light DT; 280B ở FP8 hoặc BF16, được chia thành 128 mảnh safetensors trong kho FP8, dành cho Flash Base.

• Stack phục vụ — của Baidu, cho Light DT; SGLang hoặc vLLM với plugin riêng của Baidu, cho Flash Base. Công thức SGLang đã công bố yêu cầu song song tensor bằng 4 và kích thước data-parallel của attention bằng 4, tức mức sàn bốn GPU trước khi bạn nạp một yêu cầu nào.

Tự vận hành 280B thực sự tốn bao nhiêu chi phí trên mỗi triệu token?

Đây là phép tính quyết định cuộc đối đầu, và nên làm bằng những con số tròn thay vì cảm tính.

Bốn GPU là mức sàn cho cấu hình đã công bố, nhưng 280B tham số ở FP8 là khoảng 280 GB trọng số trước bất kỳ bộ nhớ đệm nào, nên một nút sản xuất thực tế là tám bộ tăng tốc với chỗ cho bộ nhớ đệm KV và xử lý theo lô. Gọi đó là tám thẻ cấp H100 với giá thuê hỗn hợp 2 đô-la mỗi thẻ-giờ — một con số giữa thị trường năm 2026, không phải báo giá — thì nút này tốn khoảng 16 đô-la một giờ, tức khoảng 11.700 đô-la một tháng nếu chạy liên tục.

Giờ đến câu hỏi về thông lượng. Một MoE thưa kích hoạt 14 tỷ tham số mỗi token thì nhanh trên mỗi token theo cách mọi mô hình thưa đều nhanh, nhưng thông lượng tổng hợp trên một lô mới là thứ quyết định chi phí đơn vị của bạn, và Baidu không công bố con số token/giây nào cho checkpoint này. Giả sử một cách thận trọng rằng nút duy trì được 4.000 token đầu ra mỗi giây trên toàn bộ một lô. Đó là 14,4 triệu token đầu ra mỗi giờ, mà với $16 một giờ thì rơi vào khoảng $1,11 mỗi triệu token đầu ra — trước khi tính tổn thất do mức sử dụng, trước khi tính đến kỹ sư phụ trách triển khai, trước cả những giờ nhàn rỗi khi lưu lượng giảm.

Chạy nó ở một phần ba công suất, điều mà hầu hết các triển khai thực tế làm ngoài giờ cao điểm, và chi phí thực tế sẽ tăng gấp ba. Tóm tắt thẳng thắn là tự host Flash Base tốn khoảng từ một đến ba đô la cho mỗi triệu token đầu ra, tùy thuộc vào mức độ bạn lấp đầy node — một khoảng bao trùm mức $3.94 của Light DT và có thể vượt qua nó một cách thoải mái khi tận dụng cao.

Điều đó có nghĩa là khoản phụ giá của Light DT không phải là một thứ thuế đánh vào sự thiếu hiểu biết. Đó là khoản Baidu thu để bạn không phải tự thực hiện phép tính đó, và cho một sơ đồ nén mà họ khẳng định giữ bộ nhớ đệm đủ nhỏ để cửa sổ một triệu token vẫn có thể phục vụ với chi phí hợp lý. Nếu lưu lượng của bạn tăng vọt thất thường, khối lượng thấp hoặc chủ yếu là ngữ cảnh dài, thì việc trả $3.94 và để người khác gánh bài toán tận dụng là lựa chọn hợp lý.

Giấy phép, chính là chỗ Flash Base trở nên phức tạp

Giấy phép của Flash Base không phải là giấy phép tự do tiêu chuẩn, và ba điều khoản quan trọng hơn bất kỳ chỉ số đánh giá nào.

• Lãnh thổ. Việc cấp phép áp dụng cho "tất cả các khu vực địa lý trên toàn thế giới ngoại trừ Liên minh châu Âu, Vương quốc Anh và Hàn Quốc." Việc sử dụng trọng số hoặc phân phối các sản phẩm phái sinh bên ngoài lãnh thổ đó nằm ngoài các quyền được cấp. Nếu bạn có người dùng EU, vùng suy luận EU hoặc nhân sự EU tiếp xúc với mô hình, đây là vấn đề chặn cần đọc kỹ với cố vấn pháp lý chứ không phải một chú thích nhỏ.

• Ngưỡng doanh thu. Sử dụng thương mại được miễn phí dưới 50 triệu USD doanh thu hằng năm liên quan đến các sản phẩm hoặc dịch vụ sử dụng mô hình, với điều kiện phải thông báo một lần cho Baidu. Trên mức đó, bạn cần có văn bản ủy quyền thương mại riêng trước khi bắt đầu, và nếu bạn tăng trưởng vượt ngưỡng, bạn phải được ủy quyền trước khi vượt qua ngưỡng đó hoặc tạm ngừng việc sử dụng bị ảnh hưởng.

• Ghi công. Các sản phẩm thương mại phải hiển thị chính xác cụm từ "Powered by ERNIE" ở một vị trí dễ tiếp cận — giao diện người dùng, trang giới thiệu, hoặc, đối với API và dịch vụ backend, tài liệu dành cho nhà phát triển.

Cũng có một điều khoản đáng lưu ý cho bất kỳ ai dự định chưng cất: giấy phép cấm sử dụng các tài liệu hoặc đầu ra của chúng để cải thiện bất kỳ mô hình AI nào khác ngoài chính mô hình đó hoặc các mô hình phái sinh của nó. Việc huấn luyện một mô hình học trò nhỏ hơn trên đầu ra của Flash Base nằm trong phạm vi được cấp phép; còn huấn luyện một kiến trúc khác trên các đầu ra đó thì không.

Light DT không gặp phải những vấn đề này vì nó không có trọng số nào để cấp phép. Bạn nhận được một thỏa thuận điều khoản dịch vụ và một bảng giá, tức là phạm vi nhỏ hơn nhiều đối với đội pháp lý và cũng là phạm vi nhỏ hơn nhiều đối với tham vọng.

Khả năng: mỗi cái sẽ làm gì và sẽ không làm gì ngay khi dùng.

• Kiểm soát suy luận — Light DT cung cấp bốn mức nỗ lực (max, high, low, none), với max là mặc định. Flash Base hoàn toàn không có chế độ suy luận; đây là một mô hình completion, và mọi hành vi suy luận sẽ là thứ bạn phải huấn luyện vào.

• Gọi công cụ — Light DT hỗ trợ gọi hàm với lựa chọn công cụ bắt buộc, đầu ra có cấu trúc và định dạng phản hồi JSON. Flash Base hỗ trợ bất kỳ thứ gì bạn triển khai xung quanh nó.

• Phương thức — cả hai đều là văn bản vào, văn bản ra. Không cái nào nhận hình ảnh và không cái nào sẽ đọc tài liệu quét cho bạn.

• Ngữ cảnh dài — Light DT quảng cáo 1,024,000 token nhờ thiết kế bộ nhớ đệm nén của nó. Flash Base hỗ trợ 1M trong quá trình tinh chỉnh và suy luận, nhưng ở độ dài đó trên tám card, ngân sách KV cache của bạn là ràng buộc quyết định, và kỹ thuật nén mà Baidu tích hợp vào chính cơ chế attention của Flash — Heavily Compressed Attention trên 37 trong số 43 lớp của nó — chính là thứ khiến điều đó trở nên khả thi.

• Đánh giá — Flash Base công bố bảng số liệu đầy đủ của nhà cung cấp: MMLU 93.3, MMLU-Pro 78.4, GPQA 60.2, HumanEval+ 82.3, LiveCodeBench 40.1, HELMET-RAG 71.5, LongBench-v2 48.7, được đo so với DeepSeek-V4-Flash-Base, Hy3-preview-Base và MiMo-V2.5-Base theo cùng một pipeline. Đó là số liệu của chính Baidu, do Baidu chạy, và cần được hiểu đúng như vậy. Light DT không công bố gì cả.

Dòng cuối cùng đó chính là sự bất đối xứng quan trọng nhất đối với người mua. Flash Base ít nhất cho phép bạn kiểm tra các tuyên bố của nó — tải trọng số xuống, tự chạy đánh giá của bạn và xem liệu bảng của nhà cung cấp có đúng trên dữ liệu của bạn hay không. Light DT yêu cầu bạn tin vào cơ chế bằng niềm tin, bởi vì bằng chứng duy nhất có sẵn chỉ là một đoạn nội dung quảng cáo sản phẩm.

Nơi bộ định tuyến phù hợp và nơi nó không phù hợp.

Cả hai mô hình này hiện đều không có trong danh mục của OrcaRouter, và nói khác đi sẽ là kiểu sai lầm khiến người đọc mất cả tuần. Điều mà một router thực sự thay đổi chính là hình dạng của quyết định.

Nếu bạn chọn con đường Flash Base, bạn đang dồn vốn và nhân lực vào một mô hình mà bạn có thể đo được chất lượng nhưng không thể khắc phục chi phí phục vụ — và kiến trúc hợp lý là giữ một mô hình chạy trên dịch vụ lưu trữ đằng sau cùng giao diện làm phương án dự phòng cho những ngày node của bạn đầy, batch của bạn bị nguội, hoặc một lượt đánh giá đang chiếm dụng các card. Nếu bạn chọn con đường Light DT, bạn đang gắn bó với endpoint của một nhà cung cấp duy nhất mà không có nhà cung cấp thứ hai phía sau và không có trọng số để chuyển đi nếu giá thay đổi.

Dù theo cách nào, kiểu thất bại vẫn như nhau: một khối lượng công việc ngữ cảnh dài bị ghim vào một mô hình mà không có cách nào so sánh chi phí của lựa chọn thay thế sẽ là bao nhiêu. Đó là điều mà một endpoint được định tuyến với bảng giá theo từng mô hình giải quyết — không phải bằng cách chọn thay bạn, mà bằng cách làm cho chi phí của lựa chọn hiện rõ theo từng yêu cầu thay vì theo từng quý.

Chọn cái nào?

Hãy chọn ERNIE 5.5 Flash Base nếu bạn có bài toán huấn luyện thay vì bài toán phục vụ: bạn muốn một điểm khởi đầu thưa 280B, bạn định tinh chỉnh mô hình, người dùng và hạ tầng của bạn nằm ngoài EU, Vương quốc Anh và Hàn Quốc, và bạn ở dưới ngưỡng doanh thu hoặc sẵn sàng xin Baidu cấp phép. Bảng điểm chuẩn của nhà cung cấp cho bạn một mốc cơ sở có thể biện hộ được, và các trọng số đồng nghĩa với việc không ai có thể lấy mô hình khỏi bạn.

Nếu cửa sổ ngữ cảnh là mấu chốt, hãy chọn ERNIE Light DT 1.0. Một triệu token được phục vụ qua bộ đệm nén, với ngân sách suy luận có thể điều chỉnh và khả năng gọi công cụ, là một sản phẩm cụ thể cho một công việc cụ thể — tài liệu truy xuất dài, bản ghi tác nhân dài, phiên chạy dài — và trả phí cao hơn mỗi token để không phải tự quản lý ngân sách bộ đệm là một đánh đổi hợp lý.

Đừng chọn cái nào trong hai nếu prompt của bạn ngắn. Với 8.000 token mỗi yêu cầu, toàn bộ câu chuyện kiến trúc ở cả hai bên đều không còn liên quan, và $1.13 cho mỗi triệu token đầu vào đơn giản chỉ là một cách tốn kém để làm điều mà một mô hình có giá bằng một phần mười sẽ làm tốt không kém.