Ling-3.1-flash-1019 vs Ling-3.1-flash: Cùng kích thước, cùng mức giá, nhưng hóa đơn token lớn hơn

Nếu bạn thuê theo token, Ling-3.1-flash-1019 là một bản nâng cấp miễn phí so với Ling-3.1-flash. Cả hai đều có giá niêm yết $0.30 mỗi triệu token đầu vào và $0.90 mỗi triệu token đầu ra, cả hai đều dùng giấy phép MIT, cả hai đều là mô hình mixture-of-experts 560B tham số với 25B tham số hoạt động, và cả hai đều chiếm 573.8 GB trên đĩa. Nếu bạn trả theo tác vụ hoàn thành, bản nâng cấp đắt hơn gần 47%: Artificial Analysis đo được $1.49 mỗi tác vụ Intelligence Index cho bản 1019 so với $1.01 cho bản tiền nhiệm, vì mô hình mới hơn tạo ra khoảng 59% token đầu ra nhiều hơn để đạt được câu trả lời. Mức tăng ba điểm trên chỉ số giữa hai mô hình — 44 so với 41 — là có thật. Câu hỏi mà trang này trả lời là ai nên trả tiền cho nó.

Các mốc ngày rất quan trọng để đọc phần còn lại. Ling-3.1-flash được mở nguồn theo giấy phép MIT vào giữa tháng 10, với kho lưu trữ được tạo ngày 13 tháng 10 và thông báo của Ant tiếp theo vào ngày 15 tháng 10. Bản dựng 1019 được công bố ngày 22 tháng 10 kèm một điểm số và không có bản tải xuống, còn trọng số cùng một checkpoint cơ sở của nó được phát hành vào ngày 27 tháng 10. Vậy đây không phải là khoảng cách thế hệ. Đó là một lần chạy hậu huấn luyện áp dụng cho cùng kiến trúc, được phát hành năm ngày sau con số mô tả nó.

Hai điểm kiểm tra có điểm gì chung

Mức trùng lặp đủ lớn đến mức chi phí chuyển đổi thực tế bằng không, đây là lý lẽ chính cho bản dựng mới hơn:

• Kiến trúc — 72 lớp, được chia thành 63 lớp KDA linear-attention và 9 lớp MLA có cổng theo tỷ lệ 7:1, cộng với 4 lớp dense.

• Chuyên gia — 512 được định tuyến, 8 được kích hoạt mỗi token, 1 dùng chung; kích thước ẩn 4.096; từ vựng 157.184.

• Trọng số trên đĩa — 573.8 GB FP8 safetensors trải trên 54 phân mảnh cho cả hai, theo số đếm của chúng tôi từ danh sách tệp của hai kho lưu trữ.

• Giấy phép — MIT cho cả hai, bao gồm việc phân phối lại vì mục đích thương mại.

• Giá — $0.30 cho đầu vào, $0.90 cho đầu ra, $0.06 cho đọc bộ nhớ đệm, giá pha trộn $0.19 ở tỷ lệ 7:2:1 trúng bộ nhớ đệm/đầu vào/đầu ra.

• Ngữ cảnh được công bố — cửa sổ 1M token trên cả hai thẻ mô hình; 262,144 vị trí và không có RoPE scaling trong cả hai tệp config.json.

Dòng cuối cùng đó là điều đầu tiên cần ghi nhớ trước khi so sánh hai mô hình. Trên lý thuyết, cả hai đều cung cấp một triệu token. Trong cấu hình phát hành thực tế, cả hai đều tối đa 256K trừ khi bạn bổ sung một phương án mở rộng mà Ant chưa đưa vào. Hạn chế này giống hệt nhau ở cả hai bên, nên nó không quyết định cuộc so tài — nhưng nó có nghĩa là không bản nào trong hai bản là mô hình triệu token như tài liệu quảng cáo, và bất kỳ ai đang lên kế hoạch cho khối lượng công việc 1 triệu token đều đang chọn giữa hai mô hình mà cả hai đều sẽ cần điều chỉnh để đạt được mức đó.

Ba điểm này đến từ đâu

Artificial Analysis tự đo khoảng cách chính: {{1}}41{{/1}} cho {{2}}Ling-3.1-flash{{/2}} và {{3}}44{{/3}} cho {{4}}Ling-3.1-flash-1019{{/4}} trên Intelligence Index v4.3.2, với mô hình cũ hơn xếp {{5}}thứ tám trong số 122{{/5}} và mô hình mới hơn xếp {{6}}thứ tư{{/6}}. Đó là phép đo độc lập cho cả hai đầu mút, khiến {{7}}mức chênh lệch ba điểm{{/7}} trở thành con số đáng tin cậy nhất trong so sánh này.

Bảng phân tích chi tiết theo từng benchmark là do nhà cung cấp báo cáo và cần được hiểu đúng như vậy — nó đến từ model card của Ant, không phải từ một harness công khai:

• AA-Briefcase — khoảng 1.400 Elo đến 1.524 Elo. Đây là bộ đánh giá (benchmark) về sản phẩm đầu ra của lao động tri thức, và mức tăng 124 điểm là mức tăng tương đối lớn nhất trong toàn bộ.

• AutomationBench-AA — 62% đến 68%, mức cải thiện sáu điểm về tự động hóa tác vụ dựa trên tác nhân AI.

• CritPt — từ 18% lên 26%, mức tăng theo tỷ lệ lớn nhất: tám điểm trên một bộ bài tập suy luận vật lý, nơi điểm tuyệt đối đều thấp với tất cả mọi người.

• SciCode — 54% đến 57%, mức thay đổi nhỏ nhất trong số bốn, và là mục cần được cân nhắc thận trọng nhất; Artificial Analysis đánh dấu SciCode là đang trong diện xem xét đối với mô hình này.

Khi đọc cùng nhau, mô thức này nhất quán với những gì Ant nói là mình đã làm: post-training nhiều hơn về suy luận và công việc tác nhân nhiều bước, chứ không phải một bề mặt năng lực mới. Các mức tăng tập trung ở nơi chuỗi quyết định dài và nơi một câu trả lời đúng một phần vẫn được tính điểm một phần. Chúng mỏng nhất ở việc sinh mã khoa học thuần túy, đúng là nơi bạn sẽ kỳ vọng một lần làm mới post-training, chứ không phải một thay đổi kiến trúc, sẽ dịch chuyển ít nhất.

Cái giá phải trả: suy nghĩ nhiều hơn 59%

Đây là điểm hai mô hình không còn thay thế được cho nhau. {{1}}Artificial Analysis ghi nhận 220 triệu token đầu ra cho lần chạy chỉ số Ling-3.1-flash và 350 triệu cho lần chạy 1019{{/1}} — tỷ lệ 1,59 — và xếp bản dựng mới hơn đứng cuối trong 48 mô hình về mức độ dài dòng, so với mức trung vị 140 triệu. {{2}}Chi phí hoàn thành chỉ số đã tăng từ 1,01 đô la lên 1,49 đô la mỗi tác vụ.{{/2}}

Hãy quy đổi quy mô đó cho một khối lượng công việc. Với 10.000 tác vụ dạng chỉ mục, các con số trên mỗi tác vụ ngụ ý khoảng 10.100 USD trên checkpoint cũ hơn và 14.900 USD trên bản mới hơn. Phía token cũng mở rộng theo cách tương tự: một khối lượng công việc tiêu thụ 2,2 tỷ token đầu ra trên Ling-3.1-flash sẽ tiêu thụ khoảng 3,5 tỷ token trên bản build 1019 theo tỷ lệ đo được, mà ở mức 0,90 USD mỗi triệu thì là 1.980 USD so với 3.150 USD. Phần còn lại của chênh lệch trên mỗi tác vụ đến từ giá đầu vào và giá cache, nhưng hướng thì được quyết định bởi số lượng token: bạn đang mua ba điểm chỉ mục bằng khoảng 0,6 câu trả lời thêm cho mỗi câu trả lời.

Việc đó có phải là một đánh đổi tốt hay không phụ thuộc vào kiểu hỏng hóc mà bạn đang phòng ngừa. Trong một vòng lặp tác nhân, nơi một lệnh gọi công cụ sai kích hoạt thử lại, đọc lại ngữ cảnh hoặc rà soát bởi con người, thêm 59% token là rẻ so với việc tránh được một vòng lặp. Trong phân loại, trích xuất, trò chuyện ngắn hoặc bất kỳ tác vụ khối lượng lớn nào mà câu trả lời chỉ là một hoặc hai câu, tỷ lệ tương tự chỉ là chi phí phụ trội — và chỉ số sẽ không bao giờ cho thấy điều đó, vì chỉ số thưởng cho những trường hợp khó mà quá trình hậu huấn luyện nhắm tới.

Nửa còn lại của bức tranh chi phí là sự ổn định của mức giá. OrcaRouter đưa hơn 200 mô hình vào sau một khóa với mức cộng thêm 0% so với giá niêm yết của nhà cung cấp, vì vậy khi nhà cung cấp thay đổi giá, thay đổi đó được chuyển qua trong cùng ngày đối với các mô hình chúng tôi định tuyến. Dòng Ling hiện chưa có trong danh mục đó, nghĩa là các con số ở trên chỉ là giá niêm yết của Ant và không gì khác. Đó chính xác là lý do phép tính theo từng tác vụ quan trọng hơn mức giá theo từng token: mức giá là giống hệt nhau giữa hai mô hình này, nên nó không thể giúp bạn lựa chọn.

Tốc độ: chỉ có một con số duy nhất, và con số đó thuộc về mẫu cũ hơn

Artificial Analysis đo Ling-3.1-flash đạt 215,7 token đầu ra mỗi giây với thời gian đến token đầu tiên là 1,73 giây, xếp thứ sáu trong số 78 mô hình về tốc độ. Với Ling-3.1-flash-1019, cùng trang đó không có số liệu tốc độ đầu ra — tại thời điểm đo, không có API công khai nào để đo thời gian, và trọng số chỉ mới xuất hiện hôm nay. Vì vậy, mô hình nhanh hơn không phải là chuyện quan điểm; nó là mô hình duy nhất trong hai mô hình có một phép đo.

Kết hợp điều đó với tỷ lệ token và bạn có một ước tính có thể biện minh được, được ghi nhãn rõ ràng là phép tính số học chứ không phải một benchmark. Nếu cả hai bản build đều giải mã ở 215,7 token mỗi giây, một phản hồi dài 1.000 token trên Ling-3.1-flash sẽ mất khoảng 4,6 giây để giải mã; câu trả lời tương đương 1.590 token trên bản build 1019 sẽ mất khoảng 7,4 giây. Thời gian đến token đầu tiên là một biến số riêng và có thể thay đổi theo chiều hướng này hoặc chiều hướng kia. Vấn đề là mức tăng 59% token không thể là miễn phí về mặt thời gian thực trừ khi mô hình mới hơn cũng giải mã nhanh hơn một cách đáng kể, và chưa ai công bố bằng chứng rằng nó làm được như vậy.

Tự lưu trữ: cùng dấu chân, README khác

Trên phần cứng của riêng bạn, việc lựa chọn đơn giản hơn, vì mục tiêu triển khai không thay đổi. Cả hai checkpoint đều cần cùng một cấu hình được tài liệu hóa — tám H200 ở TP8 cộng EP8, hoặc bốn GB300 ở TP4 cộng EP4 — và cùng một image SGLang day-0, với một recipe vLLM sử dụng tensor parallelism bằng 8, expert parallelism và ba token suy đoán. Vì kiến trúc và kích thước tệp giống hệt nhau, 1019 là bản thay thế dùng ngay: hoán đổi đường dẫn trọng số, giữ nguyên ngăn xếp phục vụ, và không thứ gì khác trong hạ tầng của bạn cần biết.

Hai cảnh báo thực tế. Thứ nhất, phần Quickstart của thẻ mô hình 1019 vẫn trỏ đến inclusionAI/Ling-3.1-flash trong lệnh SGLang của nó và gửi "model": "Ling-3.1-flash" trong ví dụ client; nếu sao chép nguyên văn, bạn sẽ phục vụ mô hình 41 điểm trong khi tưởng mình đang kiểm thử mô hình 44 điểm. Thứ hai, checkpoint base mà Ant phát hành cùng 1019 là Ling-3.1-flash-base — base của mô hình cũ hơn, không phải bản chụp trước hậu huấn luyện của 1019. Nếu kế hoạch của bạn là tinh chỉnh bản nâng cấp, công thức đã tạo ra nó không có trong gói tải xuống. Nếu kế hoạch của bạn là xây dựng thứ gì đó của riêng mình từ một nền tảng 560B theo MIT, thì base là điểm khởi đầu đúng và khoảng cách chỉ số giữa hai checkpoint này không liên quan đến bạn.

Gọi chúng là: một tên, hai bản dựng

Câu chuyện API rối rắm hơn câu chuyện trọng số. Bản dựng 1019 là một checkpoint được đóng dấu ngày dưới một tên mà hầu hết mã phục vụ coi là cùng chuỗi mô hình như phiên bản tiền nhiệm của nó — kể cả các ví dụ của chính Ant, vốn gửi Ling-3.1-flash đến cả hai. Nếu bạn gọi một endpoint được lưu trữ, hãy chỉ định rõ bản dựng, nếu không bạn sẽ không biết bản nào đã phản hồi. Artificial Analysis không liệt kê API công khai nào cho 1019 tại thời điểm đo, vì vậy tính sẵn có hiện nay đi qua API riêng của nhà cung cấp và một số nền tảng bên thứ ba, thay vì một endpoint đã ổn định và được nhân bản rộng rãi.

Sự mơ hồ đó là lập luận mạnh nhất ủng hộ việc tự vận hành nếu bạn quan tâm đến khả năng tái lập, và là lập luận mạnh nhất ủng hộ việc chờ đợi nếu bạn không quan tâm. Một mô hình mà tên gọi không nhận diện được bản dựng của nó là mô hình bạn không thể kiểm toán sau khi sự việc đã xảy ra, và “44 trên chỉ số” không phải là một số phiên bản.

Cái nào, theo công việc

• Suy luận khó và tác vụ agent dài hạn — hãy dùng Ling-3.1-flash-1019. Mức cải thiện tập trung đúng ở đó, và số token tăng thêm chính là cơ chế, không phải tác dụng phụ.

• Trích xuất, phân loại và trò chuyện ngắn với khối lượng lớn — hãy tiếp tục dùng Ling-3.1-flash. Bạn sẽ phải trả nhiều hơn 47% cho mỗi tác vụ để có những năng lực mà các khối lượng công việc đó không dùng đến.

• Các sản phẩm nhạy cảm với độ trễ — hãy tiếp tục dùng Ling-3.1-flash cho đến khi có số liệu thông lượng độc lập cho 1019. Đây là sản phẩm duy nhất trong hai sản phẩm có tốc độ đã được đo.

• Tinh chỉnh hoặc thích ứng miền — hãy bắt đầu từ Ling-3.1-flash-base và bỏ qua cặp so sánh này. Không có checkpoint căn chỉnh nào đi kèm công thức huấn luyện.

• Một mô hình, lưu lượng hỗn hợp — Ling-3.1-flash-1019 làm mặc định, với bản dựng cũ hơn phía sau cho các yêu cầu ngắn, rẻ. Cả hai dùng chung kiến trúc, mức giá và ngăn xếp phục vụ, nên việc chia lưu lượng giữa chúng không tốn gì về mặt vận hành.

Điều có thể thay đổi phán quyết này là tốc độ giải mã đo được của bản dựng 1019. Nếu hóa ra nó nhanh hơn đáng kể so với 215,7 token mỗi giây, thì mức phạt thời gian thực sẽ thu nhỏ lại và hóa đơn token trở thành phản đối thực sự duy nhất. Nếu nó bằng hoặc chậm hơn, thì 59% sẽ xuất hiện hai lần — một lần trên hóa đơn và một lần trong độ trễ — và lập luận cho việc chạy cả hai checkpoint thay vì nâng cấp toàn diện sẽ mạnh hơn. Cho đến khi ai đó công bố con số đó, tóm tắt trung thực là Ling-3.1-flash-1019 mua chất lượng bằng token, còn Ling-3.1-flash bán thông lượng ở cùng mức giá. Không cái nào là câu trả lời sai; chúng là những sản phẩm khác nhau khoác cùng một kiến trúc.