Thẻ tiêu đề được tạo cho trang tham chiếu Ling-3.1-flash. Dòng tiêu đề chính ghi "Ling-3.1-flash" cùng dòng tiêu đề phụ "MoE của Ant Group với tổng 560B / 25B tham số hoạt động — hiện nay nó là gì". Một thẻ lớn bo tròn mang con số "41" được dán nhãn "Artificial Analysis Intelligence Index", và hai thẻ nhỏ hơn ghi "Trọng số: chưa công bố" và "Ngữ cảnh phục vụ: 256K". Một dòng chân trang ghi "Thông số kỹ thuật do nhà cung cấp Ant Ling báo cáo, công bố ngày 2026-09-30; Chỉ số được Artificial Analysis đo độc lập." Logo OrcaRouter được ghép ở góc dưới bên phải.
Guides & Insights

Ling-3.1-flash: MoE 560B mà Ant Group phục vụ nhưng chưa mở

Tác giả

Gideon Frost

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Câu trả lời ngắn gọn cho câu hỏi Ling-3.1-flash là gì: một mô hình ngôn ngữ mixture-of-experts suy luận lai thuộc dòng Ant Ling của Ant Group, khoảng 560 tỷ tham số tổng cộng với khoảng 25 tỷ tham số hoạt động trên mỗi token, một cửa sổ mà nhà cung cấp giới hạn ở 1 triệu token nhưng hiện cung cấp ở mức 256.000, văn bản vào và văn bản ra, và không có trọng số tải xuống được. Mô hình được công bố vào 2026-09-30 và đang hoạt động trong sản phẩm của chính Ant cũng như trên API của chính Ant. Ngày đó là nơi trang này bắt đầu và cũng là nơi trang này kết thúc: đó là dữ kiện xác định tuổi của mô hình, không phải một thông báo ra mắt mà bài viết này đang đưa tin. Điều mà người đọc tìm kiếm Ling-3.1-flash cần là trạng thái của thứ đó vào ngày họ đọc nó, và vào ngày bài này được viết, trạng thái của các trọng số vẫn là "chưa được công bố".

Ba sự thật đóng vai trò chính. Các trọng số chưa được công bố, và thông báo của chính Ant cho biết thời điểm họ dự định công bố chúng. Con số ngữ cảnh đang được lan truyền — 1M — là mức trần, không phải mức mà endpoint cung cấp cho bạn, vốn là 256K. Và thông số kỹ thuật thì có thể biết được, trong khi giá sau thời gian khuyến mãi thì không. Mọi thứ bên dưới đều có nguồn, và khi một con số là của chính Ant chứ không phải của bên thứ ba, điều đó sẽ được ghi rõ.

Một lưu ý về nơi trạng thái của mô hình này thực sự nằm. Thông báo ngày 2026-09-30 của Ant là tài liệu mang kiến trúc và điều kiện trọng số mở, và đó không phải là thứ mà nhà cung cấp cập nhật. Những trang thực sự được duy trì — các trang mô hình Ling và trang định giá trên trang nhà phát triển của Ant, mỗi trang đều ghi "Cập nhật lần cuối vào ngày 8 tháng 10 năm 2026" — mới mang tham số, các số ngữ cảnh và mức giá. Khi hai nguồn đó không khớp, hoặc khi thông báo nói nhiều hơn tài liệu, trang này sẽ nói rõ nó đang trích dẫn nguồn nào.

Ling-3.1-flash là gì và ai phát hành nó?

Ling-3.1-flash thuộc dòng họ Ling — dòng ngôn ngữ đa dụng của Ant Ling, chương trình mô hình mà Ant Group vận hành và công bố thông qua phòng thí nghiệm inclusionAI của mình (pháp nhân điều hành được nêu trên trang dành cho nhà phát triển là Ant Intelligence (Hang Zhou) Technology Co., Ltd.). Dòng họ này chia thành ba nhánh: Ling cho công việc ngôn ngữ tổng quát, Ring cho suy luận sâu, và Ming cho hiểu và tạo đa phương thức. Ling-3.1-flash là sản phẩm chủ lực của nhánh Ling, nằm trên Ling-3.0-flash, sản phẩm vẫn nằm trong danh mục với vai trò lựa chọn rẻ hơn, nhanh hơn.

Ant định vị nó một cách hẹp và nhất quán: các nhiệm vụ thực tế dài hạn, công việc văn phòng chạy từ một yêu cầu mơ hồ đến một sản phẩm bàn giao hoàn chỉnh, kỹ thuật phần mềm kéo dài hàng giờ, và các vòng lặp tác nhân gọi công cụ theo trình tự và tự sửa lỗi. Tóm tắt của chính nhà cung cấp về bản giới thiệu là nó giữ khoảng 560B dung lượng trong khi chỉ trả cho khoảng 25B mỗi bước, vì vậy kiến thức thế giới và độ sâu suy luận vẫn được giữ trong khi tính toán trên mỗi token thì không. Nó là phiên bản kế nhiệm của Ling-3.0-flash trong cùng một vị trí, không phải một tầng mới.

Trọng số đã được phát hành chưa? Chưa — và Ant đã nêu điều kiện.

Đây là dữ kiện gây tranh cãi nhất về mô hình này và câu trả lời ngày nay không hề mơ hồ: các trọng số không được công bố. Không có kho lưu trữ Ling-3.1-flash nào trên Hugging Face thuộc tổ chức inclusionAI, không có thẻ mô hình, không có văn bản giấy phép và không có tệp checkpoint; tìm kiếm trong các kho lưu trữ công khai của tổ chức này chỉ trả về thế hệ Ling-3.0 và trước đó, không có mục 3.1 nào. ModelScope, nơi Ant phản chiếu các bản phát hành của mình, cũng không có mô hình Ling-3.1-flash. Cũng không có công thức triển khai nào cho nó: kho lưu trữ Ling Cookbook của chính nhà cung cấp trên GitHub, được đẩy lần cuối vào 2026-10-12, một ngày trước trang này, chứa các công thức triển khai cục bộ và lượng tử hóa cho Ling-3.0-flash, Ling-3.0-flash-VL, Ling-3.0-flash-Fin và Ling-3.0-tiny, và không có gì cho Ling-3.1-flash. Đơn vị đánh giá độc lập Artificial Analysis xếp mô hình này là độc quyền, và FAQ của họ trả lời “Không” cho câu hỏi liệu mô hình có mã nguồn mở hay không.

Điều Ant đã làm là gắn một điều kiện vào việc mở, và nó cụ thể hơn "soon". Thông báo nêu rằng giai đoạn miễn phí phục vụ ngữ cảnh 256K, và rằng sau khi giai đoạn miễn phí kết thúc và mô hình chuyển sang dịch vụ trả phí, kế hoạch là mở cửa sổ 1M và mở mã nguồn mô hình cùng lúc. Vậy trình tự mà nhà cung cấp mô tả là: dùng thử ở 256K, rồi dịch vụ trả phí lên tới 1M, với các trọng số theo sau ở lần chuyển đổi đó. Đó là một kế hoạch, không phải một ngày, và không có ngày nào được công bố. Hãy coi mọi tuyên bố "Ling-3.1-flash đã mở trọng số" là sai cho đến khi có một kho lưu trữ tồn tại; hãy coi kế hoạch là ý định được nhà cung cấp nêu rõ, không phải một sự kiện.

Kích thước và kiến trúc: tổng 560B, 25B hoạt động, bảy lớp tuyến tính cho mỗi lớp toàn cục

Ant công bố kiến trúc ở mức độ chi tiết khiến các con số có thể được đối chiếu chéo với nhau thay vì chỉ được trích dẫn:

• Tổng số tham số là 560B, theo nhà cung cấp, không đổi trong toàn bộ tài liệu.

• Tham số hoạt động — khoảng 25B mỗi token, tỷ lệ thưa gần 1 trên 22.

• Định tuyến chuyên gia — 512 chuyên gia định tuyến, trong đó mỗi token chọn 8, cộng thêm một chuyên gia dùng chung mà mọi token đều sử dụng. Đó là một nhóm chuyên gia rộng hơn đáng kể so với nhóm mà thế hệ trước đã dùng với một thân mô hình nhỏ hơn nhiều. Số lượng chuyên gia, việc chọn 8 trong 512 và tỷ lệ attention 7:1 đến từ thông báo chứ không phải từ trang mô hình; trang mô hình nêu các tham số và các con số ngữ cảnh.

• Attention — một ngăn xếp lai tiếp nối thiết kế attention tuyến tính của Ling-3.0-flash, với tỷ lệ phần tuyến tính được tăng lên: cứ 7 lớp KDA (Kimi Delta Attention) thì có 1 lớp Gated MLA, nhờ đó một trong tám lớp vẫn giữ một đường attention toàn cục. Đường KDA là đường thời gian tuyến tính, hướng đến các chuỗi dài.

• Tiền nhiệm về quy mô — Ling-3.0-flash chạy tổng cộng 124B với 5,1B hoạt động trên một ngăn xếp lai 42 lớp, vì vậy Ling-3.1-flash có thân mô hình lớn gấp khoảng bốn lần rưỡi với mức kích hoạt trên mỗi token gấp khoảng năm lần.

Cần nói thẳng, vì Ant cũng nói vậy: không có gì trong số này chuyển trực tiếp thành chi phí triển khai. Thông lượng, độ trễ và bộ nhớ phụ thuộc vào phần cứng, độ chính xác số, kích thước lô, giao tiếp giữa các expert, độ dài ngữ cảnh và độ dài đầu ra. Kiến trúc giải thích vì sao mô hình có thể tồn tại ở kích thước này; nó không cho bạn biết một yêu cầu sẽ tốn bao nhiêu.

Cửa sổ ngữ cảnh và đầu ra tối đa

Hiểu nhầm phổ biến nhất nằm ở cửa sổ ngữ cảnh. Tài liệu của Ant nêu nó thành hai con số trên một dòng: cửa sổ ngữ cảnh tối đa 1M token, và dịch vụ chính thức hiện cung cấp 256K. Thông báo đưa ra lý do bằng chính lời của nhà cung cấp — bản dùng thử miễn phí kéo dài hai tuần, độ dài dịch vụ trong thời gian đó là 256K, và sau khi bản dùng thử kết thúc, mô hình chuyển sang dịch vụ trả phí thì kế hoạch là mở cửa sổ 1M và mở mã nguồn mô hình cùng lúc. Tài liệu và thông báo khớp nhau về con số được phục vụ, và cả hai đều là của Ant. Bề mặt sản phẩm nằm sau đăng nhập, nên điều khiển độ dài tối đa của chính Ling Studio không phải là thứ trang này có thể xác nhận hôm nay; nếu bạn cần giới hạn chính xác trước khi định cỡ một pipeline, hãy đọc nó trực tiếp từ studio sau khi đăng nhập thay vì lấy một con số nghe lại cho việc đó.

Artificial Analysis liệt kê cửa sổ ngữ cảnh là 1M. Đó là mức trần được công bố, không phải mức mà một yêu cầu hiện tại nhận được, và đó là con số được lan truyền xa nhất đồng thời thường sai nhất trong thực tế. Nếu bạn đang tính toán quy mô cho một pipeline, hãy tính theo mức 256K và coi 1M là một mục trong lộ trình chưa có ngày công bố.

Đầu ra tối đa là một con số mà Ant không công bố theo từng mô hình. Điều nhà cung cấp công bố là bề mặt yêu cầu: max_tokenscủa endpoint tương thích Anthropic mặc định là 32.000, tài liệu tham chiếu tương thích OpenAI không liệt kê giới hạn đầu ra theo từng mô hình, và các lệnh gọi không streaming sẽ hết thời gian chờ sau 90 giây. Nếu tác vụ của bạn cần một lần tạo dài duy nhất, hướng dẫn của chính nhà cung cấp là hãy dùng streaming thay vì nâng một giới hạn mà họ không tài liệu hóa.

Những gì nó tiếp nhận và những gì nó trả lại

Văn bản vào, văn bản ra. Ling-3.1-flash không phải là mô hình đa phương thức, và điều này đáng được nói rõ vì trong dòng họ này có một mô hình như vậy: Ling-3.0-flash-VL là mô hình thị giác, hỗ trợ gốc đầu vào hình ảnh, văn bản và video thông qua cùng một nền tảng, và tài liệu đa phương thức của nhà cung cấp được viết cho mô hình đó. Ling-3.1-flash xuất hiện trong bảng đặc tả Ling của nhà cung cấp mà không có bất kỳ phương thức đầu vào nào ngoài văn bản, và trang của đơn vị đánh giá độc lập dành cho nó chỉ ghi nhận đầu vào văn bản và đầu ra văn bản, đồng thời xếp nó vào nhóm mô hình suy luận thay vì mô hình thị giác. Nếu hôm nay bạn cần gửi một hình ảnh đến mô hình Ling, hướng dẫn lựa chọn của chính nhà cung cấp sẽ chỉ bạn đến Ling-3.0-flash-VL, chứ không phải mô hình này.

Tuyên bố của nhà cung cấp so với đánh giá độc lập

Có hai loại số tồn tại cho Ling-3.1-flash và chúng không thể hoán đổi cho nhau.

Thông báo của chính Ant có tiêu đề là bản nâng cấp mô hình cho các tác vụ trong thế giới thực, và nó cẩn trọng về việc các con số của mình thực sự là gì. Các lĩnh vực đánh giá được nêu tên gồm GDPVal-AA V2.1 cho công việc văn phòng, HealthBench Professional cho giao tiếp y khoa, FrontierSWE cho kỹ thuật, Terminal-Bench 4.0 cho vận hành terminal, cùng với tự động hóa, phân tích an toàn, hỏi đáp về codebase và các tác vụ agent tài chính — và các số liệu theo từng benchmark nằm trong ảnh biểu đồ chứ không phải một bảng văn bản. Tính đến hôm nay, Ant chưa công bố các điểm số riêng lẻ đó ở dạng mà bất kỳ ai cũng có thể trích dẫn từng dòng, và trang này sẽ không tự bịa ra một bảng cho chúng. Điều Ant thực sự nêu trong văn bản là ba kết quả kỹ thuật dài hạn, tất cả đều do nhà cung cấp báo cáo, tất cả đều dựa trên định nghĩa tác vụ của chính nhà cung cấp, và tất cả đều được ghi nhãn là các con số so sánh "được liệt kê trong tài liệu" chứ không phải một so sánh đối đầu tương xứng: một trình biên dịch Lua-to-x86-64-ELF được xây dựng từ đầu trong khoảng 17 giờ thực thi liên tục, với 178 trong số 182 bài kiểm thử độc lập đạt, khoảng 97.8%, so với 99.0% của Claude Fable 5 và 95.9% của GLM-5.3-Flash trên cùng tác vụ theo như nhà cung cấp liệt kê; một lượt tối ưu hóa Pyright 1.1.400 kéo dài khoảng 10 giờ đạt mức tăng tốc 1.432× với tất cả 2,279 bài kiểm thử benchmark và hồi quy đều đạt, so với Claude Fable 5 ở 1.502× và GLM-5.3-Flash ở 1.290×; và một bản tái triển khai bằng Rust của một thư viện xử lý ảnh C mất khoảng 20 giờ, đạt tất cả 30 kiểm tra ở mức 8.015×, so với GLM-5.3-Flash ở 1.396× và Claude Fable 5 ở 27.310×. Ba tác vụ đó không được đánh giá đối đầu với cùng mức nỗ lực và harness — các con số đối chiếu là trích dẫn của chính nhà cung cấp, không phải các lần chạy do họ kiểm soát — nên hãy đọc chúng như báo cáo của nhà cung cấp về bộ tác vụ của chính mình, chứ không phải một bảng xếp hạng tương đương. Ant cũng báo cáo rằng mô hình đã tìm ra và vá lỗi tràn bộ đệm ngăn xếp (stack-buffer-overflow) trong trình phân tích cú pháp calibration của cơ sở dữ liệu mã nguồn mở OceanBase bằng cách tự mình giải quyết vấn đề. Mỗi một trong số đó là một tuyên bố của bên thứ nhất về một tác vụ của bên thứ nhất; không có cái nào có tái lập từ bên thứ ba, và chính nhà cung cấp lưu ý kết quả thứ ba cho thấy vẫn còn dư địa trong tối ưu hóa hiệu năng cực đoan. Về phía nhu cầu tìm kiếm, "ling 3.1 flash benchmark" là một trong những câu hỏi ít được hỏi hơn về mô hình này, và câu trả lời trung thực gói trong một câu chính là câu ở trên: card của Ant có tồn tại, các con số của nó do nhà cung cấp báo cáo, và con số độc lập mà bạn thực sự có thể dùng để đối chiếu mô hình nằm ở đoạn tiếp theo.

Loại số thứ hai được đo lường độc lập. Artificial Analysis, đơn vị vận hành bộ kiểm thử của riêng mình trên phần cứng do họ kiểm soát, cho Ling-3.1-flash 41 điểm trên Intelligence Index v4.3.2 của mình, một chỉ số tổng hợp từ mười đánh giá, và xếp nó thứ năm trong số 175 mô hình trên chỉ số đó. Mô hình tiền nhiệm đạt 20 điểm trên cùng chỉ số. Cùng trang đó ghi nhận 212,1 token đầu ra mỗi giây và 1,87 giây để có token đầu tiên, 220 triệu token đầu ra được tạo ra trên toàn chỉ số — cao so với mức trung vị 95M — và chi phí vận hành là 0,30 USD cho mỗi triệu token đầu vào và 0,90 USD cho mỗi triệu token đầu ra với mức giảm giá bộ nhớ đệm 80%, khoảng 1,00 USD cho mỗi tác vụ chỉ số. Đó là các phép đo của chính đơn vị đánh giá đối với API của nhà cung cấp, không phải các con số của Ant, và chúng là những phép đo độc lập duy nhất về mô hình này hiện có.

Về giá cả, sự phân tách tương tự cũng được áp dụng, và đơn vị tiền tệ đóng vai trò quan trọng. Trang định giá của Ant — trang được duy trì, đóng dấu "Cập nhật lần cuối vào ngày 8 tháng 10 năm 2026" thay vì ngày 2026-10-13 khi trang này được viết — liệt kê Ling-3.1-flash ở mức ¥0,00 cho đầu vào, đầu ra và đọc bộ nhớ đệm, đồng thời nêu rõ rằng mô hình này miễn phí trong thời gian giới hạn hai tuần, sau đó sẽ chuyển sang tính phí tiêu chuẩn với mức giá sẽ được công bố. Cùng trang đó công bố một bảng USD trong đó dòng tương ứng ghi $0,00 ở cả ba cột. Đó là toàn bộ câu trả lời về gói miễn phí: miễn phí là thật, đó là ưu đãi khuyến mãi, có giới hạn thời gian, và con số theo sau nó vẫn chưa được công bố. Mức giá $0,30 và $0,90 được ghi nhận bởi đơn vị đánh giá độc lập là thứ gần nhất với bảng giá sau thời gian dùng thử được công khai, và Ant vẫn chưa xác nhận điều đó.

Generated single-column reference card titled "Ling-3.1-flash — the reference card" with six rows: "Total / active parameters: 560B / 25B", "Context served today: 256K", "Context declared: 1M", "Maximum output: not published", "Input / output: text / text", "Weights and licence: not published". A footer line reads "Specifications per Ant Ling's own documentation; no Ling-3.1-flash checkpoint exists on Hugging Face or ModelScope." A separate rounded card below reads "Independent score: 41 on the Artificial Analysis Intelligence Index". The OrcaRouter logo is composited in the bottom-right corner.

Làm thế nào để nhận được phản hồi từ Ling-3.1-flash hôm nay

Có hai tuyến chính chủ, đều là của chính Ant. Ling Studio tại chat.ant-ling.com là bề mặt sản phẩm, và thông báo của nhà cung cấp cũng cho biết mô hình nằm bên trong một tác nhân desktop nội bộ của Ant dùng cho các tác vụ văn phòng. Open API tại api.ant-ling.com là tuyến dành cho nhà phát triển và được cung cấp dưới hai dạng: chat/completions tương thích với OpenAI, và một điểm cuối messages tương thích với Anthropic, nên một SDK hiện có vẫn hoạt động chỉ với một thay đổi base URL. Hai lưu ý đến thẳng từ tài liệu, đủ bất thường để đáng được chép lại nguyên văn: các điều khiển xác suất và đa dạng, temperature và top_p, mặc định bằng 1 ở cả hai trang tham chiếu, nên một yêu cầu vốn đã quen đặt temperature thấp ở nơi khác sẽ hành xử khác ở đây; và điều khiển thinking được ghi trong tài liệu để bật/tắt suy luận lại chỉ được ghi là dành riêng cho Ling-3.0-flash, nghĩa là bề mặt yêu cầu mà các trang này công bố vẫn chưa được cập nhật cho Ling-3.1-flash. Việc truy cập cần một tài khoản Alipay đã được liên kết và dịch vụ Ling đã được kích hoạt — FAQ cũng liệt kê "Ling model service not activated" là một lỗi đã biết với cách khắc phục riêng — thanh toán theo hình thức trả theo mức sử dụng cho mỗi token, giới hạn tốc độ được công bố là 2 yêu cầu mỗi giây trên phạm vi toàn cầu, vượt quá sẽ trả về 429, và các lệnh gọi không streaming sẽ hết thời gian chờ sau 90 giây. Nhà cung cấp cũng niêm yết mô hình với cùng mức giá khuyến mãi bằng 0 trên các nền tảng bên thứ ba; đó không phải là các bề mặt chính chủ và các điều khoản của chúng thuộc về riêng chúng.

Một bước xác minh đáng làm trước khi bạn xây dựng dựa trên điểm cuối đó: tính đến hôm nay, tài liệu tham chiếu API đã công bố của nhà cung cấp không liệt kê Ling-3.1-flash trong danh sách mô hình của mình, và nhật ký thay đổi của nền tảng không có mục nào về nó — các mục mới nhất ở đó là Ling-3.0-flash-VL vào tháng 9 và Ling-3.0-tiny vào tháng 8 — dù trang giá có mức phí cho mô hình này và thông báo có cung cấp bản dùng thử API của nó. Hãy xác nhận mã định danh mô hình với chính tài khoản của bạn trước khi tích hợp nó vào bất cứ thứ gì, thay vì cho rằng tài liệu đã theo kịp.

Ling-3.1-flash không nằm trong danh mục của OrcaRouter — kiểm tra đối chiếu với danh sách model trực tiếp của chúng tôi vào ngày 2026-10-13 không trả về mục Ling hay inclusionAI nào — nên trang này sẽ không nói với bạn rằng nó chỉ cách bạn một lần gọi API. Thứ chỉ cách bạn một lần gọi API là hai model mà nó thường được đem ra cân đo: DeepSeek V4.1 Flash, được danh sách của chúng tôi niêm yết ở mức 0,15 USD mỗi triệu token đầu vào và 0,60 USD mỗi triệu token đầu ra, cùng GLM 5.3 Flash ở mức 0,15 và 0,50, cả hai đều theo giá niêm yết với không tính thêm phụ phí và tự động chuyển đổi dự phòng giữa các nhà cung cấp, nên khi một trong hai nhà cung cấp thay đổi giá, mức giá mới được áp dụng ngay trong cùng ngày mà bạn không cần thay đổi mã nguồn. Khi Ant mở Ling-3.1-flash hoặc một host nào đó bổ sung nó, đó chính là dạng thức mà nó sẽ xuất hiện.

Headless-Chromium capture of the Model Selection Guide table on Ant Ling's own Ling model documentation page. The Ling-3.1-flash row reads Context 256K, Parameters 560B, Activated Parameters 25B, and its Positioning column reads "New-generation hybrid reasoning model, purpose-built for everyday office work, long-horizon software development, and complex Agent tasks". The neighbouring Ling-3.0-flash-VL row reads 256K / 124B / 5.5B and is captioned as the native multimodal model accepting image, text and video input.

Những điều cần chú ý và những điều không nên giả định

Ba điều sẽ giải quyết những câu hỏi còn bỏ ngỏ của trang này, và cả ba đều do Ant công bố: trọng số, kèm giấy phép và model card nếu kế hoạch trong thông báo vẫn đứng vững; cửa sổ 1M thực sự được phục vụ chứ không chỉ được tuyên bố; và bảng giá sau dùng thử. Cho đến khi ít nhất hai điều đầu tiên thành hiện thực, mô tả chính xác về Ling-3.1-flash là một mô hình mạnh, nhanh, đóng, chỉ văn bản với điểm độc lập thực sự là 41 và hồ sơ agentic thực sự đầy hứa hẹn, có sẵn từ bên thứ nhất và miễn phí trong một cửa sổ đóng lại mà không báo trước.

Ai nên hành động ngay bây giờ: bất kỳ ai có công việc mang tính tác tử, dạng terminal hay dạng văn phòng và muốn có hai tuần suy luận miễn phí trên chính các prompt của mình để tìm hiểu liệu một MoE 560B ở tốc độ 212 token mỗi giây có thay đổi thứ họ xây dựng hay không. Ai nên chờ: bất kỳ ai đang có kế hoạch tự host nó, bất kỳ ai cần một giấy phép trước khi bộ phận thu mua chịu xem xét nó, bất kỳ ai có pipeline cần cửa sổ một triệu token trong môi trường vận hành thực tế, và bất kỳ ai cần một mô hình chi phí tồn tại lâu hơn giai đoạn khuyến mãi. Với cả bốn nhóm đó, câu trả lời trung thực ngày hôm nay là chưa thể đưa ra quyết định, và thứ có thể gỡ nút thắt đó là một kho Hugging Face, chứ không phải một biểu đồ benchmark khác.

Headless-Chromium capture of the model pricing table on Ant Ling's developer documentation. The page is headed "Model Pricing" with the line "All prices below are in CNY." The table lists Ling-3.1-flash, Ling-3.0-flash-VL, Ling-3.0-flash, Ling-2.6-1T and Ling-2.6-flash across Input (per 1M tokens), Output (per 1M tokens) and Cache Read (per 1M tokens). The Ling-3.1-flash row reads ¥0.00 in all three columns, against paid rates on the rows beneath it.

So sánh trong bài viết này2

Phát hiện từ bài viết này · Benchmark: Artificial Analysis · cập nhật hằng ngày