
Ling-3.0-flash: Những gì chúng ta hiện biết về MoE tầng nhanh trọng số mở của Ant Group
- OrcaMỚIOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 trên 1 triệu token · 186 tok/s
- openaiMỚIOpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 trên 1 triệu token · 86 tok/s
- openaiMỚIOpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 trên 1 triệu token · 151 tok/s
- tencentMỚITencent: Hy4 Flash2026-11-16$0.02 / $0.07 trên 1 triệu token · 192 tok/s
- AlibabaMỚIQwen: Qwen4 Max2026-11-16$1.50 / $4.50 trên 1 triệu token · 86 tok/s
- GoogleMỚIGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 trên 1 triệu token · 705 tok/s
- AnthropicMỚIAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 trên 1 triệu token · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 trên 1 triệu token · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 trên 1 triệu token · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 trên 1 triệu token · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 trên 1 triệu token · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 trên 1 triệu token · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 trên 1 triệu token · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 trên 1 triệu token · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 trên 1 triệu token · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Trí tuệ
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 trên 1 triệu token · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Trí tuệ
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 trên 1 triệu token · 101 tok/s
Ling-3.0-flash — mô hình MoE tầng nhanh của InclusionAI thuộc Ant Group, được công bố vào ngày 24 tháng 7 năm 2026 và mã nguồn mở theo giấy phép MIT vào ngày 7 tháng 8 — nay đã có một lộ trình triển khai cụ thể trên một thiết bị duy nhất. Vào ngày 27 tháng 10, NVIDIA đã công bố một hướng dẫn kỹ thuật cho thấy bản dựng FP4 của mô hình giải mã với tốc độ 53,89 token mỗi giây trên một DGX Spark, tăng 42,5% so với 37,81 tok/s, trên toàn bộ 1.319 câu hỏi GSM8K, với độ chính xác không thay đổi về mặt thống kê. Đây là các phép đo của chính NVIDIA trên phần cứng của chính họ, không phải một lần chạy độc lập của bên thứ ba, và chúng áp dụng cho kích thước lô là 1. Chúng không thay thế các con số API được lưu trữ bên dưới. Tuy nhiên, chúng biến "lộ trình triển khai trên một DGX Spark" trước đây còn mơ hồ của mô hình thành một cấu hình đã được công bố với đường cơ sở, một giao thức và một chế độ lỗi đã được ghi nhận.
Bản thân mô hình không thay đổi. Đây là một mixture-of-experts suy luận lai gốc với tổng cộng 124B tham số và 5,1B tham số hoạt động mỗi token, được xây dựng như tầng nhanh, rẻ của dòng Ling; các trọng số theo giấy phép MIT đã có trên Hugging Face và ModelScope từ ngày 7 tháng 8. Điều đã thay đổi kể từ phiên bản tháng 8 của bài đăng này là hồ sơ ghi nhận xung quanh. Đánh giá của Artificial Analysis, mà bài đăng này đã trích dẫn vào tháng 8, cho Ling-3.0-flash điểm 38 trên Chỉ số Thông minh của mình và đặt nó trên biên giới Pareto trọng số mở về trí thông minh so với tổng tham số. Trang trực tiếp của AA hiện đánh dấu mô hình là không còn được khuyến nghị để chuyển sang Ling-3.1-flash, chỉ người đọc đến đó, và không còn hiển thị Chỉ số Thông minh hiện hành. Điểm 38 vẫn là điểm độc lập cuối cùng mà checkpoint này nhận được; đó không phải là một con số cập nhật trực tiếp.
Bản sửa đổi này tích hợp phép đo DGX Spark tháng 10 và chỉnh lại những phần trong bài đăng tháng 8 đã thay đổi — số liệu tốc độ hiện tại của AA và trạng thái ngừng hỗ trợ của nó — đồng thời giữ nguyên các nhãn nguồn. Khi Ant Group hoặc NVIDIA là nguồn duy nhất cho một con số, câu văn sẽ nói rõ điều đó.
Tóm tắt nhanh. Ling-3.0-flash là MoE trọng số mở thuộc phân khúc nhanh của Ant Group: tổng 124B / 5,1B hoạt động, giấy phép MIT, ngữ cảnh gốc 256K (262K khi phục vụ). Nó không còn là Ling mới nhất — AA đánh dấu nó là đã lỗi thời để thay bằng Ling-3.1-flash — nhưng vẫn còn khả dụng, có tài liệu, và hiện đã có công thức đo được trên một thiết bị. Cấu hình DGX Spark ngày 27 tháng 10 của NVIDIA chạy 53,89 tok/s ở kích thước lô 1 trên GSM8K, cao hơn 42,5% so với đường cơ sở của chính nó, theo báo cáo của nhà cung cấp. Trên API được lưu trữ, AA hiện liệt kê 243 tok/s đầu ra và thời gian đến token đầu tiên là 2,79 giây. Vẫn chỉ do nhà cung cấp công bố: tuyên bố thông lượng đỉnh 1.100+ tok/s của Ant, con số TTFT dưới 100ms, và bảng điểm chuẩn trên thẻ mô hình. Giá API chính thức là 0,075 USD đầu vào / 0,22 USD đầu ra trên 1 triệu token (giảm 80% khi trúng bộ nhớ đệm); gói miễn phí ra mắt đã kết thúc ngày 3 tháng 8, và chương trình khuyến mãi giảm 75% của Ling Studio đã kết thúc ngày 31 tháng 8.
Những điểm chính cần ghi nhớ
• Đây là hạng nhanh/rẻ, không phải mô hình hàng đầu. Mô hình hàng đầu 1T tham số của thế hệ trước vẫn là mô hình lớn nhất của InclusionAI; Ling-3.0-flash là phiên bản nhỏ hơn, nhanh hơn, hướng đến văn bản khối lượng lớn và gọi công cụ.
• Trọng số vẫn mở theo giấy phép MIT. Chúng đã được đưa lên Hugging Face (inclusionAI/Ling-3.0-flash) và ModelScope vào ngày 7 tháng 8, và bản dựng MXFP4 mà NVIDIA tài liệu hóa cho DGX Spark đi kèm với các checkpoint BF16 và FP8.
• Điểm số độc lập giờ đã trở thành lịch sử. Lần chạy AA mà bài đăng này trích dẫn hồi tháng 8 đã cho nó điểm 38, tăng 24 so với Ling-2.6-flash, và đưa nó lên biên giới Pareto của các mô hình trọng số mở; trang trực tiếp của AA hiện đánh dấu mô hình này là đã lỗi thời để chuyển sang Ling-3.1-flash và không hiển thị Chỉ số Thông minh hiện tại nào.
• Tốc độ có ba điểm tham chiếu và chúng không thể thay thế cho nhau. AA hiện liệt kê 243 tok/s đầu ra trên API được host; NVIDIA đo được 53,89 tok/s trên một DGX Spark ở kích thước lô 1; Ant vẫn tuyên bố hơn 1.100 tok/s trên phần cứng cụm được chỉ định.
Giá đã được ấn định và các chương trình khuyến mãi đã kết thúc. $0.075 cho đầu vào / $0.22 cho đầu ra trên mỗi 1 triệu token, kèm mức giảm giá 80% khi trúng bộ nhớ đệm; gói miễn phí ra mắt đã kết thúc vào ngày 3 tháng 8, và thời gian giảm giá 75% của Ling Studio đã kết thúc vào ngày 31 tháng 8.
• Đây là một phần trong gia đình ba mô hình. InclusionAI chia dòng sản phẩm của mình thành Ling (MoE văn bản và công cụ đa dụng, chính là mô hình này), Ring (suy luận) và Ming (đa phương thức).
Một lưu ý về cách đọc bản cập nhật này: đây là bản chỉnh sửa của bản xem trước ngày 24 tháng 7 và bản chỉnh sửa ngày 8 tháng 8 trước đó. Kết quả DGX Spark ngày 27 tháng 10 là nội dung mới; các chỉnh sửa AA chỉ là việc dọn dẹp nội bộ để bài viết không còn trích dẫn một điểm số trực tiếp không còn tồn tại. Mọi thông số kỹ thuật, điểm chuẩn và giá bên dưới đều được ghi rõ theo nguồn.
Những gì chúng ta thực sự biết
Kiến trúc được ghi chép đầy đủ trên thẻ mô hình. Ling-3.0-flash sử dụng ngăn xếp attention lai tuyến tính nguyên bản — các lớp Kimi Delta Attention (KDA) và Gated MLA xen kẽ theo tỷ lệ 5:1 (35 KDA + 7 MLA, tổng cộng 42 lớp), với cổng chéo hạt mịn của KDA — đặt trên nền MoE thưa 1/64 (512 chuyên gia định tuyến, 8 chuyên gia được kích hoạt mỗi token, cộng thêm một chuyên gia chia sẻ). Đó là cách mô hình đạt 124B tổng tham số với chỉ 5,1B tham số hoạt động. Cửa sổ ngữ cảnh là 256K nguyên bản, được phục vụ ở 262.144 token trong các công thức suy luận, và Ant tuyên bố kiến trúc có thể mở rộng đến 1M. Độ dài đầu ra tối đa không được tiết lộ. Mô hình chỉ xử lý văn bản với hỗ trợ gọi công cụ; đầu vào đa phương thức nằm trong dòng Ming riêng.
Phòng thí nghiệm công bố hai định dạng trọng số — BF16 (khoảng 255GB) và FP8 (khoảng 128GB) — và các biến thể lượng tử hóa do cộng đồng tạo được liên kết từ thẻ mô hình. Công thức DGX Spark dùng định dạng thứ ba: bản dựng MXFP4 vừa với 121GB bộ nhớ hợp nhất của thiết bị. Các công thức triển khai của chính phòng thí nghiệm nhắm đến SGLang và vLLM; lộ trình Spark của NVIDIA dùng bản dựng SGLang từ InclusionAI với backend Humming MoE được bổ sung.
Tính khả dụng: trọng số mở dưới giấy phép MIT
Vào ngày 7 tháng 8, nhóm InclusionAI của Ant Group đã công bố mã nguồn mở trọng số theo giấy phép MIT trên Hugging Face (inclusionAI/Ling-3.0-flash) và ModelScope. Đó là một giấy phép thoáng, được dùng cho mục đích thương mại — cùng loại giấy phép mà Ling 2.0 và Ling 2.6 đã phát hành — và điều đó có nghĩa là bạn có thể tự lưu trữ, tinh chỉnh và triển khai Ling-3.0-flash thay vì thuê nó qua API. Mô hình cũng có thể được gọi qua API dành cho nhà phát triển của chính Ant và một số nền tảng bên thứ ba. Với một mô hình phân khúc nhanh ở mức giá này, câu hỏi đáng quan tâm không còn là liệu bạn có thể tự lưu trữ hay không; mà là liệu một thiết bị 121GB có đủ không. Ling Cookbook của InclusionAI hiện có một notebook DGX Spark được ghi công chung cho Ant Group và NVIDIA, và checkpoint MXFP4 mà nó sử dụng được công bố cùng với các định dạng khác. Phần dưới đây là câu trả lời đo lường đầu tiên cho câu hỏi đó.

Điểm số độc lập: một kết quả tháng Tám, nay đã thành lịch sử
Thay đổi lớn nhất so với bài đăng tháng 7 là sự xuất hiện của các con số độc lập. Đánh giá của Artificial Analysis, được bài viết này trích dẫn vào tháng 8, đã cho Ling-3.0-flash 38 điểm trên Chỉ số Trí tuệ — cao hơn 24 điểm so với thế hệ phân khúc nhanh trước đó, Ling-2.6-flash (14), và ngang bằng với MiMo-V2.5 và Qwen 3.6 27B trong khi chỉ kích hoạt một phần nhỏ tham số của chúng. AA cũng đặt mô hình này trên đường biên Pareto trọng số mở về trí tuệ so với tổng số tham số: vào thời điểm đó, không có mô hình trọng số mở nào có tổng số tham số ít hơn đạt điểm cao hơn. Mô hình dẫn đầu phân khúc nhanh trong nhóm trọng số mở trên AA, DeepSeek V4 Flash, còn đạt điểm cao hơn (Chỉ số 52 ở mức nỗ lực suy luận tối đa).
Kỷ lục đó từ đó đã bị ngừng sử dụng thay vì bị đảo ngược. Trang trực tiếp của AA cho Ling-3.0-flash hiện đánh dấu mô hình này là không còn được dùng nữa, thay vào đó là Ling-3.1-flash, hướng người đọc đến mô hình mới hơn và không hiển thị Chỉ số Thông minh hiện tại nào. Con số 38 vẫn là điểm độc lập cuối cùng mà checkpoint này nhận được; hãy đọc đó như một kết quả tại thời điểm, không phải một xếp hạng trực tiếp. Nếu hôm nay bạn đang chọn một mô hình Ling, phép so sánh cần thực hiện là với Ling-3.1-flash, mô hình mà AA hiện đang đề cập.
Các kết quả về tác tử và ngữ cảnh dài từ đánh giá đó cũng cho thấy xu hướng tích cực rõ rệt. Trên bộ τ3-Bench Banking của AA, Ling-3.0-flash đạt 27%, đứng thứ hai trong nhóm mô hình open-weights hạng flash, sau DeepSeek V4 Flash (39%). Trên GDPval-AA v2, mô hình đạt Elo 1108, tăng từ 545 của Ling-2.6-flash. Ant đã huấn luyện mô hình trên hơn 10.000 môi trường tương tác (theo báo cáo của nhà cung cấp) và quảng bá nó như một nút thực thi cho các quy trình tác tử — nhanh, rẻ và dùng một lần, còn phần suy luận nặng được giao cho một mô hình flagship lớn hơn.
Một lưu ý về nguồn: bảng benchmark trên thẻ mô hình của Ant — SWE-Bench Pro 56.6, SWE-bench Multilingual 72.4, MathArena AIME 2026 93.2, HLE 22.7 — do nhà cung cấp tự báo cáo và chưa được tái lập độc lập. Hãy coi đó là những tuyên bố của chính phòng thí nghiệm, cùng loại với các con số tốc độ đỉnh dưới đây.
Tốc độ: ba con số, ba cách thiết lập khác nhau
Câu chuyện về tốc độ giờ đây có ba con số, và việc đầu tiên cần làm là ngừng coi chúng là cùng một phép đo.
Trên API được lưu trữ, Artificial Analysis hiện liệt kê 243 token đầu ra mỗi giây và thời gian đến token đầu tiên là 2,79 giây. Con số này thấp hơn 368 tok/s và 1,98 giây mà bài viết này đã báo cáo vào tháng 8 — bảng nhà cung cấp và các lần chạy của AA thay đổi, và trang trực tiếp là trang nên trích dẫn hôm nay. Mô hình vẫn được xếp hạng gần đầu phân khúc tốc độ của nó.
Trên một chiếc DGX Spark duy nhất, NVIDIA báo cáo tốc độ giải mã 53,89 token mỗi giây ở kích thước lô 1 trên GSM8K, mức tăng 42,5% so với đường cơ sở của chính họ. Đó là con số cục bộ, dành cho một người dùng, không thể so sánh với một chỉ số thông lượng API và cũng không phải là kết quả về khả năng xử lý đồng thời. Phần tiếp theo sẽ làm rõ điều này.
Trên phần cứng cụm được chỉ định, Ant tuyên bố tốc độ đầu ra trung bình trên 1.100 token mỗi giây và thời gian đến token đầu tiên dưới 100ms với một lớp bộ nhớ đệm phân cấp được xây dựng trên SGLang HiCache và Mooncake. Đó vẫn chỉ là số liệu từ nhà cung cấp — được đo trên phần cứng và các thiết lập lô do Ant kiểm soát, chưa có lần chạy lại độc lập nào được công bố. Để lập kế hoạch, hãy dùng con số AA cho công việc được lưu trữ, con số NVIDIA cho một Spark đơn lẻ, và coi mức 1.100+ tok/s là giới hạn trần cần xác minh trên khối lượng công việc của chính bạn.
Một DGX Spark: 42,5% thực sự đo lường điều gì
Ngày 27 tháng 10, blog kỹ thuật của NVIDIA đã công bố một công thức để phục vụ Ling-3.0-flash-fp4 trên một DGX Spark — hệ thống máy tính để bàn GB10 với 121GB bộ nhớ hợp nhất — và Ling Cookbook của InclusionAI có kèm notebook tương ứng, được ghi công chung cho Ant Group và NVIDIA. Bài viết của chính Ant Group mô tả công việc này là một hợp tác kỹ thuật với NVIDIA. Đây là một phép đánh giá chuẩn mực cẩn thận chứ không phải bản demo: toàn bộ 1.319 câu hỏi GSM8K, chuỗi suy luận năm ví dụ (five-shot chain-of-thought), kích thước lô bằng 1, temperature 0,6, top-p 0,95, top-k 29 và giới hạn 32.768 token.
Baseline là bản dựng W4A8 được phục vụ bằng các kernel MXFP4 MoE của FlashInfer, GEMM dày đặc CUTLASS và LM head 32-bit. Trên baseline đó, decode chạy ở 37,81 tok/s. Với ba thay đổi được xếp chồng, nó chạy ở 53,89 tok/s — mức 42,5% trong tiêu đề. Thời gian trung bình cho mỗi token đầu ra giảm từ 26,45ms xuống 18,56ms (−29,8%), độ trễ trung bình end-to-end từ 15,21s xuống 11,49s (−24,5%), P50 từ 8,36s xuống 6,11s, và P95 từ 50,20s xuống 38,60s. Độ chính xác GSM8K chuyển từ 96,89% sang 96,82%, chênh lệch 0,08 điểm mà NVIDIA mô tả là không thể phát hiện về mặt thống kê. Thời gian trung bình đến token đầu tiên gần như không đổi, từ 0,207s sang 0,214s. Đây là những lợi ích từ decode, không phải từ prefill.
Ba thay đổi nhắm đến những chi phí khác nhau:
• Kernel MoE MXFP4 của Humming thay thế backend FlashInfer. Humming biên dịch kernel tại thời điểm chạy bằng NVRTC cho đúng các hình dạng của mô hình — bao gồm cả kích thước trung gian MoE hẹp 768 — và lưu vào bộ nhớ đệm trong ~/.humming/cache. Trong bài kiểm tra tổng hợp của NVIDIA, chỉ riêng nó đã tăng thông lượng 9,3%.
• Lượng tử hóa FP8 trực tuyến cho LM head. Head vẫn ở BF16 trong checkpoint và phép GEMM 157,184 × 2,560 của nó đọc toàn bộ khối trọng số trên mỗi token; lượng tử hóa nó sang FP8 khi tải giúp giảm một nửa lượng đọc đó. Tính năng này được bật bằng SGLANG_ENABLE_FP8_LM_HEAD=1, xung đột với --enable-fp32-lm-head của baseline và tăng thêm 11,4% so với chỉ riêng Humming.
• Dự đoán đa token NEXTN. Lớp NEXTN tích hợp sẵn của mô hình tạo nháp ba token và xác minh một cửa sổ bốn token. Trên GSM8K, độ dài bản nháp được chấp nhận trung bình là 2,68 token mỗi vòng.
Có một con số thứ hai, gây chú ý hơn trong cùng bài đăng: một khối lượng công việc tổng hợp 32K đầu vào / 2K đầu ra ở kích thước lô 1 tăng từ 36,09 lên 102,88 tok/s, +185,1%. Chính NVIDIA cảnh báo không nên khái quát hóa con số này. Lần chạy đó dùng giải mã tham lam, đầu ra cố định 2K và văn bản lặp lại; tỷ lệ chấp nhận đạt 3,90 token mỗi vòng so với 2,68 trên GSM8K. Con số 42,5% trên GSM8K là con số nên dựa vào để lập kế hoạch. Con số 185,1% là mức trần tổng hợp trong trường hợp tốt nhất.
Một cạm bẫy vận hành quan trọng hơn cả tốc độ tăng thêm. Lượng tử hóa LM-head FP8 và MTP chỉ kết hợp được với nhau nếu mô hình draft dùng chung toàn bộ mô-đun LM-head của mô hình đích, chứ không chỉ chung tensor trọng số. Nếu thiếu giao diện đó, framework sẽ âm thầm quay về chế độ dự phòng, đọc trọng số FP8 như BF16, hạ tỷ lệ chấp nhận xuống 1,00, và có thể chạy chậm hơn cả baseline chưa tối ưu. Lời khuyên của NVIDIA là hãy xác thực rằng mọi tối ưu hóa đều đang hoạt động ngay khi khởi động, thay vì suy ra từ các số đo thời gian về sau.
Điều này thay đổi gì đối với người đọc: đường một-Spark không còn là slide của nhà cung cấp nữa. Đó là một công thức đã được công bố với đường cơ sở, một quy trình đo và một chế độ lỗi được nêu rõ — đủ để tái tạo hoặc bác bỏ trên chính thiết bị của bạn. Điều này không thay đổi gì: đây vẫn là phép đo của chính NVIDIA, trên một thiết bị, ở kích thước lô 1, cho giải mã. Nó không nói gì về phục vụ đồng thời, thông lượng ngữ cảnh dài hay API được host. Và nó dành riêng cho bản dựng FP4; các checkpoint BF16 và FP8 có hồ sơ bộ nhớ và băng thông khác nhau.
Giá cả: rẻ, và chương trình khuyến mãi đã kết thúc.
Artificial Analysis liệt kê API chính thức của nhà cung cấp ở mức 0,075 USD cho 1 triệu token đầu vào và 0,22 USD cho 1 triệu token đầu ra, với lượt trúng bộ nhớ đệm ở mức 0,015 USD (−80%) — tất cả đều là giá do nhà cung cấp đặt. Gói miễn phí ra mắt (500k token miễn phí/ngày, truy cập API miễn phí) đã kết thúc vào ngày 3 tháng 8. Thời gian giảm giá tạm thời 75% trên Ling Studio kéo dài đến hết ngày 31 tháng 8 năm 2026; giá niêm yết đã được áp dụng từ ngày 1 tháng 9. Ngay cả ở mức giá niêm yết đầy đủ, 0,075 USD/0,22 USD vẫn đưa Ling-3.0-flash vào nhóm giá rẻ đối với một mô hình có Chỉ số 38 trong đánh giá đó.
Ở mức giá thấp như vậy, chi phí chuyển đổi quan trọng hơn giá trên mỗi token. Nhiệm vụ của OrcaRouter là giữ cho phía dịch vụ được lưu trữ trong phép so sánh đó trung thực: một API cho hơn 200 mô hình, giá niêm yết của nhà cung cấp được chuyển thẳng với mức đánh dấu 0%, và tự động chuyển đổi dự phòng giữa các nhà cung cấp. Một triển khai DGX Spark cục bộ phải đánh bại mức giá thị trường thực tế, hiện hành chứ không phải một slide của nhà cung cấp — và khi một nhà cung cấp dịch vụ lưu trữ thay đổi giá, cơ chế chuyển thẳng sẽ hiển thị điều đó trên cùng một khóa trong cùng ngày.
Gia đình Ling / Ring / Ming
Ling-3.0-flash không tồn tại độc lập — InclusionAI tổ chức các bản phát hành của mình thành ba dòng được đặt tên, mỗi dòng nhắm đến một nhiệm vụ khác nhau. Ling là dòng MoE đa dụng cho tạo văn bản và gọi công cụ hằng ngày, và Ling-3.0-flash nằm ở phân khúc nhanh/rẻ của dòng này, thấp hơn một bậc so với mô hình chủ lực 1T tham số của thế hệ trước. Ring là dòng tập trung vào suy luận, được xây dựng cho chuỗi suy nghĩ nhiều bước. Ming là dòng đa phương thức. Nếu tác vụ của bạn cần suy luận nặng hơn hoặc đầu vào hình ảnh, mô hình InclusionAI phù hợp có lẽ không phải Ling-3.0-flash — nó được xây dựng cho khối lượng lớn và tốc độ trong làn văn bản và công cụ.
Dành cho ai: bốn tình huống
1. Các pipeline xử lý văn bản hoặc gọi công cụ khối lượng lớn, nhạy cảm với độ trễ
Đây là sân nhà của mô hình. Với giấy phép MIT, một công thức single-Spark đã được công bố và một Chỉ số độc lập 38 có ghi ngày tháng, đặt cược vào hạng nhanh là có thể kiểm chứng thay vì chỉ mang tính giả định — hãy chạy bộ đánh giá của riêng bạn qua nó, hoặc tải trọng số về và tự vận hành. Chỉ đừng xây dựng dựa trên mức trần 1,100+ tok/s của nhà cung cấp cho đến khi bạn đã đo nó trên khối lượng công việc của mình.
2. Các nhóm muốn có ngữ cảnh dài với ngân sách hạn chế
Ngữ cảnh gốc 256K (phục vụ 262K) với lộ trình được công bố lên 1M, ở mức $0.075/$0.22, là một sự kết hợp hấp dẫn cho công việc nặng về truy xuất hoặc xử lý tài liệu. Các con số ngữ cảnh dài trong thẻ mô hình là do nhà cung cấp báo cáo, vì vậy hãy đưa nó vào danh sách rút gọn để so sánh với các lựa chọn ngữ cảnh dài đã được thiết lập và xác minh trên kho dữ liệu của riêng bạn trước khi cam kết.
3. Những người theo dõi bối cảnh MoE của Trung Quốc và lộ trình InclusionAI
Câu hỏi tháng Bảy — liệu InclusionAI có tiếp tục mở? — giờ đã có câu trả lời: có, MIT, và nhanh. Ling-3.0-flash đạt đến biên Pareto AA với 5,1B tham số hoạt động là một điểm dữ liệu. Công thức DGX Spark tháng Mười là điểm thứ hai: một mô hình 124B giải mã ở 53,89 tok/s trên một máy để bàn với batch size 1, cùng với công thức được công bố.
4. Các nhóm có một DGX Spark duy nhất trên bàn làm việc
Nếu bạn đã sở hữu chiếc máy này, công thức của NVIDIA là cấu hình đầu tiên đáng sao chép: bản dựng MXFP4, bản fork SGLang của InclusionAI, kernel MoE Humming, LM head FP8 và NEXTN MTP. Hãy coi đó là phép đo của một nhà cung cấp ở batch size 1, và xác thực lúc khởi động rằng các phần FP8 và MTP thực sự đang hoạt động — chế độ lỗi âm thầm chuyển sang dự phòng là có thật. Nếu bạn chưa sở hữu Spark, công thức này là một điểm dữ liệu về việc 121GB bộ nhớ hợp nhất mua được gì, chứ không phải lý do để mua một chiếc.
Điều gì vẫn chưa được xác minh?
Một danh sách ngắn, giờ khi những khoảng trống lớn đã được lấp. Các tuyên bố về tốc độ đỉnh của Ant (1.100+ tok/s, TTFT dưới 100ms) vẫn chưa có đo lại độc lập. Bảng benchmark trên thẻ mô hình vẫn là do nhà cung cấp báo cáo. Các bản dựng FP4/INT4 và đường chạy single-DGX-Spark không còn mơ hồ nữa — NVIDIA đã công bố cấu hình và InclusionAI phát hành notebook — nhưng các con số 53,89 tok/s và 96,82% là đo đạc của chính NVIDIA trên một thiết bị với batch size 1, không phải tái lập bởi bên thứ ba. Điểm độc lập mang tính lịch sử: đánh giá mà bài viết này trích dẫn hồi tháng 8 cho nó 38, và trang trực tuyến hiện đánh dấu mô hình là đã ngừng hỗ trợ để chuyển sang Ling-3.1-flash. Và về kiến thức, Omniscience Index từ đánh giá đó cho thấy cải thiện so với thế hệ trước chủ yếu đến từ việc kiêng trả lời — hallucination giảm (97% → 44%) trong khi độ chính xác chỉ tăng nhẹ (16% → 18%) — nên đừng nhầm mức tăng Index nổi bật là một bước nhảy kiến thức toàn diện.
Khi nào không nên sử dụng
Bỏ qua Ling-3.0-flash cho công việc đa phương thức — đó là dòng Ming. Bỏ qua nó nếu bạn cần một mẫu chủ lực suy luận hạng nặng thay vì một bộ thực thi nhanh — đó là lĩnh vực của Ring. Nếu bạn định tự vận hành, hãy dự trù phần cứng thực tế: BF16 tốn khoảng 255GB, FP8 khoảng 128GB, và bản dựng MXFP4 là bản vừa với một DGX Spark 121GB. Nếu bạn đang chọn một mẫu Ling mới thay vì duy trì một triển khai sẵn có, hãy so sánh với Ling-3.1-flash trước; AA đã chuyển phạm vi bao phủ của mình sang đó. Và nếu một tuyên bố quan trọng với bạn, hãy kiểm chứng nó — các con số về tốc độ đỉnh và ngữ cảnh dài là của Ant cho đến khi một phòng thí nghiệm độc lập chạy lại chúng.
FAQ
Ling-3.0-flash có trọng số mở không?
Vâng. Các trọng số đã được mã nguồn mở vào ngày 7 tháng 8 theo giấy phép MIT, trên Hugging Face (inclusionAI/Ling-3.0-flash) và ModelScope. Đây là giấy phép cho phép sử dụng thương mại — cùng loại giấy phép mà Ling 2.0 và Ling 2.6 đã phát hành.
Ling-3.0-flash hoạt động như thế nào trên các điểm chuẩn?
Đánh giá của Artificial Analysis mà bài viết này đã trích dẫn vào tháng 8 đã cho nó 38 điểm trên Chỉ số Trí tuệ, tăng 24 điểm so với Ling-2.6-flash, và đặt nó trên đường biên Pareto trọng số mở về trí tuệ so với tổng số tham số. Trang trực tiếp của AA hiện đánh dấu mô hình là đã ngừng hỗ trợ để thay bằng Ling-3.1-flash và không hiển thị Chỉ số Trí tuệ hiện tại, vì vậy 38 là kết quả lịch sử. Bảng điểm chuẩn trên thẻ mô hình của Ant (ví dụ SWE-Bench Pro 56.6) do nhà cung cấp báo cáo và chưa được tái tạo độc lập.
Nó thực sự nhanh như thế nào?
Có ba con số khác nhau cho ba thiết lập khác nhau. AA hiện liệt kê 243 token đầu ra mỗi giây và thời gian đến token đầu tiên là 2,79 giây trên API được lưu trữ. NVIDIA báo cáo 53,89 tok/s giải mã ở kích thước lô 1 trên một DGX Spark. Ant tuyên bố hơn 1.100 tok/s và TTFT dưới 100ms trên phần cứng cụm được chỉ định. Chỉ số liệu của AA là độc lập; hai số còn lại là đo đạc của nhà cung cấp trên phần cứng khác nhau.
Ling-3.0-flash có giá bao nhiêu?
AA niêm yết API bên thứ nhất ở mức 0,075 USD cho 1 triệu token đầu vào và 0,22 USD cho 1 triệu token đầu ra, với mức giảm giá 80% khi trúng bộ nhớ đệm. Gói miễn phí ra mắt đã kết thúc vào ngày 3 tháng 8, và thời gian giảm giá 75% tạm thời trên Ling Studio đã kết thúc vào ngày 31 tháng 8 năm 2026.
Sự khác biệt giữa Ling, Ring và Ming là gì?
Ling là dòng MoE đa dụng về văn bản và gọi công cụ của InclusionAI, và Ling-3.0-flash nằm ở phân khúc nhanh/rẻ của dòng này. Ring là dòng tập trung vào suy luận. Ming xử lý các tác vụ đa phương thức. Chúng là những họ mô hình riêng biệt cho những công việc khác nhau, không phải các bậc của cùng một mô hình.
Ling-3.0-flash có thể chạy trên một DGX Spark duy nhất không?
Đúng vậy. NVIDIA đã công bố vào ngày 27 tháng 10 một hướng dẫn cho bản dựng MXFP4 trên một DGX Spark (121GB bộ nhớ hợp nhất), sử dụng kernel Humming MXFP4, LM head FP8 và dự đoán đa token NEXTN. Báo cáo cho thấy tốc độ giải mã 53,89 tok/s ở kích thước lô 1 trên 1.319 câu hỏi GSM8K, mức tăng 42,5%, với độ chính xác 96,82%. Các kết quả này là của chính NVIDIA, chưa được tái lập độc lập và chỉ đúng ở kích thước lô 1; việc kết hợp FP8 với MTP đòi hỏi mô hình nháp phải dùng chung toàn bộ LM head, nếu không thông lượng có thể giảm xuống dưới mức cơ sở chưa tối ưu.
Tôi có nên sử dụng Ling-3.0-flash trong sản xuất hôm nay không?
Đây là một mô hình trọng số mở đã trưởng thành, nhưng không còn là Ling mới nhất: AA đánh dấu mô hình này là không còn được khuyến nghị, thay vào đó là Ling-3.1-flash. Nếu bạn đang chạy Ling-3.0-flash, công thức DGX Spark là một tối ưu cụ thể đáng để tái tạo. Nếu bạn đang chọn mới từ đầu, hãy so sánh với Ling-3.1-flash và chạy bộ đánh giá của riêng bạn; giấy phép MIT và mức giá $0.075/$0.22 vẫn khiến nó trở thành một lựa chọn tầng giá rẻ đáng tin cậy.
Điểm mấu chốt
Ling-3.0-flash không còn là Ling mới nhất, và trang trực tiếp của AA nói vậy. Điều nó có mà hầu hết mô hình trọng số mở không bao giờ có là một cấu hình đo lường trên một thiết bị duy nhất: một DGX Spark, 53,89 tok/s giải mã ở batch size 1, 96,82% trên GSM8K, cùng với baseline, giao thức và kiểu lỗi được công bố kèm theo. Hãy đọc 42,5% như kết quả của chính NVIDIA chứ không phải phán quyết độc lập, và đọc Chỉ số tháng 8 là 38 như lịch sử. Trong những giới hạn đó, mô hình vẫn là một lựa chọn tầng nhanh cục bộ đáng tin cậy; nếu bạn bắt đầu từ đầu, phép so sánh nên chạy trước tiên là Ling-3.1-flash.
