
Ling-3.0-flash: Co obecnie wiemy o modelu MoE open-weight szybkiej klasy od Ant Group
- OrcaNOWOŚĆOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 za 1 mln tokenów · 186 tok/s
- openaiNOWOŚĆOpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 za 1 mln tokenów · 86 tok/s
- openaiNOWOŚĆOpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 za 1 mln tokenów · 151 tok/s
- tencentNOWOŚĆTencent: Hy4 Flash2026-11-16$0.02 / $0.07 za 1 mln tokenów · 192 tok/s
- AlibabaNOWOŚĆQwen: Qwen4 Max2026-11-16$1.50 / $4.50 za 1 mln tokenów · 86 tok/s
- GoogleNOWOŚĆGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 za 1 mln tokenów · 705 tok/s
- AnthropicNOWOŚĆAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 za 1 mln tokenów · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 za 1 mln tokenów · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 za 1 mln tokenów · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 za 1 mln tokenów · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 za 1 mln tokenów · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 za 1 mln tokenów · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 za 1 mln tokenów · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 za 1 mln tokenów · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 za 1 mln tokenów · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 za 1 mln tokenów · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Inteligencja
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 za 1 mln tokenów · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Inteligencja
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 za 1 mln tokenów · 101 tok/s
Ling-3.0-flash — szybki MoE InclusionAI od Ant Group, ogłoszony 24 lipca 2026 r. i udostępniony jako open source na licencji MIT 7 sierpnia — ma teraz konkretną ścieżkę wdrożenia na jednym urządzeniu. 27 października NVIDIA opublikowała techniczną recepturę pokazującą, że kompilacja FP4 modelu dekoduje z prędkością 53,89 tokena na sekundę na jednym DGX Spark, co stanowi wzrost o 42,5% z 37,81 tok/s, na wszystkich 1319 pytaniach GSM8K, przy niezmienionej statystycznie dokładności. To pomiary samej NVIDIA na jej własnym sprzęcie, a nie niezależny test strony trzeciej, i dotyczą rozmiaru partii 1. Nie zastępują one podanych poniżej liczb dla hostowanego API. Zamieniają jednak wcześniej niejasną „ścieżkę wdrożenia na pojedynczym DGX Spark” modelu w opublikowaną konfigurację z punktem odniesienia, protokołem i udokumentowanym trybem awarii.
Sam model się nie zmienił. To natywny hybrydowy model rozumujący typu mixture-of-experts z 124 mld parametrów łącznie i 5,1 mld aktywnych na token, zbudowany jako szybka, tania warstwa rodziny Ling; wagi na licencji MIT są dostępne na Hugging Face i ModelScope od 7 sierpnia. To, co zmieniło się od sierpniowej wersji tego wpisu, to otaczający kontekst. Ewaluacja Artificial Analysis, na którą ten wpis powoływał się w sierpniu, przyznała Ling-3.0-flash ocenę 38 w swoim Intelligence Index i umieściła go na froncie Pareto dla otwartych wag pod względem inteligencji w stosunku do całkowitej liczby parametrów. Bieżąca strona AA oznacza teraz model jako przestarzały na rzecz Ling-3.1-flash, kieruje tam czytelników i nie wyświetla już aktualnego Intelligence Index. 38 to nadal ostatni niezależny wynik, jaki otrzymał ten checkpoint; nie jest to bieżąca liczba.
Ta wersja uwzględnia październikowy pomiar DGX Spark i koryguje te części sierpniowego wpisu, które uległy zmianie — aktualne dane dotyczące szybkości AA i jego status deprecacji — zachowując jednocześnie nienaruszone oznaczenia źródeł. Tam, gdzie Ant Group lub NVIDIA jest jedynym źródłem danej liczby, zdanie mówi o tym wprost.
W skrócie. Ling-3.0-flash to szybki model MoE z otwartymi wagami od Ant Group: 124B łącznie / 5,1B aktywnych, licencja MIT, natywny kontekst 256K (262K w wersji serwowanej). Nie jest już najnowszym modelem Ling — AA oznacza go jako przestarzały na rzecz Ling-3.1-flash — ale pozostaje dostępny, udokumentowany i ma teraz zmierzoną konfigurację dla pojedynczego urządzenia. Konfiguracja DGX Spark firmy NVIDIA z 27 października osiąga 53,89 tok/s przy rozmiarze partii 1 na GSM8K, +42,5% względem własnego punktu odniesienia, według dostawcy. W hostowanym API AA obecnie podaje 243 tok/s wyjściowych i 2,79 s czasu do pierwszego tokenu. Nadal tylko dane dostawcy: twierdzenie Ant o szczytowej przepustowości ponad 1100 tok/s, wartość TTFT poniżej 100 ms i tabela benchmarków z karty modelu. Ceny API pierwszej strony to 0,075 USD za wejście / 0,22 USD za wyjście za 1 mln tokenów (80% zniżki przy trafieniach w pamięć podręczną); darmowy poziom startowy zakończył się 3 sierpnia, a promocja 75% zniżki na Ling Studio zakończyła się 31 sierpnia.
Najważniejsze wnioski
• To szybki/tani wariant, a nie flagowiec. Flagowy model poprzedniej generacji z 1 bln parametrów pozostaje największym modelem InclusionAI; Ling-3.0-flash to mniejszy, szybszy model siostrzany przeznaczony do tekstu o dużym wolumenie i wywoływania narzędzi.
• Wagi nadal są udostępniane na licencji MIT. 7 sierpnia trafiły do Hugging Face (inclusionAI/Ling-3.0-flash) i ModelScope, a kompilacja MXFP4, którą NVIDIA dokumentuje dla DGX Spark, jest dostarczana wraz z checkpointami BF16 i FP8.
• Niezależny wynik ma już charakter historyczny. Przeprowadzony przez AA test, na który ten wpis powoływał się w sierpniu, przyznał mu ocenę 38 — o 24 punkty więcej niż Ling-2.6-flash — i umieścił go na froncie Pareto modeli open-weights; bieżąca strona AA oznacza teraz ten model jako wycofany na rzecz Ling-3.1-flash i nie podaje aktualnej wartości Intelligence Index.
• Szybkość ma trzy punkty odniesienia i nie są one wymienne. AA obecnie podaje 243 tok/s na wyjściu w hostowanym API; NVIDIA mierzy 53,89 tok/s na jednym DGX Spark przy wielkości partii 1; Ant nadal twierdzi, że osiąga 1,100+ tok/s na określonym sprzęcie klastrowym.
Ceny zostały ustalone, a promocje się skończyły. 0,075 USD za wejście / 0,22 USD za wyjście za 1 mln tokenów, z 80% zniżki za trafienie w cache; darmowy plan startowy zakończył się 3 sierpnia, a okres 75% zniżki w Ling Studio zakończył się 31 sierpnia.
• To jeden element rodziny trzech modeli. InclusionAI dzieli swoją linię na Ling (MoE ogólnego przeznaczenia do tekstu i narzędzi, ten model), Ring (rozumowanie) i Ming (multimodalny).
Uwaga dotycząca sposobu czytania tej aktualizacji: to korekta zapowiedzi z 24 lipca oraz poprzedzającej ją korekty z 8 sierpnia. Wynik DGX Spark z 27 października to nowy materiał; poprawki AA mają charakter porządkowy, aby wpis nie powoływał się na aktualny wynik, który już nie istnieje. Każda specyfikacja, benchmark i cena poniżej są oznaczone źródłem.
Co tak naprawdę wiemy
Architektura jest w pełni udokumentowana na karcie modelu. Ling-3.0-flash wykorzystuje natywny hybrydowy stos uwagi liniowej — Kimi Delta Attention (KDA) i warstwy Gated MLA przeplatające się w stosunku 5:1 (35 KDA + 7 MLA, łącznie 42 warstwy), z drobnoziarnistym diagonalnym bramkowaniem KDA — na szczycie 1/64 rzadkiego MoE (512 ekspertów routowanych, 8 aktywowanych na token, plus jeden ekspert współdzielony). Dzięki temu osiąga 124B łącznych parametrów przy zaledwie 5,1B aktywnych. Okno kontekstu wynosi natywnie 256K, obsługiwane przy 262 144 tokenach w przepisach inferencyjnych, a Ant twierdzi, że architektura skaluje się do 1M. Maksymalna długość wyjścia nie jest ujawniona. Model jest tekstowy i obsługuje wywoływanie narzędzi; dane wejściowe multimodalne są dostępne w osobnej linii Ming.
Laboratorium publikuje dwa formaty wag — BF16 (około 255 GB) i FP8 (około 128 GB) — a warianty skwantyzowane przez społeczność są podlinkowane z karty modelu. Przepis DGX Spark używa trzeciego: wersji MXFP4, która mieści się w 121 GB pamięci zunifikowanej urządzenia. Własne przepisy wdrożeniowe laboratorium są przeznaczone dla SGLang i vLLM; ścieżka Spark firmy NVIDIA używa wersji SGLang od InclusionAI z dodanym backendem Humming MoE.
Dostępność: otwarte wagi na licencji MIT
7 sierpnia zespół InclusionAI należący do Ant Group udostępnił wagi na licencji MIT w serwisach Hugging Face (inclusionAI/Ling-3.0-flash) i ModelScope. To permisywna licencja umożliwiająca użycie komercyjne — ta sama, na której wydano Ling 2.0 i Ling 2.6 — co oznacza, że możesz samodzielnie hostować, dostrajać i wdrażać Ling-3.0-flash, zamiast wynajmować go przez API. Model można również wywoływać przez własne API deweloperskie Ant oraz kilka platform zewnętrznych. W przypadku modelu klasy szybkiej w tej cenie interesujące pytanie nie brzmi już, czy możesz go hostować samodzielnie; brzmi ono, czy jedno urządzenie 121GB wystarczy. Ling Cookbook od InclusionAI zawiera teraz notatnik DGX Spark przypisywany wspólnie Ant Group i NVIDIA, a wykorzystywany w nim checkpoint MXFP4 jest publikowany obok pozostałych formatów. Poniższa sekcja to pierwsza zmierzona odpowiedź na to pytanie.

Niezależne wyniki: sierpniowy rezultat, obecnie już historyczny
Największą pojedynczą zmianą w porównaniu z lipcowym wpisem było pojawienie się niezależnych liczb. Ewaluacja Artificial Analysis, którą ten wpis cytował w sierpniu, przyznała Ling-3.0-flash wynik 38 w Intelligence Index — o 24 punkty więcej niż poprzednia generacja szybkiej klasy, Ling-2.6-flash (14), i tyle samo co MiMo-V2.5 oraz Qwen 3.6 27B, przy aktywacji ułamka ich parametrów. AA umieściła również model na granicy Pareto dla modeli open-weights pod względem inteligencji w stosunku do całkowitej liczby parametrów: wówczas żaden model open-weights z mniejszą całkowitą liczbą parametrów nie uzyskał wyższego wyniku. Lider open-weights w klasie flash według AA, DeepSeek V4 Flash, uzyskał jeszcze wyższy wynik (Index 52 przy maksymalnym wysiłku rozumowania).
Ten rekord został od tego czasu wycofany, a nie obalony. Bieżąca strona AA dla Ling-3.0-flash oznacza teraz ten model jako przestarzały na rzecz Ling-3.1-flash, kieruje czytelników do nowszego modelu i nie wyświetla bieżącego Intelligence Index. Wartość 38 pozostaje ostatnim niezależnym wynikiem, jaki ten checkpoint otrzymał; należy ją czytać jako wynik z konkretnej daty, a nie bieżący ranking. Jeśli wybierasz dziś model Ling, należy porównać go z Ling-3.1-flash, który AA obecnie uwzględnia.
Wyniki agentowe i dla długiego kontekstu z tej ewaluacji również były kierunkowo silne. W zestawie τ3-Bench Banking AA Ling-3.0-flash uzyskał 27%, drugi wynik wśród modeli open-weight klasy flash, za DeepSeek V4 Flash (39%). W GDPval-AA v2 osiągnął Elo 1108, w porównaniu z 545 dla Ling-2.6-flash. Ant trenował model w ponad 10 000 interaktywnych środowiskach (według dostawcy) i przedstawia go jako węzeł wykonawczy dla przepływów pracy agentów — szybki, tani i jednorazowy, z ciężkim rozumowaniem pozostawionym większemu modelowi flagowemu.
Jedno zastrzeżenie dotyczące źródła: tabela benchmarków na karcie modelu Ant — SWE-Bench Pro 56.6, SWE-bench Multilingual 72.4, MathArena AIME 2026 93.2, HLE 22.7 — pochodzi od dostawcy i nie została niezależnie odtworzona. Traktuj ją jako twierdzenia samego laboratorium, w tej samej kategorii co podane poniżej wartości prędkości szczytowej.
Prędkość: trzy liczby, trzy różne konfiguracje
Historia szybkości ma teraz trzy liczby, a pierwszą rzeczą do zrobienia jest przestać traktować je jako ten sam pomiar.
W hostowanym API Artificial Analysis obecnie podaje 243 tokeny wyjściowe na sekundę i 2,79 s czasu do pierwszego tokenu. To mniej niż 368 tok/s i 1,98 s podane w tym wpisie w sierpniu — panel dostawców i przebiegi AA się zmieniają, a dziś należy cytować stronę na żywo. Model nadal plasuje się w czołówce swojej klasy szybkości.
Na pojedynczym DGX Spark firma NVIDIA podaje 53,89 tokena dekodowania na sekundę przy rozmiarze partii 1 w benchmarku GSM8K, co stanowi wzrost o 42,5% względem jej własnego wyniku bazowego. Jest to lokalna wartość dla jednego użytkownika, nieporównywalna z przepustowością API i niebędąca wynikiem współbieżności. W następnej sekcji omawiamy ją szczegółowo.
Ant twierdzi, że na określonym sprzęcie klastrowym osiąga średnią szybkość generowania powyżej 1100 tokenów na sekundę i czas do pierwszego tokena poniżej 100 ms dzięki hierarchicznej warstwie buforowania zbudowanej na SGLang HiCache i Mooncake. Pozostaje to jednak danymi wyłącznie od dostawcy — zmierzonymi na sprzęcie i w konfiguracjach wsadowych kontrolowanych przez Ant, bez opublikowanego niezależnego powtórzenia. Do planowania użyj wartości AA dla obciążeń hostowanych, wartości NVIDIA dla pojedynczego Sparka, a 1100+ tok/s traktuj jako pułap do zweryfikowania na własnym obciążeniu.
Jeden DGX Spark: co tak naprawdę mierzy 42,5%
27 października blog techniczny NVIDIA opublikował przepis na serwowanie Ling-3.0-flash-fp4 na jednym DGX Spark — systemie stacjonarnym GB10 ze 121GB zunifikowanej pamięci — a Ling Cookbook od InclusionAI zawiera odpowiedni notatnik, przypisany wspólnie Ant Group i NVIDIA. Własny opis Ant Group określał tę pracę jako współpracę techniczną z NVIDIA. To staranny benchmark, a nie demo: wszystkie 1,319 pytań GSM8K, five-shot chain-of-thought, rozmiar partii 1, temperatura 0,6, top-p 0,95, top-k 29 i limit 32,768 tokenów.
Wersją bazową jest kompilacja W4A8 serwowana z użyciem jąder MXFP4 MoE FlashInfer, gęstego GEMM CUTLASS i 32-bitowego LM head. Na tej wartości bazowej dekodowanie działa z szybkością 37,81 tok/s. Po nałożeniu trzech zmian działa z szybkością 53,89 tok/s — to 42,5% z nagłówka. Średni czas na token wyjściowy spada z 26,45 ms do 18,56 ms (−29,8%), średnie opóźnienie end-to-end z 15,21 s do 11,49 s (−24,5%), P50 z 8,36 s do 6,11 s, a P95 z 50,20 s do 38,60 s. Dokładność GSM8K zmienia się z 96,89% do 96,82%, co stanowi różnicę 0,08 punktu, którą NVIDIA opisuje jako nieistotną statystycznie. Średni czas do pierwszego tokenu jest zasadniczo stały: z 0,207 s do 0,214 s. To zyski z dekodowania, a nie z prefillu.
Te trzy zmiany dotyczą różnych kosztów:
• Kernele MoE MXFP4 Humming zastępują backend FlashInfer. Humming kompiluje kernele w czasie działania za pomocą NVRTC dla dokładnych kształtów modelu — w tym jego wąskiego rozmiaru pośredniego MoE wynoszącego 768 — i zapisuje je w pamięci podręcznej w ~/.humming/cache. W syntetycznym teście NVIDIA tylko ten element zwiększa przepustowość o 9,3%.
• Kwantyzacja online FP8 głowicy LM. Głowica pozostaje w formacie BF16 w checkpoincie, a jej GEMM 157 184 × 2 560 odczytuje pełny blok wag przy każdym tokenie; kwantyzacja do FP8 przy wczytywaniu zmniejsza ten odczyt o połowę. Włącza się ją przez SGLANG_ENABLE_FP8_LM_HEAD=1, co koliduje z opcją --enable-fp32-lm-head konfiguracji bazowej i daje wzrost o 11,4% w porównaniu z samym Humming.
{{1}}NEXTN — przewidywanie wielu tokenów{{/1}}. Wbudowana warstwa NEXTN modelu generuje trzy tokeny i weryfikuje okno czterech tokenów. W przypadku GSM8K średnia akceptowana długość wersji roboczej wynosi 2,68 tokena na rundę.
W tym samym wpisie jest druga, głośniejsza liczba: syntetyczne obciążenie 32K wejścia / 2K wyjścia przy rozmiarze partii 1 rośnie z 36,09 do 102,88 tok/s, +185,1%. Sama NVIDIA ostrzega przed uogólnianiem tego wyniku. Ten przebieg wykorzystywał dekodowanie zachłanne, stałe wyjście 2K i powtarzalny tekst; akceptacja osiągnęła 3,90 tokena na rundę w porównaniu z 2,68 na GSM8K. To na wartości 42,5% dla GSM8K należy się opierać w planowaniu. 185,1% to syntetyczny pułap w najlepszym scenariuszu.
Jedna pułapka operacyjna ma większe znaczenie niż przyspieszenie. Kwantyzacja głowicy LM w FP8 i MTP łączą się tylko wtedy, gdy model szkicowy współdzieli z modelem docelowym cały moduł LM-head, a nie wyłącznie jego tensor wag. Bez tego interfejsu framework po cichu przechodzi w tryb awaryjny, odczytuje wagi FP8 jako BF16, obniża współczynnik akceptacji do 1.00 i może okazać się wolniejszy niż niezoptymalizowany baseline. Zalecenie NVIDIA jest takie, aby przy uruchomieniu zweryfikować, że każda optymalizacja jest aktywna, zamiast wnioskować o tym na podstawie późniejszych pomiarów czasu.
Co to zmienia dla czytelnika: ścieżka pojedynczego Sparka nie jest już slajdem dostawcy. To opublikowany przepis z punktem odniesienia, protokołem pomiarowym i jawnie podanym trybem awarii — wystarczający, by odtworzyć go lub odrzucić na własnym urządzeniu. Czego to nie zmienia: to nadal pomiar samego NVIDIA, na jednym urządzeniu, przy wielkości partii 1, w fazie dekodowania. Nie mówi nic o współbieżnej obsłudze, przepustowości w długim kontekście ani hostowanym API. Dotyczy też konkretnie kompilacji FP4; checkpointy BF16 i FP8 mają inne profile pamięci i przepustowości.
Ceny: niskie, a promocja dobiegła końca.
Artificial Analysis podaje, że API first-party kosztuje $0.075 za 1 mln tokenów wejściowych i $0.22 za 1 mln tokenów wyjściowych, a trafienia w pamięć podręczną kosztują $0.015 (−80%) — wszystkie ceny są ustalane przez dostawcę. Startowy darmowy plan (500 tys. darmowych tokenów dziennie, darmowy dostęp do API) zakończył się 3 sierpnia. Tymczasowy okres 75% zniżki w Ling Studio trwał do 31 sierpnia 2026 r.; od 1 września obowiązuje cennik listowy. Nawet przy pełnym cenniku listowym $0.075/$0.22 zdecydowanie plasuje Ling-3.0-flash w taniej kategorii jak na model z Indeksem 38 w tej ewaluacji.
Przy tak niskich cenach koszt przełączenia ma większe znaczenie niż cena za token. Zadaniem OrcaRouter jest utrzymanie uczciwości hostowanej strony tego porównania: jedno API dla ponad 200 modeli, ceny katalogowe dostawców przekazywane bez marży (0%) oraz automatyczne przełączanie awaryjne między dostawcami. Lokalne wdrożenie DGX Spark musi pobić rzeczywistą, bieżącą cenę rynkową, a nie slajd sprzedawcy — a gdy hostowany dostawca zmienia cenę, mechanizm przekazywania odzwierciedla to na tym samym kluczu tego samego dnia.
Rodzina Ling / Ring / Ming
Ling-3.0-flash nie istnieje w izolacji — InclusionAI organizuje swoje wydania w trzy nazwane rodziny, z których każda jest przeznaczona do innego zadania. Ling to linia ogólnego przeznaczenia oparta na MoE, służąca do codziennego generowania tekstu i wywoływania narzędzi, a Ling-3.0-flash znajduje się na jej szybkim/tanim końcu, o krok poniżej flagowego modelu poprzedniej generacji z 1T parametrów. Ring to linia skoncentrowana na rozumowaniu, stworzona do wieloetapowego łańcucha myśli. Ming to linia multimodalna. Jeśli Twoje zadanie wymaga cięższego rozumowania lub danych wejściowych w postaci obrazów, właściwy model InclusionAI prawdopodobnie nie będzie Ling-3.0-flash — został on stworzony do dużej skali i szybkości w obszarze tekstu i narzędzi.
Dla kogo: cztery scenariusze
1. Potoki przetwarzania tekstu lub wywoływania narzędzi o dużej przepustowości i wrażliwe na opóźnienia
To rodzinne poletko tego modelu. Dzięki licencji MIT, opublikowanej recepturze na pojedynczym Sparku i opatrzonemu datą niezależnemu Indeksowi wynoszącemu 38 zakład na najszybszą klasę jest możliwy do przetestowania, a nie hipotetyczny — przepuść przez niego własny zestaw ewaluacyjny albo pobierz wagi i hostuj go samodzielnie. Tylko nie buduj wokół deklarowanego przez dostawcę pułapu ponad 1100 tok/s, dopóki nie zmierzysz go na własnym obciążeniu.
2. Zespoły, które chcą długiego kontekstu w przystępnej cenie
Natywny kontekst 256K (262K w usłudze) z deklarowaną ścieżką do 1M, w cenie $0.075/$0.22, to atrakcyjne połączenie dla zadań mocno opartych na wyszukiwaniu lub przetwarzaniu dokumentów. Liczby dotyczące długiego kontekstu w karcie modelu są podawane przez dostawcę, więc umieść go na krótkiej liście obok sprawdzonych opcji długiego kontekstu i zweryfikuj na własnym korpusie przed podjęciem decyzji.
3. Obserwatorzy śledzący krajobraz MoE w Chinach oraz mapę drogową InclusionAI
Lipcowe pytanie — czy InclusionAI pozostanie otwarte? — ma teraz odpowiedź: tak, na licencji MIT i to szybko. Ling-3.0-flash trafiający na granicę Pareto AA przy 5,1B aktywnych parametrów był jednym punktem danych. Październikowa receptura DGX Spark jest drugim: model 124B dekodujący z prędkością 53,89 tok/s na jednym komputerze stacjonarnym przy wielkości partii 1, z opublikowaną recepturą.
4. Zespoły z jednym DGX Spark na biurku
Jeśli już masz to urządzenie, przepis NVIDII to pierwsza konfiguracja warta skopiowania: kompilacja MXFP4, fork SGLang od InclusionAI, jądra Humming MoE, głowica LM FP8 i NEXTN MTP. Traktuj to jako pomiar jednego dostawcy przy rozmiarze partii 1 i sprawdź przy starcie, czy elementy FP8 i MTP są faktycznie aktywne — tryb awarii z cichym fallbackiem jest realny. Jeśli nie masz Sparka, ten przepis to tylko jedna dana o tym, co daje 121 GB zunifikowanej pamięci, a nie powód, by go kupować.
Co jeszcze nie zostało zweryfikowane
Krótka lista, teraz gdy największe luki zostały domknięte. Reklamowane przez Anta szczytowe prędkości (ponad 1100 tok/s, TTFT poniżej 100 ms) wciąż nie doczekały się niezależnego ponownego pomiaru. Tabela wyników benchmarków w karcie modelu nadal jest raportowana przez dostawcę. Kompilacje FP4/INT4 i ścieżka z pojedynczym DGX-Spark nie są już niejasne — NVIDIA opublikowała konfigurację, a InclusionAI udostępnia notebook — ale wartości 53,89 tok/s i 96,82% to własne pomiary NVIDII na jednym urządzeniu przy rozmiarze partii 1, a nie odtworzenie przez stronę trzecią. Niezależny wynik ma charakter historyczny: ewaluacja, którą ten post cytował w sierpniu, dała mu 38, a bieżąca strona oznacza teraz model jako przestarzały na rzecz Ling-3.1-flash. A jeśli chodzi o wiedzę, Indeks Omniscience z tej ewaluacji pokazał, że poprawa względem poprzedniej generacji wynikała w dużej mierze z wstrzymywania się od odpowiedzi — halucynacje spadły (97% → 44%), podczas gdy dokładność wzrosła tylko nieznacznie (16% → 18%) — więc nie myl nagłówkowego skoku Indeksu z wszechstronnym skokiem wiedzy.
Kiedy nie używać
Pomiń Ling-3.0-flash w pracy multimodalnej — to linia Ming. Pomiń go, jeśli potrzebujesz ciężkiego flagowego modelu rozumującego, a nie szybkiego wykonawcy — to działka Ring. Jeśli planujesz samodzielny hosting, zaplanuj budżet na rzeczywisty sprzęt: BF16 to około 255 GB, FP8 około 128 GB, a wersja MXFP4 to ta, która mieści się w 121 GB DGX Spark. Jeśli wybierasz model Ling od zera, a nie utrzymujesz istniejącego wdrożenia, najpierw porównaj go z Ling-3.1-flash; AA przeniosło tam swój zakres testów. A jeśli jakaś deklaracja ma dla ciebie znaczenie, zweryfikuj ją — liczby dotyczące szczytowej prędkości i długiego kontekstu pochodzą od Ant, dopóki niezależne laboratorium ich nie powtórzy.
Najczęściej zadawane pytania
Czy Ling-3.0-flash ma otwarte wagi?
Tak. Wagi zostały udostępnione jako open source 7 sierpnia na licencji MIT, na Hugging Face (inclusionAI/Ling-3.0-flash) i ModelScope. Jest to licencja permisywna, dopuszczająca użycie komercyjne — ta sama, na której wydano Ling 2.0 i Ling 2.6.
Jak Ling-3.0-flash radzi sobie w benchmarkach?
{{1}}Ewaluacja Artificial Analysis, na którą ten wpis powoływał się w sierpniu{{/1}}, przyznała mu 38 punktów w Intelligence Index, o 24 punkty więcej niż Ling-2.6-flash, i umieściła go na froncie Pareto open-weights pod względem inteligencji w stosunku do całkowitej liczby parametrów. Aktualna strona AA oznacza teraz model jako przestarzały na rzecz Ling-3.1-flash i nie podaje obecnego Intelligence Index, więc 38 to wynik historyczny. Tabela benchmarków na karcie modelu Ant (na przykład SWE-Bench Pro 56.6) jest podana przez dostawcę i nie została niezależnie odtworzona.
Jak szybkie to naprawdę jest?
Istnieją trzy różne liczby dla trzech różnych konfiguracji. AA obecnie podaje 243 tokeny wyjściowe na sekundę i 2,79 s czasu do pierwszego tokena w hostowanym API. NVIDIA raportuje 53,89 tok/s dekodowania przy rozmiarze partii 1 na jednym DGX Spark. Ant twierdzi, że osiąga ponad 1100 tok/s i TTFT poniżej 100 ms na określonym sprzęcie klastrowym. Tylko wartość AA jest niezależna; pozostałe dwie to pomiary dostawców na innym sprzęcie.
Ile kosztuje Ling-3.0-flash?
AA podaje, że API first-party kosztuje 0,075 USD za 1 mln tokenów wejściowych i 0,22 USD za 1 mln tokenów wyjściowych, z 80% zniżką za trafienie w pamięć podręczną. Bezpłatny poziom wprowadzający zakończył się 3 sierpnia, a tymczasowy okres 75% zniżki w Ling Studio zakończył się 31 sierpnia 2026 r.
Jaka jest różnica między Ling, Ring i Ming?
Ling to rodzina modeli MoE ogólnego przeznaczenia firmy InclusionAI, służąca do przetwarzania tekstu i wywoływania narzędzi, a Ling-3.0-flash plasuje się na jej szybkim/tanich krańcu. Ring to linia skoncentrowana na rozumowaniu. Ming zajmuje się zadaniami multimodalnymi. To odrębne rodziny do różnych zadań, a nie poziomy jednego modelu.
Czy Ling-3.0-flash może działać na pojedynczym DGX Spark?
Tak. NVIDIA opublikowała 27 października przepis na kompilację MXFP4 na jednym DGX Spark (121 GB pamięci ujednoliconej), wykorzystującą jądra Humming MXFP4, głowicę LM FP8 oraz wielotokenowe przewidywanie NEXTN. Raportuje 53,89 tok/s dekodowania przy rozmiarze partii 1 na 1319 pytań GSM8K, wzrost o 42,5%, przy dokładności 96,82%. Wyniki pochodzą od samej NVIDIA i nie zostały niezależnie odtworzone, a dotyczą wyłącznie rozmiaru partii 1; połączenie FP8 z MTP wymaga, aby wersja robocza współdzieliła pełną głowicę LM, w przeciwnym razie przepustowość może spaść poniżej nieoptymalizowanego poziomu bazowego.
Czy powinienem użyć Ling-3.0-flash w produkcji dzisiaj?
Jest to dojrzały model z otwartymi wagami, ale nie jest już najnowszym modelem Ling: AA oznacza go jako przestarzały na rzecz Ling-3.1-flash. Jeśli już używasz Ling-3.0-flash, przepis dla DGX Spark to konkretna optymalizacja warta odtworzenia. Jeśli dopiero wybierasz model, porównaj go z Ling-3.1-flash i uruchom własny zestaw ewaluacyjny; licencja MIT i cena $0.075/$0.22 wciąż czynią go wiarygodną tanią opcją.
Konkluzja
Ling-3.0-flash nie jest już najnowszym modelem Ling, a strona AA na żywo to potwierdza. Ma coś, czego większość modeli z otwartymi wagami nigdy nie otrzymuje: zmierzoną konfigurację jednourządzeniową — jeden DGX Spark, 53,89 tok/s dekodowania przy rozmiarze partii 1, 96,82% na GSM8K — wraz z opublikowanym punktem odniesienia, protokołem i trybem awarii. Wartość 42,5% należy odczytywać jako wynik samego NVIDIA, a nie niezależny werdykt, zaś sierpniowy Index wynoszący 38 traktować jako historię. W tych granicach model pozostaje wiarygodną lokalną opcją szybkiej klasy; jeśli zaczynasz od zera, pierwszym porównaniem, jakie należy wykonać, jest Ling-3.1-flash.
