Ling-3.1-flash-1019 vs Ling-3.1-flash: ten sam rozmiar, ta sama cena, wyższy rachunek za tokeny

Jeśli płacisz za tokeny, Ling-3.1-flash-1019 to bezpłatne ulepszenie względem Ling-3.1-flash. Oba modele mają cennik na poziomie 0,30 USD za milion tokenów wejściowych i 0,90 USD za milion tokenów wyjściowych, oba są objęte licencją MIT, oba są modelami mixture-of-experts o 560 mld parametrów, z których 25 mld jest aktywnych, i oba zajmują 573,8 GB na dysku. Jeśli płacisz za ukończone zadanie, ulepszenie jest o blisko 47% droższe: Artificial Analysis zmierzyło 1,49 USD za zadanie Intelligence Index dla wersji 1019 wobec 1,01 USD dla poprzednika, ponieważ nowszy model generuje około 59% więcej tokenów wyjściowych, aby uzyskać swoje odpowiedzi. Trzypunktowy wzrost indeksu między nimi — 44 wobec 41 — jest realny. Pytanie, na które odpowiada ta strona, brzmi: kto powinien za to zapłacić.

Daty mają znaczenie dla odczytania reszty. Ling-3.1-flash został udostępniony na licencji MIT w połowie października; jego repozytorium utworzono 13 października, a ogłoszenie Anta pojawiło się 15 października. Kompilację 1019 ogłoszono 22 października, podając wynik, ale bez możliwości pobrania; jej wagi oraz bazowy checkpoint pojawiły się 27 października. To nie jest więc luka pokoleniowa. To jeden przebieg dostrajania po treningu zastosowany do tej samej architektury, wydany pięć dni po liczbie, która go opisuje.

Co łączy te dwa punkty kontrolne

The overlap is large enough that migration cost is effectively zero, which is the main argument for the newer build:

• Architektura — 72 warstwy, podzielone na 63 warstwy liniowej uwagi KDA i 9 bramkowanych warstw MLA w proporcji 7:1, plus 4 warstwy gęste.

• Eksperci — 512 routowanych, 8 aktywowanych na token, 1 wspólny; rozmiar ukryty 4 096; słownik 157 184.

• Wagi na dysku — 573.8 GB plików FP8 safetensors w 54 shardach dla obu, według naszego zliczenia na podstawie list plików z dwóch repozytoriów.

• Licencja — MIT w obu przypadkach, w tym komercyjna redystrybucja.

• Cena — 0,30 USD za wejście, 0,90 USD za wyjście, 0,06 USD za odczyt z pamięci podręcznej, czyli łącznie 0,19 USD przy mieszanym stosunku trafień w pamięć podręczną/wejścia/wyjścia wynoszącym 7:2:1.

• Deklarowany kontekst — okno 1M tokenów na obu kartach modeli; 262 144 pozycje i brak skalowania RoPE w obu plikach config.json.

Ta ostatnia kwestia to pierwsza rzecz, którą trzeba sobie przyswoić przed ich porównaniem. Na papierze oba modele oferują milion tokenów. W konfiguracji dostarczanej na rynek oba mają górny limit 256K, chyba że doda się schemat skalowania, którego Ant nie uwzględnił. To ograniczenie jest identyczne po obu stronach, więc nie rozstrzyga pojedynku — ale oznacza, że żadna z tych wersji nie jest reklamowanym na kartach modelem o milionie tokenów, a każdy, kto planuje obciążenie z 1 mln tokenów, wybiera między dwoma modelami, które oba będą wymagały pracy, by do tego dojść.

Skąd pochodzą te trzy punkty

Artificial Analysis mierzy samą różnicę w wynikach głównych: 41 dla Ling-3.1-flash i 44 dla Ling-3.1-flash-1019 w Intelligence Index v4.3.2, przy czym starszy model zajął ósme miejsce spośród 122, a nowszy czwarte. To niezależny pomiar obu punktów końcowych, co sprawia, że trzypunktowa różnica jest najbardziej wiarygodną liczbą w tym porównaniu.

Podział według poszczególnych benchmarków jest raportowany przez dostawcę i tak należy go odczytywać — pochodzi z karty modelu Ant, a nie z publicznego harnessu:

• AA-Briefcase — z około 1400 Elo do 1524 Elo. To benchmark artefaktów pracy wiedzy, a skok o 124 punkty to największy względny wzrost w zestawie.

• AutomationBench-AA — z 62% do 68%, sześciopunktowa poprawa w automatyzacji zadań agentowych.

• CritPt — z 18% do 26%, największy skok proporcjonalny: osiem punktów w zestawie rozumowania fizycznego, w którym wyniki bezwzględne są niskie dla wszystkich.

• SciCode — z 54% do 57%, najmniejsza zmiana z czterech i ta, którą należy traktować najostrożniej; Artificial Analysis oznacza SciCode jako będący w trakcie weryfikacji dla tego modelu.

Czytane łącznie, ten wzorzec jest spójny z tym, co Ant twierdzi, że zrobił: więcej treningu post-training w zakresie rozumowania i wieloetapowej pracy agentowej, a nie nowy zakres możliwości. Zyski koncentrują się tam, gdzie łańcuchy decyzji są długie i gdzie częściowo poprawna odpowiedź zdobywa częściowe punkty. Są najskromniejsze w przypadku prostego generowania kodu naukowego, co jest dokładnie tym obszarem, w którym należałoby oczekiwać, że odświeżenie post-trainingowe, a nie zmiana architektury, przyniesie najmniejsze zmiany.

Rachunek: 59% więcej myślenia

W tym miejscu dwa modele przestają być wymienne. Artificial Analysis odnotowało 220 mln tokenów wyjściowych dla przebiegu indeksu Ling-3.1-flash i 350 mln dla przebiegu 1019 — stosunek 1,59 — i plasuje nowszą wersję na ostatnim miejscu spośród 48 modeli pod względem rozwlekłości, wobec mediany 140 mln. Koszt ukończenia indeksu wzrósł z 1,01 USD do 1,49 USD na zadanie.

Przełóż to na obciążenie robocze. Przy 10 000 zadań w kształcie indeksu wartości na zadanie implikują około 10 100 USD na starszym checkpoincie i 14 900 USD na nowszym. Strona tokenów skaluje się tak samo: obciążenie, które zużywa 2,2 mld tokenów wyjściowych na Ling-3.1-flash, zużyłoby około 3,5 mld na buildzie 1019 przy zmierzonym stosunku, co przy 0,90 USD za milion daje 1 980 USD wobec 3 150 USD. Reszta różnicy na zadanie wynika z cen danych wejściowych i pamięci podręcznej, ale kierunek wyznacza liczba tokenów: kupujesz trzy punkty indeksu za około sześć dziesiątych dodatkowej odpowiedzi na odpowiedź.

Czy to dobry interes, zależy od trybu awarii, przed którym się zabezpieczasz. W pętli agenta, w której błędne wywołanie narzędzia wyzwala ponowną próbę, ponowne odczytanie kontekstu lub przegląd przez człowieka, dodatkowe 59% tokenów jest tanim kosztem w porównaniu z jedną unikniętą pętlą. W klasyfikacji, ekstrakcji, krótkiej rozmowie lub dowolnym zadaniu o dużym wolumenie, w którym odpowiedź to jedno lub dwa zdania, ten sam stosunek to czysty narzut — a indeks nigdy tego nie pokaże, ponieważ indeks nagradza trudne przypadki, na które ukierunkowany był etap po treningu.

Drugą połową obrazu kosztów jest stabilność stawek. OrcaRouter umieszcza ponad 200 modeli za jednym kluczem przy 0% marży względem cennika dostawcy, więc zmiana ceny przez dostawcę jest uwzględniana tego samego dnia w przypadku modeli, które obsługujemy w routingu. Linia Ling nie znajduje się dziś w tym katalogu, co oznacza, że powyższe wartości to wyłącznie stawka cennikowa Ant i nic więcej. Właśnie dlatego arytmetyka na poziomie zadania ma większe znaczenie niż stawka za token: stawka jest identyczna w przypadku tych dwóch modeli, więc nie może pomóc w wyborze.

Prędkość: istnieje jedna liczba i należy ona do starszego modelu

Artificial Analysis zmierzył Ling-3.1-flash na 215,7 tokenów wyjściowych na sekundę przy czasie do pierwszego tokenu wynoszącym 1,73 sekundy, co plasuje go na szóstym miejscu wśród 78 modeli pod względem szybkości. Dla Ling-3.1-flash-1019 ta sama strona nie podaje wartości szybkości wyjściowej — w momencie pomiaru nie było publicznie dostępnego API do pomiaru, a wagi pojawiły się dopiero dziś. Zatem to, że ten model jest szybszy, nie jest kwestią opinii; to jedyny z dwóch, który ma pomiar.

Połącz to ze stosunkiem liczby tokenów, a otrzymasz szacunek, którego można bronić, wyraźnie oznaczony jako obliczenie arytmetyczne, a nie benchmark. Gdyby obie kompilacje dekodowały z szybkością 215,7 tokena na sekundę, odpowiedź o długości 1000 tokenów w Ling-3.1-flash zajęłaby około 4,6 sekundy dekodowania; równoważna odpowiedź o długości 1590 tokenów w kompilacji 1019 zajęłaby około 7,4 sekundy. Czas do pierwszego tokena to osobna zmienna i może się zmienić w obie strony. Sedno w tym, że 59% wzrost liczby tokenów nie może być darmowy pod względem czasu zegarowego, chyba że nowszy model również dekoduje istotnie szybciej, a nikt nie opublikował dowodów, że tak jest.

Self-hosting: identyczny ślad, inny README

Na własnym sprzęcie wybór jest prostszy, ponieważ cel wdrożenia się nie zmienia. Oba checkpointy wymagają tej samej udokumentowanej konfiguracji — osiem H200 przy TP8 plus EP8 albo cztery GB300 przy TP4 plus EP4 — oraz tego samego obrazu SGLang day-0, z przepisem vLLM wykorzystującym równoległość tensorową 8, równoległość ekspertów i trzy tokeny spekulacyjne. Ponieważ architektury i rozmiary plików są identyczne, 1019 jest zamiennikiem typu drop-in: podmień ścieżkę wag, zachowaj stos serwowania, a nic innego w Twojej infrastrukturze nie musi o tym wiedzieć.

Dwa praktyczne ostrzeżenia. Po pierwsze, sekcja Quickstart w karcie modelu 1019 nadal wskazuje w poleceniu SGLang na inclusionAI/Ling-3.1-flash i wysyła "model": "Ling-3.1-flash" w przykładzie klienta; skopiuj to dosłownie, a będziesz serwować model z wynikiem 41 punktów, wierząc, że testujesz ten z 44 punktami. Po drugie, bazowy checkpoint, który Ant udostępnił wraz z 1019, to Ling-3.1-flash-base — baza starszego modelu, a nie zrzut 1019 sprzed etapu post-training. Jeśli planujesz dostroić uaktualnienie, przepis, który je wytworzył, nie znajduje się w pobranym pakiecie. Jeśli planujesz zbudować coś własnego na bazie modelu 560B na licencji MIT, checkpoint bazowy jest właściwym punktem wyjścia, a różnica w indeksie między tymi dwoma checkpointami jest dla ciebie nieistotna.

Nazywanie ich: jedna nazwa, dwie kompilacje

Historia API jest bardziej zagmatwana niż historia wag. Kompilacja 1019 to oznaczony datą checkpoint pod nazwą, którą większość kodu serwującego traktuje jako ten sam ciąg modelu co jego poprzednik — w tym własne przykłady Ant, które wysyłają Ling-3.1-flash do obu. Jeśli wywołujesz hostowany endpoint, przypnij kompilację jawnie, w przeciwnym razie nie będziesz wiedzieć, który odpowiedział. Artificial Analysis w momencie pomiaru nie wymienił żadnego publicznie dostępnego API dla 1019, więc dzisiejsza dostępność odbywa się przez własne API dostawcy i kilka platform zewnętrznych, a nie przez ustalony, szeroko powielany endpoint.

Ta niejednoznaczność jest najsilniejszym argumentem za samodzielnym hostowaniem, jeśli zależy ci na powtarzalności, i najsilniejszym argumentem za poczekaniem, jeśli nie. Model, którego nazwa nie identyfikuje jego kompilacji, jest modelem, którego nie można zweryfikować po fakcie, a „44 w indeksie” nie jest numerem wersji.

Który, według stanowiska

• Trudne rozumowanie i długoterminowa praca agentowa — wybierz Ling-3.1-flash-1019. Zyski koncentrują się dokładnie tam, a dodatkowe tokeny są mechanizmem, a nie efektem ubocznym.

• Ekstrakcja, klasyfikacja i krótkie rozmowy w dużej skali — pozostań przy Ling-3.1-flash. Płaciłbyś o 47% więcej na zadanie za możliwości, których te obciążenia nie wykorzystują.

• Produkty wrażliwe na opóźnienia — pozostań przy Ling-3.1-flash, dopóki nie będzie niezależnego wyniku przepustowości dla 1019. To jedyny z tych dwóch o zmierzonej szybkości.

• Dostrajanie lub adaptacja dziedzinowa — zacznij od Ling-3.1-flash-base i pomiń to zestawienie. Żaden z wyrównanych checkpointów nie udostępnia przepisu treningowego.

• Jeden model, mieszany ruch — Ling-3.1-flash-1019 jako domyślny, a za nim starsza wersja dla tanich, krótkich zapytań. Oba dzielą architekturę, cenę i stos serwowania, więc rozdzielenie ruchu między nimi nic cię nie kosztuje pod względem operacyjnym.

To, co zmieniłoby ten werdykt, to zmierzona szybkość dekodowania w kompilacji 1019. Jeśli okaże się istotnie wyższa niż 215,7 tokena na sekundę, kara w czasie zegarowym maleje, a rachunek za tokeny staje się jedynym realnym zastrzeżeniem. Jeśli będzie taka sama lub niższa, wówczas 59% pojawi się dwukrotnie — raz na fakturze, a raz w opóźnieniu — i argument za uruchamianiem obu checkpointów zamiast hurtowej aktualizacji stanie się silniejszy. Dopóki ktoś nie opublikuje tej liczby, uczciwe podsumowanie jest takie, że Ling-3.1-flash-1019 kupuje jakość za tokeny, a Ling-3.1-flash sprzedaje przepustowość w tej samej stawce. Żadna z tych odpowiedzi nie jest błędna; to różne produkty odziane w tę samą architekturę.