Intern-S2-Mobius: Model 35B, który oddziela wiedzę od rozumowania

Zespół InternLM z Szanghajskiego Laboratorium Sztucznej Inteligencji po cichu opublikował Intern-S2-Mobius, model bazowy o otwartych wagach i 35 miliardach parametrów, który robi coś, czego nie robi prawie żaden inny opublikowany model: przestaje przechowywać wiedzę wewnątrz swoich warstw. Zamiast standardowego układu transformera — w którym każda warstwa ma własny blok feed-forward pełen zapamiętanych faktów — Mobius wyciąga całą tę wiedzę do jednej globalnie współdzielonej Pamięci i pozwala niewielkiej liczbie Rozumujących wielokrotnie do niej sięgać. Deklarowana korzyść to nie wyższy wynik w benchmarkach. To szybkość: te same odpowiedzi przy mniej więcej od jednej trzeciej do jednej piątej tokenów rozumowania i nawet 4,6-krotnie większej przepustowości zapytań. Ten przewodnik wyjaśnia, czym Mobius naprawdę jest, co ujawnia jego plik konfiguracyjny, czego nie widać w karcie modelu, co pokazują opublikowane benchmarki wiersz po wierszu — w tym dwa wiersze, w których przegrywa — gdzie twierdzenie o „4-krotnej szybkości” się sprawdza, a gdzie się rozwiewa, oraz kogo realnie powinno to obchodzić.

Uwaga o dokładności: każda liczba poniżej pochodzi z własnej karty modelu InternLM, jego opublikowanych danych o wydajności i efektywności, przewodnika wdrażania oraz plików konfiguracyjnych modelu na Hugging Face. W chwili pisania tego tekstu nie ma żadnej niezależnej oceny Intern-S2-Mobius przez zewnętrzny podmiot — model nie jest wymieniony na żadnej niezależnej liście rankingowej, nie jest wdrażany przez żadnego dostawcę usług wnioskowania, a jego licznik pobrań wciąż wynosi zero. Wszystkie dane porównawcze traktuj jako dane dostawcy, dopóki ktoś ich nie odtworzy. Specyfikacje i kod tak nowego modelu zmieniają się szybko; zweryfikuj wszystko, zanim zaczniesz.

TL;DR. Intern-S2-Mobius to multimodalny model fundamentowy o 35 miliardach parametrów, na licencji Apache 2.0, wstępnie trenowany w sposób ciągły z Qwen3.5-35B, a następnie dotrenowany za pomocą SFT i uczenia ze wzmocnieniem. Jego nowość ma charakter architektoniczny: projekt Mobius-v0 zastępuje przypisane do warstw magazynowanie wiedzy w sieciach feed-forward jednym globalnie współdzielonym Memory składającym się z 2560 ekspertów, odpytywanym przez cztery ułożone w stos bloki Reasoner, które mogą sięgać po wiedzę spoza własnej głębokości (Backward Residual Connection) i udoskonalać ukryte stany poprzez rekurencyjną iterację latentną przed dekodowaniem (Dynamic Latent Reasoning). We własnej ewaluacji InternLM pokonuje bazowy model Qwen3.5-35B, na którym został zbudowany, w siedmiu z dziewięciu ogólnych benchmarków (średnio 67,88 vs 65,05) i miażdży go w zadaniach naukowych (52,14 vs 18,20), produkując przy tym ślady rozumowania średnio około 1,5x krótsze — 4,6x krótsze na MMLU Pro, 5,0x krótsze na GPQA Diamond. To właśnie ta kompresja śladów jest źródłem wzrostu przepustowości: 2,9x przy batchu 16, rosnąc do 4,6x przy batchu 256. Haczyki są realne: model przegrywa w dwóch najtrudniejszych benchmarkach rozumowania (HLE i UGD hard), zysk w przepustowości w dużej mierze znika przy matematyce konkursowej, a nikt spoza laboratorium tego nie zweryfikował.

Najważniejsze wnioski

• Wydanie z architekturą na pierwszym miejscu: Mobius-v0 oddziela wektory wiedzy od operatorów rozumowania — jedna współdzielona Memory z 2560 ekspertami obsługuje cztery bloki Reasoner, zamiast 40 warstw, z których każda gromadzi własną wiedzę FFN.

• Efektywność, a nie inteligencja, jest główną tezą: średnia długość odpowiedzi spada około 1,5-krotnie, a przepustowość żądań rośnie od 2,9-krotnie przy batchu 16 do 4,6-krotnie przy batchu 256 w porównaniu z bazowym Transformerem.

• Naprawdę pokonuje swój własny model bazowy: średnia 67.88 vs 65.05 w zadaniach ogólnych, wygrywając MMLU Pro (89.05 vs 85.31), AIME 2026 (95.31 vs 92.08) i HMMT 2026 (85.51 vs 78.50).

• Ale traci tam, gdzie deliberacja ma największe znaczenie: HLE 19.11 vs 22.40 i UGD hard 73.02 vs 78.02 — dwa najtrudniejsze testy w zestawie, oba wygrane przez zwykły Transformer.

• Skok w naukach ścisłych to największy pojedynczy wynik: Biology-Instructions 51.40 vs 3.77, Mol-Instructions 45.73 vs 21.70, MolecularIQ 59.29 vs 29.13.

• Otwarty, ale niedostępny: wagi Apache 2.0 na Hugging Face, żaden dostawca inferencji ich nie hostuje, ~73 GB wag w formacie bfloat16 — samodzielne hostowanie jest obecnie jedynym sposobem na ich uruchomienie.

Czym naprawdę jest Intern-S2-Mobius

Intern-S2-Mobius to model bazowy o 35 mld parametrów opublikowany przez internlm, organizację Hugging Face stojącą za serią Intern z Shanghai AI Laboratory. Wagi trafiły na Hugging Face 29 lipca 2026 roku, a towarzyszące repozytorium GitHub — README, przewodnik wdrożeniowy i pełny raport techniczny PDF — zostało upublicznione 5 sierpnia 2026 roku. Model jest udostępniany na licencji Apache 2.0, która jest jedną z najbardziej permisywnych licencji dla otwartych wag: dozwolone są użycie komercyjne, modyfikacja i redystrybucja.

To nie jest fine-tuning. To ciągłe pre-trenowanie z chirurgią architektury. InternLM wziął Qwen3.5-35B — model mieszanki ekspertów o otwartych wagach od Alibaby, wydany 4 marca 2026 — zrestrukturyzował sposób, w jaki model przechowuje i uzyskuje dostęp do wiedzy, i kontynuował pre-trenowanie wyniku, a następnie zastosował nadzorowane dostrajanie i uczenie przez wzmacnianie na wierzchu. To pochodzenie ma znaczenie przy interpretacji benchmarków: każde porównanie publikowane przez InternLM to Mobius przeciwko dokładnie temu modelowi, z którego wyrósł, co jest najczystszą możliwą ablacją zmiany architektury, a także, co wygodne, porównaniem, które najprawdopodobniej mu schlebia.

Model jest multimodalny. Hugging Face klasyfikuje go jako image-text-to-text, a konfiguracja potwierdza pełny enkoder wizyjny oraz obsługę tokenów wideo. Sądząc po tym, co jest dostarczane wraz z wagami, jest również skierowany wprost na naukę — więcej na ten temat poniżej.

Architektura Mobiusa prostym językiem

Konwencjonalny transformer przeplata dwa zadania w każdej warstwie. Mechanizm uwagi przenosi informacje między tokenami; sieć feed-forward (lub w modelu mixture-of-experts – bank eksperckich sieci FFN) przechowuje wiedzę. Ponieważ sieć FFN znajduje się wewnątrz warstwy, wiedza przez nią przechowywana jest osiągalna wyłącznie na tej głębokości. Fakt wyuczony w warstwie 30 nie może zostać wykorzystany przez rozumowanie zachodzące w warstwie 5. Informacja przepływa do przodu, warstwa po warstwie, i to jest jedyna ścieżka.

Mobius zrywa to wiązanie. InternLM opisuje trzy konsekwencje.

Rozdzielenie wiedzy i rozumowania. Magazynowanie przypisane do warstwy FFN zostaje zastąpione przez globalnie współdzieloną Memory. Zamiast 40 warstw, z których każda posiada własny wycinek wiedzy modelu, istnieje jedna pula, do której może się odwoływać każdy etap rozumowania. Argument InternLM głosi, że poprawia to kompresję wiedzy — te same fakty nie muszą być wielokrotnie przyswajane na różnych głębokościach — oraz daje każdemu Reasonerowi znacznie szerszą przestrzeń wiedzy, niż mogłaby zaoferować pojedyncza warstwa FFN.

Wsteczne połączenie rezydualne. Ponieważ Pamięć jest współdzielona, zarówno płytkie, jak i głębokie etapy rozumowania sięgają do tego samego repozytorium. Dostęp do wiedzy nie płynie już wyłącznie do przodu. Płytki etap może pobrać coś, co w standardowym stosie byłoby dostępne dopiero trzydzieści warstw później. Twierdzenie InternLM jest takie, że pozwala to modelowi elastyczniej łączyć wiedzę z różnych głębokości oraz, co kluczowe, syntetyzować przydatne informacje w mniejszej liczbie kroków rozumowania. To ostatnie zdanie stanowi całą tezę wydania.

Dynamiczne rozumowanie latentne.Zamiast eksternalizować każdy krok rozumowania jako widoczne tokeny łańcucha myśli, Mobius udoskonala swoje ciągłe stany ukryte poprzez rekurencyjną iterację latentną, zanim cokolwiek zdekoduje. Część „myślenia” zachodzi w wewnętrznej przestrzeni reprezentacji modelu, a nie w wygenerowanym tekście, a ilość tych wewnętrznych obliczeń jest przydzielana dynamicznie na token. Praktycznym skutkiem jest to, że model musi napisać mniej słów, aby osiągnąć ten sam wniosek — a ponieważ generowanie jest autoregresyjne i sekwencyjne, pisanie mniejszej liczby słów jest najbardziej bezpośrednim sposobem na przyspieszenie modelu rozumującego.

Podsumowując, propozycja to model rozumowania, który myśli więcej, a pisze mniej.

Co ujawnia plik konfiguracyjny

Karta modelu opisuje architekturę w formie opisowej. Plik code>config.json/code> konkretyzuje ją i zawiera kilka liczb, które warto znać.

• Cztery Reasonery na 40 warstwach. Konfiguracja tekstowa deklaruje 40 ukrytych warstw, ale tylko cztery bloki. 40 warstw jest zorganizowanych w cztery etapy Reasoner, które iterują względem współdzielonej Memory, a nie czterdzieści niezależnych jednostek wiedza-plus-uwaga.

• 2,560 ekspertów. To jest współdzielona Memory uczyniona dosłowną. Mobius przenosi 2,560 ekspertów z 8 aktywowanymi na token i malutkim pośrednim rozmiarem na eksperta wynoszącym 512, plus jednym współdzielonym ekspertem. Dla skali, jego brat Intern-S2-Preview używa 256 ekspertów. Dziesięciokrotnie większa pula znacznie mniejszych ekspertów to dokładnie to, jak wygląda „jedna globalna baza wiedzy zamiast per-warstwowych FFN”, gdy zapiszesz to jako konfigurację.

• 35B na pudełku, ~36B na dysku, ~3B aktywnych. Karta modelu podaje 35B; czytnik safetensors na Hugging Face raportuje 36B parametrów; indeks wag sumuje się do 72,96 GB w bfloat16, co daje około 36,5B. Przewodnik wdrożeniowy jest najbardziej precyzyjny: określa wydanie jako 30B-A3B — model z około 3B aktywnymi parametrami na token. Jak w przypadku każdego rzadkiego MoE, płacisz za pełny zestaw wag w pamięci, a koszt obliczeniowy na token odpowiada małemu modelowi.

• Attention hybrydowe, 3:1. Lista warstw przeplata trzy warstwy attention liniowego jedną warstwą pełnego attention, i tak aż do samego dołu — dziesięć warstw pełnego attention na 40. Attention liniowe zapobiega eksplozji pamięci i kosztów obliczeniowych przy długim kontekście; okresowe warstwy pełnego attention zachowują dokładne przywoływanie, z którego rezygnuje czyste attention liniowe. Warstwy liniowe używają jądra splotowego o szerokości 4 i stanu SSM w float32 — to obecnie standardowy przepis w stylu gated-delta.

• kontekst 256K. Maksymalne osadzenia pozycyjne wynoszą 262 144. Zwróć uwagę na lukę między tym, co obsługuje architektura, a tym, jak została oceniona: InternLM przeprowadził swoje testy porównawcze dla tekstu przy 128K, a przy 64K na MMLU Pro, SimpleQA i HLE. Limit 256K to nie to samo co 256K zweryfikowanej jakości.

• Wbudowana głowica do przewidywania wielu tokenów. Istnieje jednowarstwowy moduł MTP z własnymi 256 ekspertami. To nie jest ozdoba — przewodnik wdrożeniowy zaleca uruchamianie z użyciem spekulatywnego dekodowania MTP i czterech tokenów kandydackich, więc część historii o rzeczywistej szybkości to spekulatywne dekodowanie, a nie sama architektura.

• Prawdziwa wieża wizyjna. 27-warstwowy enkoder wizyjny o 1152 ukrytych wymiarach, z rozmiarem patcha 16, 2x2 łączeniem przestrzennym i czasowym patchowaniem wideo, projektujący do 2048-wymiarowego strumienia tekstowego z przeplatanym multimodalnym RoPE. Obrazy i wideo na wejściu, tekst na wyjściu.

Inne szczegóły dla ciekawskich: 16 głowic atencji o wymiarze 256, 2 głowice klucz-wartość (agresywna atencja typu grouped-query), bramkowane wyjścia atencji, częściowy współczynnik rotary 0,25, parametr theta RoPE równy 10 milionom oraz słownik liczący 251 392 tokeny.

Benchmarki, linia po linii

InternLM oceniano za pomocą OpenCompass i opublikowano pojedyncze porównanie: Intern-S2-Mobius-35B przeciwko Qwen3.5-35B, modelowi, z którego był wstępnie trenowany w sposób ciągły. Dziewięć ogólnych benchmarków, trzy naukowe.

W ogólnych zadaniach Mobius wygrywa siedem z dziewięciu. MMLU Pro — szeroka, wielodziedzinowa wiedza z trudniejszymi dystraktorami niż w oryginalnym MMLU — wypada 89.05 do 85.31, czyli wzrost o 3,7 punktu i najbardziej wyrazisty wynik wiedzy w całym zestawie. GPQA Diamond, czyli pytania naukowe na poziomie magisterskim, napisane tak, by były odporne na Googla, to w zasadzie remis: 80.81 do 80.24. IMO Bench, matematyka na poziomie olimpiady, wypada 81.25 do 77.50. AIME 2026, czyli amerykański zaproszeniowy egzamin matematyczny, osiąga 95.31 do 92.08. HMMT 2026, czyli Turniej Matematyczny Harvard-MIT, to największa różnica w matematyce: 85.51 do 78.50. AMO wypada 58.00 do 50.00. A SimpleQA — krótkie odpowiedzi na pytania faktograficzne, czyli benchmark, który najbardziej bezpośrednio mierzy, czy model faktycznie coś wie — wzrasta z 21.39 do 28.90, a więc o 35% względnej poprawy, co stanowi najlepszy dowód dla argumentu InternLM, że „wspólna pamięć lepiej kompresuje wiedzę”.

Potem te dwie porażki i to one są interesującymi wierszami. UGD hard wypada odwrotnie: 73.02 dla Mobiusa wobec 78.02 dla linii bazowej, czyli pięciopunktowa strata. I HLE — Humanity's Last Exam, najtrudniejsza ogólna ewaluacja powszechnie używana, w której czołowe modele wciąż osiągają wyniki w przedziale od kilkunastu do dwudziestu kilku punktów — wynosi 19.11 wobec 22.40. Zwykły Transformer wygrywa o 3.3 punktu na benchmarku specjalnie zaprojektowanym tak, aby wymagał najwięcej rozumowania.

Ten wzorzec nie jest szumem i nie jest ukryty: InternLM go opublikował. Najbardziej prawdopodobna interpretacja jest taka, że rozumowanie latentne jest kompresją, a kompresja jest stratna na ogonie. Internalizowanie deliberacji w ciągłe stany ukryte sprawdza się znakomicie, gdy deliberacja opiera się w dużej mierze na wyszukiwaniu informacji lub podąża za znajomym kształtem — co opisuje MMLU Pro, SimpleQA i większość matematyki konkursowej. W przypadku problemów, które naprawdę wymagają długich, eksploracyjnych, samokorygujących się łańcuchów myśli, jawny ślad token po tokenie wciąż wydaje się wart swojego kosztu. Ogólna średnia — 67,88 wobec 65,05 — to realna wygrana, ale to średnia, która maskuje kompromis, a nie równomierną poprawę.

Wyniki naukowe to różnica w zupełnie innej skali. Biology-Instructions wzrasta z 3.77 do 51.40. Mol-Instructions, obejmując rozumienie i generowanie molekularne, wzrasta z 21.70 do 45.73. MolecularIQ wzrasta z 29.13 do 59.29. Średnia wynosi 52.14 wobec 18.20. Liczby takie jak 3.77 rosnące do 51.40 nie są zasługą architektury; są one znakiem ukierunkowanego treningu w konkretnej dziedzinie na zadaniach, których linia bazowa po prostu nigdy nie została nauczona wykonywać. Uzyskanie przez Qwen3.5-35B wyniku poniżej 4% na Biology-Instructions oznacza, że nie rozumie on formatu zadania, a nie że jest słaby z biologii. Odczytuj te trzy wiersze jako „InternLM dodał specjalizację naukową”, co jest naprawdę wartościowe i stanowi cały sens linii Intern-S — tylko nie przypisuj tego architekturze Mobius.

Tam, gdzie „4x szybciej” jest realne, a gdzie nie jest.

Twierdzenie o wydajności jest powodem, dla którego ten model istnieje, więc zasługuje na uważną lekturę. Nagłówek InternLM brzmi: „niemal 4-krotne przyspieszenie wnioskowania end-to-end”. Opublikowana wartość przepustowości jest bardziej informatywna niż nagłówek i bardziej uczciwa.

Mierzona jako przepustowość żądań w zależności od rozmiaru partii, uśredniona dla benchmarków, Mobius bije baseline Transformera o 2.9x przy batch 16 i 4.6x przy batch 256. Różnica rośnie wraz z rozmiarem partii, czego należy się spodziewać, gdy przewaga wynika z generowania mniejszej liczby tokenów na żądanie: im więcej żądań spakujesz razem, tym bardziej zaoszczędzone kroki dekodowania się kumulują. Nagłówek „prawie 4x" to środek zakresu, a nie stała wartość.

Rozbijając to na poszczególne benchmarki, obraz staje się wyraźniejszy. W MMLU Pro i GPQA Diamond, Mobius jest dramatycznie szybszy przy każdym rozmiarze partii — krzywe przepustowości rozdzielają się natychmiast i wciąż się rozchodzą. W IMO Bench, ma stałą, choć umiarkowaną przewagę. W AIME 2026 i HMMT 2026, bazowy Transformer jest w rzeczywistości szybszy przy pośrednich rozmiarach partii, a Mobius wyprzedza go dopiero przy partii 256. W najtrudniejszej matematyce konkursowej przewaga w przepustowości jest zerowa lub gorsza na dużej części użytecznego zakresu.

Dlaczego? Ponieważ przepustowość niemal idealnie podąża za kompresją śladu. Średnia długość wyjścia w benchmarkach spada około 1,5-krotnie, z mniej więcej 20 400 tokenów do około 13 200. Ale ta średnia obejmuje ogromny zakres: 4,6-krotnie krócej w MMLU Pro (około 1 100 tokenów wobec 5 150) i 5,0-krotnie krócej w GPQA Diamond (około 2 600 wobec 12 900), podczas gdy zaledwie 1,4-krotnie w IMO Bench, 1,5-krotnie w AIME 2026 oraz 1,2-krotnie w HMMT 2026. Tam, gdzie model może skompresować swoje myślenie, działa błyskawicznie. Tam, gdzie problem wymaga 24 000 tokenów wyprowadzeń bez względu na wszystko, nie może, a zamiast tego ujawniają się narzuty architektury.

Praktyczne przełożenie: jeśli Twoje zadania przypominają wyszukiwanie wiedzy, testy wyboru, techniczne pytania i odpowiedzi lub klasyfikację, przyspieszenie jest duże i natychmiastowe. Jeśli Twoje zadania to trudne wyprowadzenia matematyczne lub naukowe, licz się z mniej więcej parytetem i miło się zaskocz. Każdy, kto podaje „4x szybciej” jako ogólną właściwość modelu, przytacza średnią dwóch bardzo różnych zachowań.

Stos naukowy ukryty na liście plików

Jedną z najbardziej wymownych rzeczy w tej wersji nie jest wcale karta modelu — jest nią lista plików w repozytorium. Obok zwykłych plików tokenizera, Intern-S2-Mobius dostarcza trzy dodatkowe tokenizery domenowe: code>tokenizer_PROT.model/code> dla sekwencji białkowych, code>tokenizer_SMILES.model/code> dla struktur molekularnych w notacji SMILES oraz code>tokenizer_XNA.model/code> dla sekwencji kwasów nukleinowych. W repozytorium znajduje się również przypadkowa tablica NumPy z danymi sejsmicznymi.

Dedykowane tokenizatory dla białek, cząsteczek i DNA/RNA nie są czymś, co dodaje się ot tak. Oznaczają, że model został wytrenowany do czytania tych typów sekwencji jako pełnoprawnych danych wejściowych, a nie jako zwykłego tekstu, który akurat zawiera litery. To właśnie sprawia, że wynik na Biology-Instructions wzrasta z 3.77 do 51.40, i stawia Mobiusa w tej samej rodzinie co jego rodzeństwo Intern-S2-Preview, które dodało modalności szeregów czasowych i wizji oraz, według InternLM, było pierwszym modelem open-source z możliwością generowania struktur krystalicznych materiałów.

Jeśli jesteś programistą ogólnego przeznaczenia, to dla ciebie banał. Jeśli pracujesz w biologii obliczeniowej, chemoinformatyce lub materiałoznawstwie, może to być najważniejsze zdanie w tym artykule: to mały model na licencji Apache-2.0, który można hostować samodzielnie i który natywnie rozumie SMILES i sekwencje białek.

Jego miejsce w rodzinie Intern

Linia Intern-S to naukowa seria multimodalna Laboratorium AI w Szanghaju. Intern-S1 ustanowił format. Intern-S1-Pro przeskalował go do klasy bilionów parametrów. Intern-S2-Preview, wydany na krótko przed Mobiusem, stawia na wydajność: model o 36B parametrów łącznie i 3B aktywnych, z 256 ekspertami i kontekstem 262K, który — według InternLM — dorównuje S1-Pro w skali bilionów w kluczowych profesjonalnych zadaniach naukowych, co oznacza około 30-krotną redukcję parametrów przy porównywalnych możliwościach naukowych.

Intern-S2-Mobius to trzecia rzecz: architektoniczne wydanie noszące nazwę Intern-S2. „v0” w Mobius-v0 ma realne znaczenie w tej nazwie — to pierwsza publiczna iteracja projektu, a nie dojrzała linia produktów. Łączy się z ArchSpace, otwartą platformą InternLM do walidacji innowacji w architekturze LLM, której deklarowanym celem jest „zamiana eksploracji architektury LLM w użyteczną wiedzę dla społeczności”, z recenzją rówieśniczą i publikowanymi wynikami, w tym negatywnymi. Mobius to to, jak wygląda ten program, gdy propozycja przechodzi od sondy w skali 1B do modelu 35B, który można faktycznie pobrać. Pełny raport techniczny jest dołączony do repozytorium GitHub dla każdego, kto chce poznać wyprowadzenia.

Czytane w ten sposób, dwa spadki w benchmarkach to cecha wydania, a nie obiekt wstydu. To laboratorium publikujące eksperyment architektoniczny uczciwie, łącznie z miejscami, w których nastąpiła regresja.

Jak to uruchomić

Intern-S2-Mobius jest wspierany przez trzy stosy wnioskowania, a przewodnik wdrożeniowy podaje działające wywołania dla każdego z nich.

LMDeploy jest zalecaną ścieżką i jedyną, którą przewodnik pokazuje na pojedynczym GPU: serwuj z backendem PyTorch, code>--trust-remote-code/code>, tensor parallelism o wartości 1 oraz dekodowanie spekulacyjne MTP włączone za pomocą algorytmu spekulacyjnego qwen3_5_mtp z czterema tokenami próbnymi. vLLM jest pokazany z tensor parallelism o wartości 2, parserem rozumowania qwen3, parserem wywołań narzędzi qwen3_coder, automatycznym wyborem narzędzia oraz dekodowaniem spekulacyjnym MTP z czterema tokenami spekulacyjnymi. Transformers nadaje się do podstawowej inferencji przez code>AutoModelForImageTextToText/code> z code>trust_remote_code=True/code> oraz bfloat16 — pamiętaj, że model jest dostarczany z niestandardowym kodem modelowania, więc zdalne wykonywanie kodu jest obowiązkowe, a konfiguracja jest przeznaczona dla Transformers 5.2.

Zalecane parametry próbkowania InternLM to temperatura 0.8, top-p 0.95, top-k 50 i min-p 0.0 — cieplejsze niż ustawienia niemal zachłanne, których oczekuje większość modeli rozumujących, co warto respektować, zamiast nadpisywać z przyzwyczajenia.

Jeśli chodzi o sprzęt: około 73 GB wag w formacie bfloat16 plus pamięć podręczna KV i aktywacje oznaczają, że pojedynczy akcelerator o pojemności 80 GB jest na styk, a pojedyncza karta 141 GB jest komfortowa, co prawdopodobnie tłumaczy, dlaczego przykład vLLM używa dwóch GPU, podczas gdy przykład LMDeploy zakłada jedną dużą kartę. Praca z długim kontekstem podniesie te wymagania jeszcze wyżej. Włącz MTP — przewodnik wyraźnie to zaleca, a znaczna część reklamowanego przyspieszenia tkwi właśnie tam, a nie w bazowej architekturze.

Najważniejsze praktyczne zastrzeżenie: żaden dostawca wnioskowania nie udostępnia obecnie tego modelu. Panel dostawców w Hugging Face mówi to wprost, a licznik pobrań nadal wskazywał zero w momencie pisania tego tekstu. Nie ma punktu końcowego API, ceny za milion tokenów ani zarządzanego sposobu na przetestowanie go. Self-hosting jest obecnie jedyną opcją.

Kogo tak naprawdę powinno to obchodzić

1. Zespoły obsługujące wielkoskalowe obciążenia rozumowania oparte na wyszukiwaniu

To jest profil, pod który zaprojektowano tę architekturę. Jeśli obsługujesz duże partie technicznych pytań i odpowiedzi, analizę dokumentów, strukturalną ekstrakcję lub klasyfikację w stylu wielokrotnego wyboru przez model rozumujący, a Twój rachunek jest zdominowany przez tokeny rozumowania, których nigdy nie pokazujesz użytkownikowi, model, który osiąga tę samą odpowiedź przy jednej piątej tokenów, to bezpośrednia redukcja kosztów. Wyniki MMLU Pro i GPQA — 4,6x i 5,0x krótsze ślady przy równej lub lepszej dokładności — to dokładnie ten przypadek. Przetestuj to na własnym ruchu, zanim w to uwierzysz, ale mechanizm jest solidny, a korzyść duża.

2. Grupy nauk obliczeniowych

Natywne tokenizatory białek, SMILES i kwasów nukleinowych, a także duże wymierne zyski na benchmarkach biologicznych i molekularnych, w modelu na licencji Apache 2.0, który mieści się na jednej lub dwóch kartach GPU. Dla laboratorium, które potrzebuje danych pozostających lokalnie i nie może wysyłać struktur molekularnych do komercyjnego API, to rzadkie połączenie. Linia Intern-S zmierzała do tego, a Mobius jest jak dotąd najtańszym punktem wejścia do niej.

3. Badacze i obserwatorzy architektury

Oddzielanie wiedzy od rozumowania oraz rozumowanie latentne są od pewnego czasu aktywnymi nurtami badawczymi; bardzo niewiele z nich zostało potwierdzonych przy skali 35B i udostępnionych otwarcie wraz z nienaruszonymi przypadkami niepowodzeń. Jeśli zależy Ci na tym, dokąd zmierzają architektury post-transformerowe, raport techniczny i dwa przegrywające wiersze są bardziej interesujące niż średni wynik. ArchSpace został celowo zaprojektowany, aby umożliwiać ponowne wykorzystanie tego rodzaju wyników.

Kto nie powinien się tym przejmować, przynajmniej na razie: każdy, kto szuka produkcyjnego asystenta ogólnego przeznaczenia. Nie ma hostowanego punktu końcowego, niezależnej ewaluacji, narzędzi ekosystemowych ani udokumentowanych osiągnięć. To nie jest krytyka modelu — to opis wydania badawczego, które ma tydzień.

Jak to pasuje do stosu produkcyjnego

Uczciwe umiejscowienie dla Intern-S2-Mobius dzisiaj to kandydat do ewaluacji, a nie model domyślny. Jest to niehostowany, niezweryfikowany, tygodniowy artefakt badawczy o naprawdę interesującej architekturze i jednej bardzo konkretnej mocnej stronie — oszczędnym pod względem tokenów rozumowaniu w zadaniach opartych na wyszukiwaniu — a także realnej specjalizacji w naukowych danych sekwencyjnych.

Rozsądnym wzorcem jest utrzymanie ruchu produkcyjnego na niezależnym od dostawcy punkcie końcowym, takim jak OrcaRouter, który daje jeden interfejs API zgodny z OpenAI dla wielu modeli, i osobne wystawienie Mobiusa na własnych GPU dla wąskiego wycinka, w którym może się sprawdzić. Zmierz to, co naprawdę ma znaczenie dla tego modelu: nie samą dokładność, ale tokeny wydane na poprawną odpowiedź. To jest oś, pod którą Mobius jest zoptymalizowany, i to jest oś, którą większość narzędzi do oceny ignoruje. Jeśli sprawdzi się przy Twoim obciążeniu, masz samodzielnie hostowaną ścieżkę, która jest tania w utrzymaniu i nieobciążona prawnie. Jeśli nie, straciłeś dzień czasu GPU, a Twoja ścieżka produkcyjna ani drgnęła.

Ta sama logika działa w odwrotną stronę, jeśli dostawca w końcu ją udostępni: router pozwala porównać nowy model z dotychczasowym w teście A/B bez przepisywania czegokolwiek, co jest dokładnie właściwym sposobem na przyjęcie architektury, której nikt nie przetestował niezależnie.

Ograniczenia i zastrzeżenia

Zacznijmy od największego: nie ma niezależnej weryfikacji żadnej z liczb w tym artykule. Każdy benchmark, każda krzywa przepustowości i każde porównanie długości tokenów pochodzi od InternLM. Porównanie jest też strukturalnie korzystne — Mobius jest mierzony wyłącznie względem konkretnego modelu bazowego, od którego kontynuował pretrening, a nie względem aktualnej czołówki, a dodatkowy post-training z użyciem SFT i RL sprawia, że porównanie nie jest czystą ablacją architektury, mimo że jest tak przedstawiane. Część poprawy to zasługa Mobiusa; część to po prostu więcej treningu.

Regresje są realne i dotyczą najtrudniejszych zadań. Strata 3,3 punktu w HLE i 5 punktów w UGD hard, przy jednoczesnym wygrywaniu niemal wszystkiego, co łatwiejsze, to spójna i lekko niepokojąca sygnatura jak na model, którego atutem jest wydajność rozumowania.

Operacyjnie utrudnienia są znaczne. Własny kod modelowania wymaga code>trust_remote_code/code> oraz najnowocześniejszej wersji Transformers. Frameworki, które to wspierają, muszą być na tyle nowe, aby wiedzieć, czym jest code>interns2_mobius/code>, a przewodnik samego InternLM ostrzega, że są to konfiguracje referencyjne w trakcie aktywnego rozwoju. Około 73 GB wag to nie jest model na laptopa. Nie ma hostowanego API, cennika, limitów zapytań ani SLA — ponieważ nie ma usługi.

Na koniec zwróć uwagę, czego nie opublikowano: brak wyników testów multimodalnych mimo pełnego enkodera wizyjnego, brak oceny długiego kontekstu mimo limitu 256K, brak jakichkolwiek benchmarków kodowania, brak oceny bezpieczeństwa i zgodności (alignment), a także brak porównania z jakimkolwiek innym modelem niż Qwen3.5-35B. Dla wdrożenia ogólnego przeznaczenia to duże białe plamy. Dla artykułu opisującego architekturę z dołączonymi wagami są one po prostu poza zakresem — i tak właśnie należy czytać to wydanie.

Często zadawane pytania

Czym jest Intern-S2-Mobius?

Model podstawowy o 35 miliardach parametrów, na licencji Apache 2.0, multimodalny, opracowany przez zespół InternLM z Shanghai AI Laboratory, zbudowany na architekturze Mobius-v0, która oddziela przechowywanie wiedzy od obliczeń rozumowania. Został on poddany ciągłemu pre-treningowi z modelu Qwen3.5-35B oraz post-treningowi z wykorzystaniem SFT i uczenia przez wzmacnianie, a opublikowano go na Hugging Face 29 lipca 2026 roku.

Co odróżnia architekturę Mobius?

Konwencjonalne transformery przechowują wiedzę w bloku feed-forward wewnątrz każdej warstwy, więc wiedza jest osiągalna tylko na głębokości, w której się znajduje. Mobius zastępuje to jedną globalnie współdzieloną Pamięcią — 2560 ekspertów w wydanej konfiguracji — którą cztery bloki Reasoner odpytywują wielokrotnie, umożliwiając dostęp do wiedzy na różnych głębokościach i pozwalając, aby część rozumowania odbywała się w ciągłych ukrytych stanach zamiast w wygenerowanych tokenach łańcucha myśli.

Czy Intern-S2-Mobius naprawdę jest 4x szybszy?

Średnio i przy dużych rozmiarach partii, z grubsza tak: InternLM osiąga 2,9-krotnie wyższą przepustowość żądań przy partii 16, a przy partii 256 już 4,6-krotnie. Jednak różni się to ogromnie w zależności od zadania. W przypadku MMLU Pro i GPQA Diamond zysk jest duży przy każdym rozmiarze partii; w przypadku matematyki konkursowej AIME i HMMT bazowy Transformer jest rzeczywiście szybszy przy pośrednich rozmiarach partii. Przyspieszenie zależy od tego, jak bardzo model potrafi skrócić swój przebieg rozumowania.

Jak wypada w porównaniu z Qwen3.5-35B?

Wygrywa w siedmiu z dziewięciu ogólnych benchmarków {{1}} ze średnią 67.88 wobec 65.05 {{2}}, w tym MMLU Pro (89.05 vs 85.31), AIME 2026 (95.31 vs 92.08), HMMT 2026 (85.51 vs 78.50) i SimpleQA (28.90 vs 21.39) {{3}}. Przegrywa w UGD hard (73.02 vs 78.02) i HLE (19.11 vs 22.40) {{4}}. W zadaniach naukowych jest daleko z przodu — średnia 52.14 wobec 18.20 {{5}}.

Czy mogę używać Intern-S2-Mobius przez API?

Obecnie nie. Żaden dostawca inferencji go nie hostuje, nie ma opublikowanych cen, a Hugging Face nie wymienia żadnego wdrożenia. Self-hostowanie za pomocą LMDeploy, vLLM lub Transformers to jedyny sposób, aby go dziś uruchomić.

Jakiego sprzętu potrzebuję, aby to uruchomić?

Wagi mają około 73 GB w formacie bfloat16, więc zaplanuj jeden akcelerator klasy 141 GB lub dwie karty GPU o pojemności 80 GB, plus zapas na KV cache. Przykład LMDeploy dla InternLM używa równoległości tensorowej równej 1; przykład vLLM używa 2. Zaleca się włączenie spekulatywnego dekodowania MTP z czterema tokenami wstępnymi.

Jaka jest jego długość kontekstu?

Konfiguracja obsługuje 262 144 tokeny (256K). Należy zauważyć, że InternLM został oceniony przy 128K na większości benchmarków tekstowych oraz przy 64K na MMLU Pro, SimpleQA i HLE, więc potwierdzona jakość przy pełnych 256K nie została wykazana.

Czy to jest multimodalne?

Tak. Hugging Face klasyfikuje to jako image-text-to-text, a konfiguracja zawiera 27-warstwowy enkoder wizyjny z obsługą tokenów wideo. Jednakże InternLM nie opublikował żadnych wyników benchmarków multimodalnych z tym wydaniem, więc zdolności wizyjne są w praktyce nieudokumentowane.

Dlaczego zawiera tokenizatory białek i SMILES?

Ponieważ linia Intern-S to rodzina modeli naukowych. Dedykowane tokenizatory dla sekwencji białek, notacji molekularnej SMILES i kwasów nukleinowych sprawiają, że model odczytuje te formaty jako natywne typy wejściowe, dlatego uzyskuje 51.40 w Biology-Instructions, gdzie linia bazowa osiąga 3.77.

Czy licencja rzeczywiście jest Apache 2.0?

Tak — Apache 2.0, z plikiem licencji w repozytorium. Użycie komercyjne, modyfikacja i redystrybucja są dozwolone, co jest zauważalnie bardziej liberalne niż wiele wydań open-weight od dużych laboratoriów.

Czy powinienem używać tego w produkcji?

Jeszcze nie. Ma tydzień, nie jest hostowany, niezweryfikowany przez żadną stronę trzecią i brakuje mu ewaluacji dotyczących kodowania, multimodalności, długiego kontekstu i bezpieczeństwa. Traktuj go jako kandydata do oceny pod kątem rozumowania efektywnego pod względem tokenów lub prac nad sekwencjami naukowymi, utrzymuj ruch produkcyjny na sprawdzonych modelach przez neutralny względem dostawcy punkt końcowy i wróć do niego, gdy pojawią się niezależne wyniki.

Sedno sprawy

Intern-S2-Mobius to jedna z najbardziej autentycznie interesujących premier modeli w tym roku i prawie nic z tego nie ma wspólnego z jego wynikami. InternLM wziął prawdziwy pomysł architektoniczny — przestać wiązać wiedzę z warstwami, umieścić ją w jednej wspólnej pamięci i pozwolić modelowi częściowo myśleć w przestrzeni ukrytej zamiast w tokenach — przeskalował go do 35B, odpowiednio wytrenował i udostępnił wagi na licencji Apache 2.0 wraz z raportem technicznym oraz wynikami, które nie poszły po jego myśli. Mechanizm efektywności jest czytelny, a dowody na jego działanie są wewnętrznie spójne: ślady są średnio 1,5x krótsze i do 5x krótsze w zadaniach wymagających dużej wiedzy, a przepustowość rośnie dokładnie w takiej proporcji, jakiej można by się spodziewać na tej podstawie.

Zastrzeżenia są równie jasne. Nikt poza Shanghai AI Laboratory nie zweryfikował ani jednej liczby. Porównanie jest prowadzone względem własnej bazy modelu i obejmuje dodatkowy post-training, więc nie jest to czysta abalacja, na jaką wygląda. Przyspieszenie w dużej mierze znika przy trudnej matematyce. Model przegrywa w dwóch najbardziej wymagających benchmarkach rozumowania we własnej tabeli. I nie ma sposobu, aby go wypróbować bez wynajęcia procesorów GPU.

So: nie jest to model do wdrożenia w tym tygodniu, ale zdecydowanie warto go obserwować i jest to naprawdę atrakcyjna opcja dla dwóch konkretnych grup odbiorców — zespołów, których rachunek za rozumowanie zdominowany jest przez tokeny, których nikt nie czyta, oraz grup naukowych, które potrzebują małego modelu na permisywnej licencji, natywnie rozumiejącego białka i cząsteczki. Utrzymuj produkcyjny stos na sprawdzonych modelach przez niezależny od dostawcy punkt końcowy, taki jak OrcaRouter, postaw Mobiusa na własnym sprzęcie dla wąskiego przypadku użycia i mierz tokeny na poprawną odpowiedź, a nie samą dokładność. Jeśli architektura obroni się w niezależnej ocenie, Mobius-v0 zostanie zapamiętany mniej jako model 35B, a bardziej jako numer wersji przed tą, która się liczyła.