Intern-S2-Mobius: Das 35B-Modell, das Wissen vom Denken trennt

Das InternLM-Team des Shanghai AI Laboratory hat still und leise veröffentlicht Intern-S2-Mobius, ein 35B Open-Weight-Foundation-Modell, das etwas tut, was fast kein anderes veröffentlichtes Modell tut: Es hört auf, Wissen in seinen Schichten zu speichern. Anstatt der Standard-Transformer-Anordnung – bei der jede Schicht ihren eigenen Feed-Forward-Block voller gespeicherter Fakten trägt – holt Mobius all dieses Wissen in einen einzigen global geteilten Memory heraus und lässt es von einer kleinen Anzahl von Reasoners wiederholt abfragen. Der behauptete Nutzen ist keine höhere Benchmark-Punktzahl. Es ist Geschwindigkeit: dieselben Antworten in ungefähr einem Drittel bis einem Fünftel der Reasoning-Tokens und bis zu 4,6-fachem Request-Durchsatz. Dieser Leitfaden erklärt, was Mobius tatsächlich ist, was seine Konfigurationsdatei enthüllt, was die Modellkarte nicht preisgibt, was die veröffentlichten Benchmarks Zeile für Zeile zeigen – einschließlich der zwei Zeilen, in denen es verliert – wo die Behauptung „4x schneller“ gilt und wo sie sich in Luft auflöst, und wer sich realistischerweise darum kümmern sollte.

Hinweis zur Genauigkeit: Alle unten genannten Zahlen stammen aus InternLMs eigener Modellkarte, den veröffentlichten Leistungs- und Effizienzdaten, dem Bereitstellungsleitfaden und den Konfigurationsdateien des Modells auf Hugging Face. Zum Zeitpunkt dieses Schreibens gibt es keine unabhängige Bewertung von Intern-S2-Mobius durch Dritte — es ist auf keiner unabhängigen Bestenliste verzeichnet, wird von keinem Inferenzanbieter bereitgestellt, und sein Download-Zähler steht noch bei null. Behandeln Sie alle Vergleichswerte als vom Anbieter gemeldet, bis jemand sie reproduziert. Spezifikationen und Code für ein so neues Modell ändern sich schnell; verifizieren Sie alles, bevor Sie darauf aufbauen.

TL;DR. Intern-S2-Mobius ist ein multimodales Basismodell mit 35B Parametern unter Apache 2.0, das kontinuierlich aus Qwen3.5-35B vortrainiert und anschließend mit SFT und bestärkendem Lernen nachtrainiert wurde. Seine Neuheit ist architektonischer Natur: Das Mobius-v0-Design ersetzt die schichtgebundene Feed-Forward-Wissensspeicherung durch einen global geteilten Speicher aus 2.560 Experten, der von vier gestapelten Reasoner-Blöcken abgefragt wird, die auf Wissen außerhalb ihrer eigenen Tiefe zugreifen können (eine rückwärtige Residualverbindung) und versteckte Zustände durch wiederkehrende latente Iteration verfeinern, bevor dekodiert wird (dynamisches latentes Denken). In InternLMs eigener Auswertung schlägt es die Qwen3.5-35B-Basislinie, aus der es entstanden ist, bei sieben von neun allgemeinen Benchmarks (Durchschnitt 67,88 vs. 65,05) und deklassiert sie bei wissenschaftlichen Aufgaben (52,14 vs. 18,20), während es im Schnitt etwa 1,5-mal kürzere Reasoning-Traces erzeugt — 4,6-mal kürzer bei MMLU Pro, 5,0-mal kürzer bei GPQA Diamond. Aus dieser Trace-Kompression ergibt sich der Durchsatzgewinn: 2,9-fach bei Batch 16, steigend auf 4,6-fach bei Batch 256. Die Haken sind real: Es verliert bei den beiden schwierigsten Reasoning-Benchmarks (HLE und UGD hard), der Durchsatzvorteil verschwindet bei Wettbewerbsmathematik weitgehend, und niemand außerhalb des Labors hat irgendetwas davon verifiziert.

Wichtige Erkenntnisse

• Architektur-first-Release: Mobius-v0 entkoppelt Wissensvektoren von Reasoning-Operatoren — ein gemeinsamer Memory aus 2.560 Experten, der vier Reasoner-Blöcke bedient, statt 40 Schichten, die jeweils ihr eigenes FFN-Wissen horten.

• Effizienz, nicht Intelligenz, ist das Verkaufsargument: Die durchschnittliche Ausgabelänge sinkt um etwa das 1,5-fache, und der Anfragedurchsatz steigt bei Batch 16 auf das 2,9-fache und bei Batch 256 auf das 4,6-fache gegenüber der Transformer-Baseline.

• Es übertrifft sein eigenes Basismodell tatsächlich: 67.88 vs. 65.05 im Durchschnitt bei allgemeinen Aufgaben, und gewinnt MMLU Pro (89.05 vs. 85.31), AIME 2026 (95.31 vs. 92.08) und HMMT 2026 (85.51 vs. 78.50).

• Aber es verliert dort, wo Überlegung am wichtigsten ist: HLE 19.11 gegen 22.40 und UGD hard 73.02 gegen 78.02 — die beiden schwersten Bewertungen im Set, beide vom einfachen Transformer gewonnen.

• Der Wissenschaftssprung ist das größte Einzelergebnis: Biology-Instructions 51.40 vs 3.77, Mol-Instructions 45.73 vs 21.70, MolecularIQ 59.29 vs 29.13.

• Offen, aber nicht verfügbar: Apache-2.0-Gewichte auf Hugging Face, kein Inferenzanbieter hostet sie, ~73 GB bfloat16-Gewichte — Self-Hosting ist derzeit die einzige Möglichkeit, es auszuführen.

Was Intern-S2-Mobius eigentlich ist

Intern-S2-Mobius ist ein 35B-Basismodell, das von internlm veröffentlicht wurde, der Hugging-Face-Organisation hinter der Intern-Serie des Shanghai AI Laboratory. Die Gewichte wurden am 29. Juli 2026 auf Hugging Face veröffentlicht, und das zugehörige GitHub-Repository – README, Bereitstellungsleitfaden und ein vollständiger technischer Bericht als PDF – wurde am 5. August 2026 öffentlich zugänglich gemacht. Es wird unter Apache 2.0 veröffentlicht, was hinsichtlich offener Gewichte etwa so freizügig ist, wie es nur geht: Kommerzielle Nutzung, Modifikation und Weiterverbreitung sind alle erlaubt.

Es ist kein Fine-Tuning. Es ist ein kontinuierliches Pre-Training mit Architektur-Chirurgie. InternLM nahm Qwen3.5-35B — Alibabas Open-Weight-Modell mit 35B Mixture-of-Experts, veröffentlicht am 4. März 2026 — und restrukturierte die Art und Weise, wie das Modell Wissen speichert und abruft, setzte das Pre-Training des Ergebnisses fort und wandte anschließend überwachtes Fine-Tuning und Reinforcement Learning an. Diese Abstammung ist für die Interpretation der Benchmarks von Bedeutung: Jeder Vergleich, den InternLM veröffentlicht, ist Mobius gegen genau das Modell, aus dem es hervorgegangen ist, was die sauberste mögliche Ablation der Architekturänderung und zugleich, praktischerweise, der Vergleich ist, der ihm am ehesten schmeichelt.

Das Modell ist multimodal. Hugging Face klassifiziert es als 'image-text-to-text', und die Konfiguration bestätigt einen vollständigen Vision-Encoder sowie die Verarbeitung von Video-Tokens. Außerdem ist es, gemessen an dem, was zusammen mit den Gewichten ausgeliefert wird, gezielt auf die Wissenschaft ausgerichtet – dazu weiter unten mehr.

Die Mobius-Architektur, einfach erklärt

Ein herkömmlicher Transformer verschränkt zwei Aufgaben in jeder Schicht. Aufmerksamkeit bewegt Informationen zwischen Tokens; das Feed-Forward-Netzwerk (oder in einem Mixture-of-Experts-Modell eine Bank von Experten-FFNs) speichert Wissen. Da das FFN innerhalb der Schicht sitzt, ist das von ihm gehaltene Wissen nur auf dieser Tiefe erreichbar. Ein in Schicht 30 gelerntes Faktum kann nicht von der auf Schicht 5 stattfindenden Argumentation herangezogen werden. Informationen fließen vorwärts, Schicht für Schicht, und das ist der einzige Weg.

Mobius bricht diese Bindung. InternLM beschreibt drei Konsequenzen.

Trennung von Wissen und Schlussfolgerung. Die schichtgebundene FFN-Speicherung wird durch einen global gemeinsam genutzten Speicher ersetzt. Anstatt dass 40 Schichten jeweils einen Teil des Modellwissens besitzen, gibt es einen einzigen Pool, den jede Schlussfolgerungsstufe adressieren kann. InternLMs Argument ist, dass dies die Wissenskompression verbessert – dieselben Fakten müssen nicht in mehreren Tiefen redundant neu gelernt werden – und jedem Reasoner einen viel breiteren Wissensraum bietet, als das FFN einer einzelnen Schicht bieten könnte.

Rückwärts-Residualverbindung. Da der Speicher gemeinsam genutzt wird, erreichen sowohl flache als auch tiefe Denkstufen dasselbe Repository. Der Wissenszugriff ist nicht mehr streng vorwärtsgerichtet. Eine flache Stufe kann etwas heranziehen, das in einem Standard-Stack erst dreißig Schichten später verfügbar gewesen wäre. InternLMs Behauptung ist, dass dies dem Modell ermöglicht, Wissen über verschiedene Tiefen hinweg flexibler zu kombinieren und, entscheidend, nützliche Informationen in weniger Denkschritten zu synthetisieren. Dieser letzte Teilsatz ist die gesamte These der Veröffentlichung.

Dynamisches latentes Denken. Anstatt jeden Überlegungsschritt als sichtbare Chain-of-Thought-Tokens zu externalisieren, verfeinert Mobius seine kontinuierlichen verborgenen Zustände durch rekurrente latente Iteration, bevor es irgendetwas dekodiert. Ein Teil des „Denkens“ findet im internen Repräsentationsraum des Modells statt und nicht im generierten Text, und der Umfang dieser internen Berechnung wird pro Token dynamisch zugewiesen. Der praktische Effekt ist, dass das Modell weniger Wörter schreiben muss, um zu derselben Schlussfolgerung zu gelangen — und da die Generierung autoregressiv und serialisiert ist, ist weniger zu schreiben der mit Abstand direkteste Weg, ein Reasoning-Modell schneller zu machen.

Zusammengenommen ist der Pitch ein Reasoning-Modell, das mehr denkt und weniger schreibt.

Was die Konfigurationsdatei verrät

Die Modellkarte beschreibt die Architektur in Prosa. Die code>config.json/code> macht sie konkret und enthält mehrere Zahlen, die es wert sind, bekannt zu sein.

• Vier Reasoner über 40 Schichten. Die Textkonfiguration deklariert 40 versteckte Schichten, aber nur vier Blöcke. Die 40 Schichten sind in vier Reasoner-Stufen organisiert, die gegen das gemeinsame Memory iterieren, anstatt in vierzig unabhängige Wissens-plus-Aufmerksamkeits-Einheiten.

• 2.560 Experten.Dies ist das Shared Memory in wörtlicher Form. Mobius umfasst 2.560 Experten, von denen pro Token 8 aktiviert werden, mit einer winzigen Zwischengröße von 512 pro Experte sowie einem gemeinsamen Experten. Zum Größenvergleich: Sein Geschwistermodell Intern-S2-Preview verwendet 256 Experten. Ein zehnmal größerer Pool aus deutlich kleineren Experten ist genau das, was „ein globaler Wissensspeicher statt schichtweiser FFNs“ ergibt, wenn man es als Konfiguration niederschreibt.

• 35B auf der Packung, ~36B auf der Platte, ~3B aktiv. Die Model-Card gibt 35B an; der safetensors-Reader von Hugging Face meldet 36B Parameter; der Gewichtsindex beläuft sich auf 72,96 GB in bfloat16, was ungefähr 36,5B ergibt. Der Deployment-Guide ist am präzisesten: er nennt das Release ein 30B-A3B Modell — mit etwa 3B aktiven Parametern pro Token. Wie bei jedem sparse MoE bezahlt man im Speicher für den vollständigen Gewichtssatz und erhält pro Token die Rechenleistung eines kleinen Modells.

• Hybrid-Attention, 3:1. In der Layer-Liste wechseln sich drei Linear-Attention-Layer mit einem Full-Attention-Layer ab, den ganzen Weg hinunter — zehn Full-Attention-Layer von insgesamt 40. Linear-Attention verhindert, dass Long-Context-Speicher und Rechenaufwand explodieren; die periodischen Full-Attention-Layer bewahren den exakten Abruf, den reine Linear-Attention preisgibt. Die linearen Layer verwenden einen Faltungskern der Breite 4 und einen SSM-Zustand in Float32, das mittlerweile übliche Gated-Delta-Rezept.

• 256K-Kontext. Die maximalen Positions-Embeddings betragen 262.144. Beachten Sie die Lücke zwischen dem, was die Architektur unterstützt, und dem, wie sie bewertet wurde: InternLM führte seine Text-Benchmarks bei 128K durch und bei 64K auf MMLU Pro, SimpleQA und HLE. Eine Obergrenze von 256K ist nicht dasselbe wie 256K validierter Qualität.

• Ein integrierter Multi-Token-Vorhersagekopf. Es gibt ein einschichtiges MTP-Modul mit seinen eigenen 256 Experten. Das ist keine Dekoration — der Deployment-Leitfaden empfiehlt, das Modell mit spekulativem MTP-Decoding und vier Draft-Tokens zu betreiben. Ein Teil der realen Geschwindigkeits-Story ist also spekulatives Decoding, nicht die Architektur allein.

• Ein echter Visionsturm. Ein 27-schichtiger Vision-Encoder mit 1152 verborgenen Einheiten, Patch-Größe 16, 2x2 räumlichem Merging und zeitlichem Patchen für Video, der in den 2048-dimensionalen Text-Stream mit verschachteltem multimodalem RoPE projiziert. Bilder und Video rein, Text raus.

• Weitere Details für Neugierige: 16 Attention Heads mit einer Head-Dimension von 256, 2 Key-Value Heads (aggressive Grouped-Query Attention), gegatete Attention-Ausgaben, ein partieller Rotary-Faktor von 0,25, RoPE-Theta von 10 Millionen und ein Vokabular von 251.392 Token.

Die Benchmarks, Zeile für Zeile

InternLM wurde mit OpenCompass evaluiert und veröffentlichte einen einzigen Vergleich: Intern-S2-Mobius-35B gegen Qwen3.5-35B, das Modell, von dem es kontinuierlich vortrainiert wurde. Neun allgemeine Benchmarks, drei wissenschaftliche.

Bei allgemeinen Aufgaben gewinnt Mobius sieben von neun. MMLU Pro – breites Multi-Domänen-Wissen mit schwierigeren Distraktoren als das ursprüngliche MMLU – liegt bei 89.05 gegenüber 85.31, ein Zuwachs von 3.7 Punkten und das deutlichste Wissensergebnis im Set. GPQA Diamond, naturwissenschaftliche Fragen auf Graduiertenniveau, die so konzipiert sind, dass sie Google-resistent sind, ist im Wesentlichen ein Gleichstand bei 80.81 gegenüber 80.24. IMO Bench, Mathematik auf Olympiadeniveau, liegt bei 81.25 gegenüber 77.50. AIME 2026, die American Invitational Mathematics Examination, liegt bei 95.31 gegenüber 92.08. HMMT 2026, das Harvard-MIT Mathematics Tournament, ist der größte mathematische Ausschlag bei 85.51 gegenüber 78.50. AMO liegt bei 58.00 gegenüber 50.00. Und SimpleQA – Faktenabruf in Kurzform, der Benchmark, der am direktesten misst, ob ein Modell tatsächlich etwas weiß – springt von 21.39 auf 28.90, eine relative Verbesserung von 35%, die der beste einzelne Beleg für InternLMs Argument ist, dass „geteilter Speicher Wissen besser komprimiert“.

Dann die beiden Verluste, und sie sind die interessanten Zeilen. UGD hard geht in die andere Richtung: 73,02 für Mobius gegenüber 78,02 für die Baseline, ein Fünf-Punkte-Rückstand. Und HLE — Humanity's Last Exam, die härteste allgemeine Evaluierung, die weit verbreitet ist, bei der Frontier-Modelle immer noch Werte im Zehner- und Zwanzigerbereich erzielen — liegt bei 19,11 gegenüber 22,40. Der einfache Transformer gewinnt mit 3,3 Punkten auf dem Benchmark, der speziell dafür entwickelt wurde, das meiste Denkvermögen zu erfordern.

Dieses Muster ist kein Rauschen, und es ist nicht versteckt: InternLM hat es veröffentlicht. Die plausibelste Lesart ist, dass latentes Denken eine Kompression ist, und Kompression ist am Ende verlustbehaftet. Die Internalisierung von Überlegungen in kontinuierliche verborgene Zustände funktioniert wunderbar, wenn die Überlegung abrufintensiv ist oder einer vertrauten Struktur folgt – was auf MMLU Pro, SimpleQA und die meisten Mathematikwettbewerbsaufgaben zutrifft. Bei Problemen, die wirklich lange, explorative, fehlerkorrigierende Denkketten erfordern, scheint die explizite Token-für-Token-Spur ihren Preis wert zu sein. Der Gesamtdurchschnitt – 67,88 gegenüber 65,05 – ist ein echter Gewinn, aber es ist ein Durchschnitt, der einen Tausch verbirgt, keine gleichmäßige Verbesserung.

Die wissenschaftlichen Ergebnisse unterscheiden sich in einer anderen Größenordnung. Biology-Instructions geht von 3.77 auf 51.40. Mol-Instructions, das molekulares Verständnis und Generierung abdeckt, geht von 21.70 auf 45.73. MolecularIQ geht von 29.13 auf 59.29. Der Durchschnitt liegt bei 52.14 gegenüber 18.20. Zahlen wie 3.77, die auf 51.40 steigen, sind keine Architekturerfolge; sie sind das Kennzeichen gezielten Domänentrainings auf Aufgaben, die der Baseline schlicht nie beigebracht wurden. Dass Qwen3.5-35B bei Biology-Instructions unter 4% liegt, bedeutet, dass es das Aufgabenformat nicht versteht, nicht, dass es schlecht in Biologie ist. Lesen Sie diese drei Zeilen als „InternLM hat eine wissenschaftliche Spezialisierung hinzugefügt", was wirklich wertvoll ist und den gesamten Sinn der Intern-S-Linie ausmacht — nur schreiben Sie es nicht der Mobius-Architektur zu.

Wo "4x schneller" real ist und wo nicht.

Der Effizienzanspruch ist der Grund, warum dieses Modell existiert, also verdient er eine sorgfältige Lektüre. Die Schlagzeile von InternLM lautet „fast 4-fache End-to-End-Inferenzbeschleunigung“. Der veröffentlichte Durchsatzwert ist aussagekräftiger als die Schlagzeile – und ehrlicher.

Gemessen als Request-Durchsatz in Abhängigkeit von der Batch-Größe, gemittelt über Benchmarks, übertrifft Mobius die Transformer-Baseline um 2,9x bei Batch 16 und 4,6x bei Batch 256. Die Lücke vergrößert sich mit der Batch-Größe, was zu erwarten ist, wenn der Vorteil aus der Erzeugung von weniger Tokens pro Request resultiert: Je mehr Requests man zusammenpackt, desto stärker addieren sich die eingesparten Decode-Schritte. Die Schlagzeile „fast 4x“ ist ein Mittelwert eines Bereichs, keine Konstante.

Schlüsselt man es nach Benchmark auf, wird das Bild klarer. Bei MMLU Pro und GPQA Diamond, ist Mobius bei jeder Batchgröße dramatisch schneller — die Durchsatzkurven trennen sich sofort und divergieren weiter. Bei IMO Bench, liegt es beständig, aber nur mäßig vorn. Bei AIME 2026 und HMMT 2026, ist der Basis-Transformer tatsächlich schneller bei mittleren Batchgrößen, während Mobius erst bei Batch 256 überholt. Bei den schwersten Wettbewerbs-Matheaufgaben ist der Durchsatzvorteil über einen Großteil des nutzbaren Betriebsbereichs gleich null oder schlechter.

Warum? Weil der Durchsatz nahezu perfekt der Trace-Kompression folgt. Die durchschnittliche Ausgabelänge über alle Benchmarks sinkt um etwa den Faktor 1,5, von ungefähr 20.400 Token auf ungefähr 13.200. Aber dieser Durchschnitt umfasst eine enorme Spanne: 4,6-fach kürzer bei MMLU Pro (ungefähr 1.100 Token gegenüber 5.150) und 5,0-fach kürzer bei GPQA Diamond (ungefähr 2.600 gegenüber 12.900), gegenüber nur 1,4-fach bei IMO Bench, 1,5-fach bei AIME 2026, und 1,2-fach bei HMMT 2026. Wo das Modell sein Denken komprimieren kann, fliegt es. Wo das Problem, egal wie, 24.000 Token für die Herleitung erfordert, kann es das nicht, und stattdessen machen sich die Overheads der Architektur bemerkbar.

Praktische Übersetzung: Wenn Ihre Arbeitslast wie Wissensabruf, Multiple-Choice, technische Fragen und Antworten oder Klassifikation aussieht, ist die Beschleunigung groß und sofort spürbar. Wenn Ihre Arbeitslast schwierige mathematische oder wissenschaftliche Ableitungen umfasst, kalkulieren Sie mit ungefährer Parität und seien Sie angenehm überrascht. Wer „4x schneller“ als pauschale Eigenschaft des Modells zitiert, zitiert einen Durchschnitt aus zwei sehr unterschiedlichen Verhaltensweisen.

Der Science-Stack, der sich in der Dateiliste versteckt.

Eines der aufschlussreichsten Dinge an dieser Veröffentlichung steht überhaupt nicht in der Modellkarte, sondern in der Dateiliste des Repositorys. Neben den üblichen Tokenizer-Dateien bringt Intern-S2-Mobius drei zusätzliche Domänen-Tokenizer mit: code>tokenizer_PROT.model/code> für Proteinsequenzen, code>tokenizer_SMILES.model/code> für Molekülstrukturen in SMILES-Notation und code>tokenizer_XNA.model/code> für Nukleinsäuresequenzen. Außerdem liegt ein verirrtes NumPy-Array mit seismischen Daten im Repository.

Dedizierte Tokenizer für Proteine, Moleküle und DNA/RNA sind nichts, was man einfach so hinzufügt. Sie bedeuten, dass das Modell darauf trainiert wurde, diese Sequenztypen als erstklassige Eingaben zu lesen und nicht als gewöhnlichen Text, der zufällig Buchstaben enthält. Das ist es, was auf Biology-Instructions eine 3,77 in eine 51,40 verwandelt, und es bringt Mobius in dieselbe Familie wie sein Geschwistermodell Intern-S2-Preview, das Zeitreihen- und Vision-Modalitäten hinzufügte und laut InternLM das erste Open-Source-Modell mit der Fähigkeit war, Materialkristallstrukturen zu generieren.

Wenn Sie ein Entwickler für allgemeine Zwecke sind, ist das trivial. Wenn Sie in der Computerbiologie, Chemieinformatik oder Materialwissenschaft arbeiten, könnte es die wichtigste Zeile in diesem Artikel sein: Dies ist ein kleines, Apache-2.0-lizenziertes, selbst hostbares Modell, das SMILES und Proteinsequenzen nativ spricht.

Wo es in der Intern-Familie sitzt

Die Intern-S-Reihe ist die wissenschaftliche Multimodalserie des Shanghai AI Laboratory. Intern-S1 legte das Format fest. Intern-S1-Pro skalierte es auf die Klasse mit einer Billion Parametern. Intern-S2-Preview, kurz vor Mobius veröffentlicht, ist das Effizienz-Modell: ein Modell mit insgesamt 36B Parametern und 3B aktiven Parametern, 256 Experten und einem Kontext von 262K, das laut InternLM bei den zentralen professionellen wissenschaftlichen Aufgaben mit dem S1-Pro auf Billionen-Skala mithalten kann – eine Parameterreduktion um etwa das 30-Fache bei vergleichbarer wissenschaftlicher Leistungsfähigkeit.

Intern-S2-Mobius ist ein drittes Ding: eine Architektur-Veröffentlichung, die den Namen Intern-S2 trägt. Das „v0“ in Mobius-v0 leistet in dieser Bezeichnung echte Arbeit – dies ist die erste öffentliche Iteration eines Designs, keine ausgereifte Produktlinie. Sie verbindet sich mit ArchSpace, InternLMs offener Plattform zur Validierung von LLM-Architekturinnovationen, deren erklärtes Ziel darin besteht, „die Erforschung von LLM-Architekturen in wiederverwendbares Wissen für die Community zu verwandeln“, mit Peer-Review und veröffentlichten Ergebnissen, einschließlich negativer. Mobius zeigt, wie dieses Programm aussieht, wenn ein Vorschlag von einer 1B-Skala-Sonde zu einem 35B-Modell aufsteigt, das man tatsächlich herunterladen kann. Ein vollständiger technischer Bericht wird mit dem GitHub-Repository mitgeliefert, für alle, die die Herleitungen sehen möchten.

Unter diesem Blickwinkel sind die beiden Benchmark-Einbußen ein Merkmal des Releases, keine Peinlichkeit. Dies ist ein Labor, das ein Architekturexperiment ehrlich veröffentlicht — einschließlich der Stellen, an denen es Rückschritte erlitten hat.

Wie man es ausführt

Intern-S2-Mobius wird von drei Inferenz-Stacks unterstützt, und der Bereitstellungsleitfaden liefert funktionierende Aufrufe für jeden.

LMDeploy ist der empfohlene Weg und der einzige, den der Leitfaden auf einer einzelnen GPU zeigt: Bereitstellung mit dem PyTorch-Backend, code>--trust-remote-code/code>, Tensor-Parallelität von 1 und MTP-Spekulativ-Decodierung, aktiviert über den spekulativen Algorithmus qwen3_5_mtp mit vier Draft-Tokens. vLLM wird mit Tensor-Parallelität von 2, dem qwen3-Reasoning-Parser, dem qwen3_coder-Tool-Call-Parser, automatischer Tool-Auswahl und MTP-Spekulativ-Decodierung mit vier spekulativen Tokens gezeigt. Transformers funktioniert für grundlegende Inferenz über code>AutoModelForImageTextToText/code> mit code>trust_remote_code=True/code> und bfloat16 — beachten Sie, dass das Modell benutzerdefinierten Modellierungscode enthält, daher ist die Ausführung von Remote-Code zwingend erforderlich, und die Konfiguration ist auf Transformers 5.2 ausgelegt.

Die von InternLM empfohlenen Sampling-Parameter sind Temperatur 0.8, Top-p 0.95, Top-k 50 und Min-p 0.0 — wärmer als die nahezu-gierigen Einstellungen, die die meisten Reasoning-Modelle bevorzugen, und das sollte man respektieren, anstatt es aus Gewohnheit zu überschreiben.

Zur Hardware: Mit etwa 73 GB an bfloat16-Gewichten plus KV-Cache und Aktivierungen ist ein einzelner 80-GB-Beschleuniger knapp bemessen, während eine einzelne 141-GB-Karte komfortabel ist – vermutlich der Grund, warum das vLLM-Beispiel zwei GPUs nutzt, während das LMDeploy-Beispiel eine große voraussetzt. Long-Context-Arbeit wird das noch weiter erhöhen. Aktivieren Sie MTP – der Leitfaden empfiehlt es ausdrücklich –, denn ein erheblicher Teil der beworbenen Beschleunigung steckt dort und nicht in der Basisarchitektur.

Der wichtigste praktische Vorbehalt: Derzeit hostet kein Inferenzanbieter dieses Modell. Das Provider-Panel von Hugging Face sagt das deutlich, und der Download-Zähler stand noch bei null, als dies geschrieben wurde. Es gibt keinen API-Endpunkt, keinen Preis pro Million Tokens und keine verwaltete Möglichkeit, es auszuprobieren. Selbst-Hosting ist heute die einzige Option.

Wen sollte das eigentlich interessieren?

1. Teams, die hochvolumige, retrieval-geprägte Reasoning-Workloads ausführen

Das ist das Profil, für das die Architektur gebaut wurde. Wenn Sie große Mengen technischer Q&A, Dokumentenanalyse, strukturierte Extraktion oder Multiple-Choice-Klassifikation über ein Reasoning-Modell ausführen und Ihre Rechnung von Reasoning-Tokens dominiert wird, die Sie dem Benutzer nie zeigen, dann ist ein Modell, das dieselbe Antwort mit einem Fünftel der Tokens erreicht, eine direkte Kostensenkung. Die MMLU-Pro- und GPQA-Zahlen – 4.6x und 5.0x kürzere Traces bei gleicher oder besserer Genauigkeit – sind genau diese Form. Testen Sie es mit Ihrem eigenen Traffic, bevor Sie es glauben, aber der Mechanismus ist solide und der Anreiz ist groß.

2. Computational-Science-Gruppen

Native Protein-, SMILES- und Nukleinsäure-Tokenizer sowie große gemessene Verbesserungen bei Biologie- und Molekular-Benchmarks – in einem Apache-2.0-Modell, das auf eine oder zwei GPUs passt. Für ein Labor, das Daten on-premises halten muss und keine Molekülstrukturen an eine kommerzielle API senden kann, ist diese Kombination selten. Die Intern-S-Linie hat darauf hingearbeitet, und Mobius ist bisher der günstigste Einstiegspunkt.

3. Forscher und Architekturbeobachter

Die Entkopplung von Wissen und Reasoning sowie latentes Reasoning sind seit einiger Zeit aktive Forschungsstränge; nur sehr wenige wurden bei 35B validiert und offen mit intakten Fehlerfällen veröffentlicht. Wenn Sie sich dafür interessieren, wohin sich Post-Transformer-Architekturen als Nächstes entwickeln, sind der technische Bericht und die beiden Verliererzeilen interessanter als der Durchschnittswert. ArchSpace ist ausdrücklich dafür gebaut, diese Art von Ergebnissen wiederverwendbar zu machen.

Wer sich zumindest jetzt noch nicht darum kümmern sollte: jeder, der einen universellen Assistenten für den Produktionseinsatz sucht. Es gibt keinen gehosteten Endpunkt, keine unabhängige Evaluierung, keine Ökosystem-Tools und keine Erfolgsbilanz. Das ist keine Kritik am Modell — es ist die Beschreibung einer Forschungsveröffentlichung, die eine Woche alt ist.

Wie es in einen Produktions-Stack passt

Die ehrliche Einordnung für Intern-S2-Mobius ist heute Evaluationskandidat, nicht Standardmodell. Es ist ein nicht gehostetes, nicht verifiziertes, eine Woche altes Forschungsartefakt mit einer wirklich interessanten Architektur und einer sehr spezifischen Stärke — token-effizientes Denken bei Retrieval-geprägten Aufgaben — sowie einer echten Spezialisierung auf wissenschaftliche Sequenzdaten.

Ein sinnvolles Muster besteht darin, Ihren Produktionsdatenverkehr auf einem anbieterneutralen Endpunkt wie OrcaRouter zu belassen, der Ihnen eine OpenAI-kompatible API für viele Modelle bietet, und Mobius separat auf Ihren eigenen GPUs für den schmalen Bereich aufzusetzen, in dem er möglicherweise gewinnen kann. Messen Sie das, was für dieses Modell wirklich zählt: nicht nur die Genauigkeit, sondern die pro richtiger Antwort ausgegebenen Tokens. Das ist die Achse, für die Mobius optimiert ist, und es ist die Achse, die die meisten Evaluierungs-Frameworks ignorieren. Wenn er sich bei Ihrer Arbeitslast bewährt, haben Sie einen selbst gehosteten Weg, der kostengünstig zu betreiben und rechtlich unbelastet ist. Wenn nicht, haben Sie einen Tag GPU-Zeit verloren, und Ihr Produktionspfad hat sich nie bewegt.

Dieselbe Logik gilt auch umgekehrt, wenn ein Anbieter es schließlich hostet: Ein Router ermöglicht es Ihnen, ein neues Modell per A/B-Test gegen Ihr bisheriges Modell zu testen, ohne irgendetwas umzuschreiben, was genau der richtige Weg ist, um eine Architektur zu übernehmen, die niemand unabhängig getestet hat.

Einschränkungen und Vorbehalte

Beginnen wir mit dem größten: es gibt keine unabhängige Überprüfung der Zahlen in diesem Artikel. Jeder Benchmark, jede Durchsatzkurve und jeder Token-Längen-Vergleich stammt von InternLM. Der Vergleich ist auch strukturell vorteilhaft — Mobius wird nur gegen die spezifische Baseline gemessen, von der es kontinuierlich vortrainiert wurde, nicht gegen die aktuellen Spitzenmodelle, und das zusätzliche SFT- und RL-Post-Training bedeutet, dass der Vergleich keine saubere Architektur-Ablation ist, auch wenn er als eine solche dargestellt wird. Ein Teil des Gewinns ist Mobius; ein Teil ist einfach mehr Training.

Die Regressionen sind real und treten bei den schwierigsten Aufgaben auf. Im HLE 3,3 Punkte und im UGD-hard 5 Punkte zu verlieren, während fast alle einfacheren Aufgaben gewonnen werden, ist ein kohärentes und leicht besorgniserregendes Muster für ein Modell, dessen Verkaufsargument Denkeffizienz ist.

Operativ gesehen sind die Reibungsverluste erheblich. Benutzerdefinierter Modellcode bedeutet code>trust_remote_code/code> und eine hochmoderne Transformers-Version. Die Frameworks, die es unterstützen, müssen neu genug sein, um zu wissen, was ein code>interns2_mobius/code> ist, und InternLMs eigener Leitfaden warnt, dass es sich um Referenzkonfigurationen handelt, die aktiv weiterentwickelt werden. Rund 73 GB an Gewichten sind kein Laptop-Modell. Es gibt keine gehostete API, keine Preise, keine Ratenbegrenzungen und kein SLA — denn es gibt keinen Dienst.

Abschließend sei angemerkt, was nicht veröffentlicht wurde: keine multimodalen Benchmark-Ergebnisse trotz eines vollwertigen Vision-Encoders, keine Long-Context-Evaluierung trotz eines 256K-Limits, überhaupt keine Coding-Benchmarks, keine Sicherheits- oder Alignment-Bewertung und kein Vergleich mit einem anderen Modell als Qwen3.5-35B. Für den allgemeinen Einsatz sind das große Lücken. Für ein Architektur-Papier mit beigefügten Gewichten liegen sie schlicht außerhalb des Rahmens — so ist diese Veröffentlichung zu lesen.

FAQ

Was ist Intern-S2-Mobius?

Ein 35B-Parameter-Basismodell mit Apache-2.0-Lizenz vom InternLM-Team des Shanghai AI Laboratory, basierend auf der Mobius-v0-Architektur, die Wissensspeicherung von Reasoning-Berechnung trennt. Es wurde kontinuierlich von Qwen3.5-35B vortrainiert und mit SFT und Reinforcement Learning nachtrainiert und am 29. Juli 2026 auf Hugging Face veröffentlicht.

Was macht die Mobius-Architektur anders?

{{1}}Herkömmliche Transformatoren speichern Wissen in einem Feed-Forward-Block in jeder Schicht, sodass Wissen nur in der Tiefe erreichbar ist, in der es sich befindet.{{/1}} {{2}}Mobius ersetzt das durch einen global geteilten Speicher — 2.560 Experten in der veröffentlichten Konfiguration —{{/2}} {{3}}den die vier Reasoner-Blöcke wiederholt abfragen,{{/3}} {{4}}was tiefenübergreifenden Wissenszugriff ermöglicht und einen Teil der Überlegung in kontinuierlichen verborgenen Zuständen statt in generierten Chain-of-Thought-Tokens ablaufen lässt.{{/4}}

Ist Intern-S2-Mobius wirklich 4x schneller?

Im Durchschnitt und bei großen Batch-Größen lautet die Antwort in etwa ja: InternLM erreicht bei Batch 16 einen 2,9-mal höheren Request-Durchsatz, der bei Batch 256 auf das 4,6-Fache steigt. Allerdings variiert das stark je nach Aufgabe. Bei MMLU Pro und GPQA Diamond ist der Gewinn bei jeder Batch-Größe groß; bei den Mathematik-Wettbewerbsaufgaben AIME und HMMT ist das Basis-Transformer-Modell bei mittleren Batch-Größen tatsächlich schneller. Die Beschleunigung hängt davon ab, wie stark das Modell seine Reasoning-Pfad verkürzen kann.

Wie schneidet es im Vergleich zu Qwen3.5-35B ab?

Es gewinnt sieben von neun allgemeinen Benchmarks mit einem Durchschnitt von 67.88 gegenüber 65.05, darunter MMLU Pro (89.05 vs 85.31), AIME 2026 (95.31 vs 92.08), HMMT 2026 (85.51 vs 78.50) und SimpleQA (28.90 vs 21.39). Es verliert bei UGD hard (73.02 vs 78.02) und HLE (19.11 vs 22.40). Bei wissenschaftlichen Aufgaben ist es weit voraus — 52.14 Durchschnitt gegenüber 18.20.

Kann ich Intern-S2-Mobius über eine API nutzen?

Derzeit nicht. Kein Inferenzanbieter hostet es, es gibt keine veröffentlichten Preise und Hugging Face listet keine Bereitstellung auf. Selbsthosting mit LMDeploy, vLLM oder Transformers ist heute die einzige Möglichkeit, es auszuführen.

Welche Hardware brauche ich, um es auszuführen?

Die Gewichte umfassen etwa 73 GB in bfloat16, rechnen Sie also mit einem Beschleuniger der 141-GB-Klasse oder zwei 80-GB-GPUs, plus Reserve für den KV-Cache. InternLMs LMDeploy-Beispiel verwendet Tensor-Parallelismus von 1; sein vLLM-Beispiel verwendet 2. Es wird empfohlen, MTP-spekulatives Decodieren mit vier Draft-Tokens zu aktivieren.

Was ist seine Kontextlänge?

Die Konfiguration unterstützt {{1}}262.144 Tokens (256K){{/1}}. Beachten Sie, dass InternLM bei {{2}}128K{{/2}} auf den meisten Text-Benchmarks und bei {{3}}64K{{/3}} auf MMLU Pro, SimpleQA und HLE bewertet wurde. Daher wurde die validierte Qualität bei den vollen {{4}}256K{{/4}} nicht nachgewiesen.

Ist es multimodal?

Ja. Hugging Face stuft es als Image-Text-to-Text ein, und die Konfiguration enthält einen 27-schichtigen Vision-Encoder mit Video-Token-Verarbeitung. Allerdings hat InternLM mit dieser Veröffentlichung keine multimodalen Benchmark-Ergebnisse publiziert, daher ist die Bildverarbeitungsfähigkeit in der Praxis undokumentiert.

Warum werden Protein- und SMILES-Tokenisierer mitgeliefert?

Da es sich bei der Intern-S-Linie um eine wissenschaftliche Modellfamilie handelt, bedeuten dedizierte Tokenizer für Proteinsequenzen, SMILES-Molekülnotation und Nukleinsäuren, dass das Modell diese Formate als native Eingabetypen liest, weshalb es bei Biology-Instructions 51,40 erreicht, während die Baseline 3,77 erreicht.

Ist die Lizenz wirklich Apache 2.0?

Ja — Apache 2.0, mit der Lizenzdatei im Repository. Kommerzielle Nutzung, Modifikation und Weiterverbreitung sind erlaubt, was deutlich permissiver ist als viele Open-Weight-Releases von großen Laboren.

Sollte ich es in der Produktion einsetzen?

Noch nicht. Es ist eine Woche alt, nicht gehostet, von keiner dritten Partei verifiziert, und es fehlen Bewertungen zu Codierung, Multimodalität, Langkontext und Sicherheit. Behandeln Sie es als Evaluierungskandidaten für token-effizientes Schlussfolgern oder wissenschaftliche Sequenzarbeit, halten Sie den Produktionsverkehr über einen anbieterneutralen Endpunkt auf etablierten Modellen und überprüfen Sie es erneut, wenn unabhängige Zahlen vorliegen.

Fazit

Intern-S2-Mobius ist eine der wirklich interessantesten Modellveröffentlichungen des Jahres, und fast nichts davon hat mit seinen Bewertungen zu tun. InternLM hat eine echte architektonische Idee aufgegriffen – Wissen nicht an Schichten zu binden, es in einem gemeinsamen Memory zu speichern und das Modell einen Teil seines Denkens im latenten Raum statt in Tokens ausführen zu lassen – sie auf 35B skaliert, ordentlich trainiert und die Gewichte unter Apache 2.0 veröffentlicht, zusammen mit dem technischen Bericht und den Ergebnissen, die nicht zu seinen Gunsten ausfielen. Der Effizienzmechanismus ist nachvollziehbar, und die Belege dafür sind intern konsistent: Traces werden im Durchschnitt 1,5-mal kürzer und bei wissensintensiven Aufgaben bis zu 5-mal kürzer, und der Durchsatz steigt genau in dem Maße, das man daraus vorhersagen würde.

Die Einschränkungen sind ebenso deutlich. Niemand außerhalb des Shanghai AI Laboratory hat eine einzige Zahl verifiziert. Der Vergleich erfolgt gegen die eigene Basisversion des Modells und beinhaltet zusätzliches Post-Training, ist also keine saubere Ablation, auch wenn es danach aussieht. Der Geschwindigkeitsvorteil verpufft bei schwieriger Mathematik weitgehend. Das Modell verliert bei den beiden anspruchsvollsten Reasoning-Benchmarks in seiner eigenen Tabelle. Und es gibt keine Möglichkeit, es auszuprobieren, ohne GPUs zu mieten.

Also: kein Modell, das man diese Woche einsetzen sollte, aber definitiv eines, das man im Auge behalten sollte, und eine wirklich attraktive Option für zwei spezifische Zielgruppen — Teams, deren Reasoning-Abrechnung von Token dominiert wird, die niemand liest, und wissenschaftliche Gruppen, die ein kleines, permissiv lizenziertes Modell benötigen, das nativ Proteine und Moleküle spricht. Behalten Sie den Produktions-Stack bei bewährten Modellen über einen anbieterneutralen Endpunkt wie OrcaRouter, stellen Sie Mobius für den engen Anwendungsfall auf eigener Hardware bereit, und messen Sie Token pro korrekter Antwort statt nur Genauigkeit. Wenn die Architektur unabhängiger Prüfung standhält, wird Mobius-v0 weniger als ein 35B-Modell in Erinnerung bleiben, sondern als die Versionsnummer vor der, die zählte.