DeepSeeks 3T-Modell: Die Skalierung, die auf die Cluster warten muss

Am 14. September beendet DeepSeek den Betrieb von DeepSeek V4 Pro — dem 1,6-Billionen-Parameter-Flaggschiff, das DeepSeek am 13. August für die allgemeine Verfügbarkeit freigab — und beantwortet jeden Aufruf an deepseek-v4-pro mit DeepSeek V4.1 Flash, dem 552-Milliarden-Parameter-Modell, das DeepSeek am 10. September veröffentlichte. Vier Tage, bevor dieser Wechsel angekündigt wurde, postete ein pseudonymer DeepSeek-Beobachter etwas Pointiertes in die entgegengesetzte Richtung: dass das Labor an einem 3-Billionen-Parameter-Modell gearbeitet habe, „wahrscheinlich ein weiteres 1T-Parameter-Engram“, und dass der Grund dafür, dass es nicht draußen sei, in wirtschaftlichen Erwägungen und nicht in mangelnder Fähigkeit liege.

Über dieses Modell ist nichts bestätigt. Es gibt keinen Namen, kein Repository, keine Konfigurationsdatei, keinen Benchmark, kein Release-Fenster — ein einziger X-Post, der sich auf eine „gute Quelle“ beruft und dessen einziges wirklich interessantes Detail vom eigenen Autor ausdrücklich als Spekulation gekennzeichnet ist. Behandle es als Signal, nicht als Tatsache. Es ist trotzdem lesenswert, weil die beiden Hälften der Behauptung in entgegengesetzte Richtungen ziehen und nur eine von ihnen wahrscheinlich den Kontakt mit Deep​Seeks eigener Roadmap überleben wird.

Was das Leck tatsächlich sagt und was nicht

Der Beitrag stammt von dem Account teortaxesTex, einem langjährigen DeepSeek-Beobachter, der sich selbst als Fan des Labors seit 2023 bezeichnet. Er lautet vollständig: „Tatsächlich habe ich aus zuverlässiger Quelle, dass DeepSeek an einem 3T-Modell arbeitete (Backbone, wahrscheinlich ein weiteres 1T-Parameter-Engram, aber das ist meine Spekulation). Sie waren sich nur nicht sicher, ob es wirtschaftlich wäre, es nachzutrainieren und zu servieren. Wenn ihre Cluster wachsen, werden wir einige sehen...“

Vier Dinge in diesen beiden Sätzen haben Gewicht, und eines davon ist überhaupt keine Tatsache. „Gute Quelle“ bleibt ungenannt. Die Parameteranzahl kommt als einzelne Zahl, ohne Aufteilung zwischen Gesamt- und Aktivparametern. Der Engram-Einschub wird von der spekulierenden Person als Spekulation gekennzeichnet. Und „wenn ihre Cluster wachsen“ ist eine Bedingung, an die kein Datum geknüpft ist.

• Was wird behauptet – dass ein Deep​Seek-Modell mit 3 Billionen Parametern in irgendeiner Phase der Entwicklung existiert.

• Was ausdrücklich die eigene Vermutung des Autors ist – dass etwa 1T davon Engram-Speicher ist.

• Was unbekannt ist – sein Name, seine Architektur, die Anzahl aktiver Parameter, sein Kontextfenster, sein Trainingsstatus und ob es überhaupt als Produkt erscheint.

• Was jetzt überprüfbar ist — nichts. Kein Deep​Seek-Repository, keine Modellkarte, keine Preiszeile und kein Dokumentationseintrag erwähnt es.

Selbst die Arithmetik ist mehrdeutig. „3T-Modell (Backbone, wahrscheinlich weitere 1T Parameter Engram)“ lässt zwei Lesarten zu: ein 3T-Modell, von dem etwa 1T Engram ist, oder ein 3T-Backbone mit weiteren 1T Engram daneben, also insgesamt rund 4T. Diese Lücke ist eine Billion Parameter breit, und sie verändert die Serving-Rechnung um mehr, als die meisten Labore für einen Trainingslauf ausgeben.

Es lohnt sich außerdem daran zu erinnern, dass die Bilanz dieses Accounts durchwachsen und nicht auf Orakelniveau ist. Er las die Mitteilung von Deep​Seek vom 9. September über die Umleitung des Datenverkehrs von V4 Pro als Beleg dafür, dass das Labor „die architektonischen Probleme der V4-Familie gelöst“ habe – eine plausible Schlussfolgerung, und doch nur eine Schlussfolgerung. Anfang September brachte er außerdem die Idee ins Spiel, dass ein anonymes Stealth-Modell auf einer Coding-Plattform eines Drittanbieters Xiaomis MiMo-V3-Flash sei, was niemand bestätigt hat. Nützliches frühes Signal; keine maßgebliche Quelle.

Die interessante Hälfte ist die Speichertabelle, nicht die Anzahl der Parameter.

Engram ist real, und es ist der Grund, warum eine 3T-Behauptung plausibler ist, als sie zunächst klingt. Deep​Seek veröffentlichte die Conditional-Memory-Architektur im Januar 2026 mit beigefügtem Open-Source-Code, und sie tut etwas Ungewöhnliches: Sie trennt die statische Wissensabfrage vom dynamischen Reasoning. Anstatt GPU-Compute für das Abrufen von Fakten zu verbrauchen, hasht das Modell seinen Kontext in Embedding-Tabellen, die im DRAM gehalten werden, und ruft in konstanter Zeit ab, ohne dass im Lookup-Pfad GPU-Arbeit anfällt; dazu kommt ein Gating-Mechanismus, der einen abgerufenen Memory-Eintrag unterdrückt, wenn er mit dem umgebenden Kontext in Konflikt steht.

Die Zahlen, die DeepSeek für seine eigene Testkonfiguration meldete, sind die, an denen man sich festhalten sollte: eine 100-Milliarden-Parameter-Embedding-Tabelle, auf DRAM ausgelagert bei weniger als 3 % Durchsatzeinbuße, und 97 % Nadel-im-Heuhaufen-Genauigkeit bei 1 Mio. Token gegenüber 84,2 % für Standard-Attention. Das sind die eigenen Zahlen des Labors, nicht von uns reproduziert. Unabhängige frühe Evaluierungen sollen Berichten zufolge bei derselben Kontextlänge im Bereich von 93–96 % gelegen haben – klar oberhalb der Baseline, unterhalb der Behauptung.

Skaliert man diese Idee um den Faktor zehn, ändert sich die Gestalt des Leaks. Wenn der Großteil der zusätzlichen Parameter eines 3T-Modells Hash-Tabellen-Speicher ist, der im DRAM liegt, statt Experten, die um HBM konkurrieren, dann ist „3T“ kein Stellvertreter mehr für „nicht bereitstellbar“. Gesamtparameteranzahl und Bereitstellungskosten entkoppeln sich. Das ist die wirklich neue Idee in diesem Leak, und es ist der Teil, den die veröffentlichte Forschung tatsächlich stützt.

Der Vorbehalt ist, dass sich das Engram-Paper Berichten zufolge nicht mit dem Overhead zur Inferenzzeit befasst – Latenz und Durchsatz –, und genau dort würde eine DRAM-residente Lookup-Tabelle auftauchen, wenn sie überhaupt irgendwo auftaucht. Speicher, den man erst holen muss, ist kein Speicher, den man umsonst bekommt.

Warum Deep​Seeks eigener September in die andere Richtung argumentiert

Was gegen ein bald erscheinendes 3T-Produkt spricht, ist, dass Deep​Seek gerade das Experiment bei 1,6T durchgeführt und seine eigene Frage mit etwas Kleinerem beantwortet hat. Die V4-Leiter, wie sie heute steht:

• DeepSeek-V4-Flash-0731 — 284B Gesamtparameter, 13B aktiv pro Token.

• DeepSeek-V4-Pro-0813 — 1,6 T insgesamt, 49 Mrd. aktiv, offene Gewichte unter einer MIT-Lizenz.

• DeepSeek V4.1 Flash — 552B-Backbone auf Basis eines kausalen Encoder-Decoder-Designs, das während der Prefill-Phase 8B Parameter pro Token und während der Decode-Phase 16B aktiviert.

Am 14. September um 12 Uhr Pekinger Zeit erscheint die mittlere Stufe. DeepSeek nimmt V4 Pro offline und leitet Anfragen für deepseek-v4-pro an V4.1 Flash weiter, abgerechnet zu Flash-Tarifen, bis es ein V4.1 Pro gibt. Die offizielle Preisseite führt heute zwei Zeilen, und keine davon ist der Nachfolger des ausgemusterten Modells nach Größe: deepseek-flash zu 0,30 $ pro Million Eingabe-Tokens und 1,20 $ pro Million Ausgabe zu Spitzenzeiten, deepseek-v4-pro zu 1,32 $ und 3,96 $, wobei die Off-Peak-Tarife halb so hoch sind. Beide geben ein Kontextfenster von 1 Mio. Tokens und eine Obergrenze von 384.000 Ausgabe-Tokens an.

Die Stoßrichtung ist nicht subtil. Ein Labor, das sein größtes Modell zugunsten eines Modells ausmustert, das ein Zehntel so viele Parameter pro Token aktiviert, hat bereits den Schluss gezogen, dass die wirtschaftliche Einheit von Frontier-Fähigkeit nicht der größte Checkpoint ist, den es trainieren kann. Ein 3T-Modell, dessen Entwickler unsicher ist, ob es „nachtrainiert und wirtschaftlich bereitgestellt“ werden kann, ist kein Gerücht über Zögern; es beschreibt ein Labor, das inzwischen gemessene Daten zur Alternative hat.

Post-Training ist die schärfere Hälfte dieses Problems. Vollparametriges Post-Training der DeepSeek-V4-Pro-Linie auf Huaweis CloudMatrix384 SuperPOD wurde vom Drittanbieter-Projekt SLAI T-Rex mit 34,22 % MFU angegeben, rund das 2,93-Fache des offenen Basisrezepts. Das ist eine ermutigende Zahl – eine Drittanbieter-Zahl, bei einem 1,6T-Modell. Eine Verdopplung des Backbones verdoppelt in etwa die Rechnung, bevor auch nur ein einziges Token ausgeliefert wird.

„Wenn ihre Cluster wachsen“ ist der ganze Satz.

Die entscheidende Klausel in dem Leak ist die letzte, weil sie der einzige Teil ist, der sich öffentlich nachvollziehen lässt. Deep​Seek plant Berichten zufolge mindestens 160.000 von Huaweis Ascend-950DT-Beschleunigern in einem neuen Rechenzentrum in Ulanqab, Innere Mongolei, im Rahmen einer Bestellung im Wert von rund 2,56 Milliarden US-Dollar – einer der größten Cluster chinesisch gefertigter KI-Chips, die jemals jemand aufzubauen versucht hat.

Die an diesen Plan geknüpften Vorbehalte sind wichtiger als die Schlagzeile. Die Chips sind für Inferenz geplant, nicht fürs Training: DeepSeek hat zuvor versucht, auf Huawei-Silizium zu trainieren, und trainiert weiterhin auf Nvidia-Beschleunigern, was der Schritt ist, den ein 3T-Modell tatsächlich bräuchte. Die Auslieferung könnte mehr als ein Jahr dauern. Ein Teil der Kapazität dürfte voraussichtlich Ende 2027 bis Anfang 2028 online gehen. Und die Versorgung mit High-Bandwidth-Speicher, nicht die Logik, dürfte begrenzen, wie viele 950DT-Einheiten Huawei dieses Jahr bauen kann.

Die optimistische Lesart von „wenn ihre Cluster wachsen“ setzt ein 3T-Modell frühestens auf einen Zeitrahmen 2027–2028 an, und die pessimistische Lesart – dass es ein Forschungsartefakt bleibt und nie ein Produkt wird – deckt sich mit allem, was DeepSeek 2026 ausgeliefert hat. Das Compute-Umfeld rund um das Labor ist zudem eher umstrittene Politik als eine reine Angebotsfrage: Am 8.–9. September erhoben NSA, FBI und CISA gemeinsam den Vorwurf, dass sechs chinesische Labore, darunter DeepSeek, US-amerikanische Frontier-Modelle in „industriellem Maßstab“ destilliert hätten – ein Vorwurf, den Chinas Handelsministerium zurückwies. Was auch immer man von dem Vorwurf hält: Eine Veröffentlichung, die von Cluster-Wachstum abhängt, hängt von Entscheidungen ab, die niemand innerhalb von DeepSeek kontrolliert.

Was würde daraus einen Launch statt eines Lecks machen?

Die Checkliste ist kurz und spezifisch, und bisher hat nichts davon ausgelöst:

• Ein Repository unter der deepseek-ai-Organisation auf Hugging Face, mit einem versionierten Checkpoint-Namen statt eines Familien-Slugs.

• Eine neue Zeile auf der Seite „Models & Pricing“ von DeepSeek.

• Ein datierter Eintrag im News-Feed der API-Dokumentation, im üblichen newsYYMMDD-Format des Labs.

• Eine Modellkennung, kein Familienname — Deep​Seek versioniert Checkpoints, und ein bloßer Familien-Slug hat bisher eine Vorschau bedeutet.

Der nähere Meilenstein ist V4.1 Pro, den ein DeepSeek-Teammitglied am 9. September als Endpunkt des Routing-Fensters nannte. Es gibt keine veröffentlichten Spezifikationen, keine Parameteranzahl, keinen Preis und auch kein Datum. In gewissem Sinne ist V4.1 Pro der Test für dieses Leak: Wenn das nächste Flaggschiff bei ungefähr 1,6T des V4 Pro oder darunter landet, hat sich die 3T-Behauptung um mindestens eine Generation verschoben.

Was all das bedeutet, wenn Sie diese Woche ein Modell auswählen

Ein 3T-Modell ist 2026 kein Kaufkriterium, und bei der praktischen Lehre aus DeepSeeks September geht es überhaupt nicht um Skalierung. Sie lautet, dass sich das Modell hinter einem Endpunkt ändern kann, während der Name des Endpunkts exakt derselbe bleibt. Wer deepseek-v4-pro über eine Abstraktionsschicht aufruft, bekommt am 14. September ein anderes, kleineres, günstigeres Modell, ohne den eigenen Code anzufassen. Wer direkt an die Implementierung dieser ID durch einen einzelnen Anbieter angebunden ist, bekommt, was auch immer dieser Anbieter zu tun beschließt.

Sowohl DeepSeek V4.1 Flash als auch DeepSeek V4 Pro sind auf OrcaRouter unter einem Schlüssel mit 0 % Aufschlag verfügbar – der Listenpreis des Anbieters wird durchgereicht, was bedeutet, dass DeepSeeks Preisänderung vom 10. September hier am selben Tag zum Listenpreis live ist und nicht in einer mit Aufschlag versehenen Version davon. Auf der Modellseite stehen $0,15 pro Million Eingabe-Tokens und $0,60 pro Million Ausgabe-Tokens im Off-Peak-Band, was DeepSeeks eigener Off-Peak-Wert ist und nichts obendrauf. Automatisches Failover über Anbieter hinweg ist die unspektakuläre Funktion, die in einer Woche wie dieser am wichtigsten ist: Wenn ein Anbieter das Modell unter einem Endpunkt austauscht, ist die Routing-Schicht der Punkt, an dem daraus eine Konfigurationsänderung statt einer Migration wird.

Sollte jemals ein 3T-Deep​Seek-Modell erscheinen, wird es von demjenigen bereitgestellt, der die Cluster besitzt, um es zu hosten – zu einem Preis, den die Rechenleistung vorgibt. Dieselbe Routing-Schicht ist der Ort, an dem du ihm begegnen würdest – ohne einen zweiten Vertrag und ohne irgendetwas neu aufzubauen.

Die offene Frage ist nicht, ob Deep​Seek ein Modell mit 3 Billionen Parametern bauen kann. Drei veröffentlichte Architekturpapiere, ein funktionierendes Speicherdesign und ein 552B-Modell, von dem sein Hersteller sagt, es übertreffe seinen eigenen 1,6T-Vorgänger, deuten alle darauf hin, dass das Labor weiß, wie es geht. Die Frage ist, ob jemand dafür bezahlen wird, es zu betreiben – und nach den Anzeichen der letzten zwei Wochen ist sich Deep​Seek selbst nicht sicher. Beobachte den Cluster, nicht die Parameterzahl. Die Preisseite wird dir schneller sagen, was Deep​Seek tatsächlich ausliefert, als es irgendein Leak je tun wird.