Ming-3.0-asr-tiny vs. Moonshine 250M: Das eine Modell hört nie auf zuzuhören, das andere beginnt erst, wenn man fertig ist

Es gibt ein Namensproblem, das vor allem anderen geklärt werden muss, weil es verändert, worum es bei diesem Vergleich geht. Moonshine veröffentlicht drei Checkpoints – Tiny mit 34M, Small mit 123M und Medium mit 245M – und Moonshine 250M ist die Kurzbezeichnung, die die Community für das Spitzenmodell dieser Reihe verwendet, den Checkpoint, dessen Repository-Name moonshine-streaming-medium lautet und dessen Safetensors-Index tatsächlich insgesamt 265.898.112 Parameter umfasst. Keine Datei in der Moonshine-Organisation trägt den Namen 250M. Dieses Modell ist ein englischer Streaming-Erkenner mit einem Sliding-Window-Encoder und einem autoregressiven Decoder, gebaut für einen Laptop oder ein Telefon, im Januar 2026 unter MIT veröffentlicht. Ming-3.0-asr-tiny ist ein chinesisch-englischer Erkenner mit 8,87 Milliarden Parametern, dessen Gewichte am 14. Oktober 2026 ohne Ankündigung auf Hugging Face erschienen, aufgebaut um einen Whisper-förmigen Encoder und einen Mixture-of-Experts-Decoder mit 128 Experten und dafür ausgelegt, einen ganzen Clip auf einmal zu lesen. Sie sind keine Rivalen im selben Markt. Sie sind zwei verschiedene Antworten auf die Frage, wann ein Erkenner sprechen darf. Der Checkpoint, den dieser Beitrag Moonshine 250M nennt, ist dokumentiert unter der Modellkarte Moonshine Streaming Medium, wo der Safetensors-Index 265.898.112 Parameter gegenüber der 245M-Angabe auf der Karte ausweist. Die dokumentierten KI-Ausfälle und Agenten-Vorfälle hinter Veröffentlichungen wie dieser sind gesammelt in dem OrcaRouter AI Incident Archive, wo jeder Eintrag eigene Quellen, Schweregrad, Vertrauensgrad und eine Umstritten-Kennzeichnung enthält.

Diese Frage ist der nützliche Rahmen, und sie führt zu einer klareren Entscheidung, als es eine Genauigkeitstabelle täte. Moonshine 250M gibt Wörter aus, während das Audio noch eintrifft, bei etwa 0,1 bis 1 TOPS. Ming-3.0-asr-tiny gibt nichts aus, bis man ihm eine vollständige Datei übergibt, und dann gibt es ein Transkript ganz ohne Zeitstempel aus.

Wofür jedes einzelne eigentlich gebaut ist

Moonshines Architektur ist eine bewusste Umkehrung des üblichen Streaming-Kompromisses. Der Encoder ist ein Sliding-Window-Transformer mit begrenzter lokaler Attention und ganz ohne Positions-Embeddings – die Karte nennt ihn ergodisch –, gefenstert als (16, 4) in den ersten zwei und letzten zwei Schichten und (16, 0) in den intermediären Schichten, was etwa 80 Millisekunden Lookahead ergibt. Positionsinformationen werden von einem Adapter nach dem Encoder injiziert, der einen standardmäßigen kausalen Decoder mit RoPE speist. Das Audio-Frontend läuft mit 50 Hz und nutzt einfache Zeitbereichsoperationen statt eines Mel-Spektrogramms.

Der Decoder ist {{1}}autoregressiv{{/1}}, und Moonshine sagt, was das kostet: Die Latenz für die vollständige Ausgabe wächst mit der Transkriptlänge, selbst wenn die Zeit bis zum ersten Token niedrig ist. Das ist die ehrliche Einschränkung des Designs, und es ist der eine Satz, den man sich beim Vergleich von Streaming-Behauptungen merken sollte. Streaming bedeutet, dass die ersten Wörter schnell erscheinen; es bedeutet nicht, dass das letzte Wort proportional schnell erscheint.

Ming streamt nicht, und in seiner Modellkarte steht es: Das mitgelieferte Beispiel akzeptiert keine Streaming-Eingabe. Langes Audio kann über ein Argument in Chunks aufgeteilt werden, das gegen einen Kontext von 8.192 Positionen arbeitet, aber eine Datei in Chunks aufzuteilen ist nicht dasselbe wie einen Live-Feed zu konsumieren, und das Ausgabeformat-Feld in der Konfiguration ist eingestellt auf plain. Was Ming stattdessen macht, ist, Kontext mitzuführen. Es akzeptiert Hotwords oder den vorangegangenen Dialogzug als Teil des Transkriptions-Prompts, und es wird anhand von fünfzehn Testdatensätzen für chinesische Dialekte bewertet — Hunan, Minnan, Kantonesisch, Chuanyu, Shanghai, Anhui, Nordost, Henan, Hubei, Jiangsu, Hakka, Shaanxi, Shandong, Tianjin, Yunnan. Moonshine ist ausschließlich englischsprachig und bietet nichts davon.

Die beiden Parameteranzahlen und warum sie sich unterscheiden

Ein Detail, auf das es sich einzugehen lohnt, denn es ist die Art von Sache, die eine Vergleichstabelle stillschweigend kaputt macht: Moonshines eigene Model Card führt Medium mit 245 Mio. Parametern, 14 Encoder- und 14 Decoder-Schichten, einem 768-dimensionalen Encoder und einem 640-dimensionalen Decoder. Der safetensors-Index im selben Repository meldet 265.898.112. Die Lücke beträgt etwa 21 Millionen, rund achteinhalb Prozent, und es ist kein Rundungsfehler – es ist der Unterschied zwischen dem Zählen eines Backbones und dem Zählen alles, was damit ausgeliefert wird.

Ming hat dasselbe Problem in einer größeren Ausführung. Sein Index meldet 8.865.800.992 Parameter; seine Diagramme das Modell 8.6B-A2B nennen, eine Kurzform für insgesamt 8,6 Milliarden mit etwa 2 Milliarden aktiven pro Token. Die Bezeichnung liegt rund 270 Millionen unter dem Index.

• Gesamtparameter — Ming-3.0-asr-tiny 8,87B (Index) gegenüber Moonshine 250M 266M (Index); Herstellerangaben nennen 8,6B und 245M.

• Aktiv pro Token — etwa 2B für Ming, da bei jedem Schritt 8 von 128 Experten geroutet werden. Alle 266M für Moonshine, das dicht ist.

• Encoder — 32 Schichten, 1.280 Dimensionen, 20 Heads, 128 Mel-Bins, Whisper-förmig, gegenüber einem 14-schichtigen ergodischen Sliding-Window-Transformer mit 768 Dimensionen über ein 50-Hz-Frontend.

• Decoder — 24 Schichten, 128 Experten, autoregressiv; gegenüber 14 Schichten, dicht, autoregressiv.

• Latenzmodell — gesamter Clip rein, Transkript raus, kein Streaming; im Vergleich zu ~80 ms Lookahead und einem ersten Token, während das Audio noch eingeht.

• Ausgabe — reiner Transkriptionstext, keine Zeitstempel, keine Diarisierung; im Vergleich zu Transkriptionstext von einem autoregressiven Decoder, der ebenfalls keinen Zeitstempelpfad in der Karte hat.

• Sprachen — Chinesisch und Englisch plus 15 chinesische Dialekt-Testsets; im Vergleich zu nur Englisch.

• Lizenz — MIT für beide, wobei gebündelte Apache-2.0-Header im Repository von Ming erhalten bleiben.

Genauigkeit, mit der Einschränkung, dass sie nie mit demselben Audio getestet wurden

Die Model Card von Moonshine gibt für Medium einen durchschnittlichen WER von 6,65 über acht englische Datensätze an: 10,68 bei AMI, 11,90 bei Earnings-22, 9,46 bei GigaSpeech, 2,08 bei LibriSpeech test-clean, 5,00 bei test-other, 2,58 bei SPGISpeech, 2,99 bei TED-LIUM und 8,54 bei VoxPopuli. Trainiert mit rund 300.000 Stunden Sprachdaten.

Ming berichtet über einen durchschnittlichen WER von 3,99 auf seinen öffentlichen englischen Datensätzen – LibriSpeech clean und other, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English und VoxPopuli – und über einen durchschnittlichen CER von 3,55 auf seinen chinesischen Datensätzen. Trainiert auf einer nicht offengelegten Datenmenge.

Die Versuchung ist groß, 3,99 neben 6,65 zu stellen und zu erklären, Ming sei auf Englisch genauer. Tun Sie das nicht. Zwei der fünf englischen Sets unterscheiden sich, die Aggregation unterscheidet sich, Moonshines Modellkarte veröffentlicht keine Aufschlüsselung nach Sets, die sich sauber auf Mings fünf Sets abbilden lässt, und keiner der beiden Anbieter hat das Modell des anderen getestet. Zu dem einen Set, das beide ausweisen – VoxPopuli –, veröffentlicht Ming in seinem Fließtext überhaupt keine englische Einzelangabe je Set, sondern nur den Durchschnitt; daher lässt sich selbst diese einzige Überschneidung nicht anhand der Modellkarten vergleichen. Jede Zahl hier ist vom Anbieter angegeben und nicht reproduziert.

Was sich ohne einen gemeinsamen Testdatensatz sagen lässt, ist struktureller Natur. Moonshine ist ein dichtes Modell mit 266 Millionen Parametern, trainiert auf 300.000 Stunden Englisch. Ming ist ein Mixture-of-Experts-Modell mit 8,87 Milliarden Parametern und rund 2 Milliarden aktiven Parametern, trainiert auf Daten, die nicht näher beschrieben werden, evaluiert auf Chinesisch und Englisch mit einer starken Dialektkomponente. Ein Modell mit siebzehnmal so vielen aktiven Parametern und einem Sprachmodell-Prior sollte bei schwierigem englischen Audiomaterial genauer sein, und es wäre überraschend, wenn nicht. Das ist eine Erwartung aus der Architektur, keine Messung.

Wo die Einsatzrealitäten auseinandergehen

Ming benötigt einen Linux-Rechner mit einer CUDA-GPU, Python 3.12, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 und trust_remote_code=True, um den eigenen Modellierungscode zu laden. Die Gewichte sind etwa 17,7 GB groß in BF16, verteilt auf zwei Shards. Es gibt einen SGLang-Serving-Pfad, der an einen bestimmten Adapter-Commit gepinnt ist, was ein Signal dafür ist, dass der Anbieter erwartet, dass dies hinter einer API und nicht auf einem Schreibtisch läuft.

Moonshine 250M zielt auf weniger als 1 GB Speicher und etwa 0,1 bis 1 TOPS ab. Es läuft über das Moonshine-Voice-Framework für Edge-Geräte und über Transformers, und die Karte sagt klar, dass der Transformers-Weg noch kein vollständig effizientes Streaming implementiert – er stützt sich auf die Sliding-Window-Unterstützung von flash-attention. Wer das Streaming-Verhalten möchte, das die Architektur verspricht, wird über den Framework-Weg bedient.

Das Repository ist der Ort, an dem die Checkpoint-Reihe tatsächlich sichtbar wird: vierundzwanzig Tags über eine Tiny-, Small- und Medium-Familie hinweg, plus das Framework, das die Karte nennt, wenn man echtes Streaming möchte. Das ist eine Wartungsgeschichte, die Ming noch nicht hat, und sie ist die praktische Hälfte der Entscheidung.

Das ist der ganze Vergleich in zwei Sätzen: Das eine Modell ist dafür ausgelegt, in einem Gerät in Vergessenheit zu geraten, und das andere dafür, von einer GPU mit einer angehängten Hotword-Liste ausgeliefert zu werden.

Was ein Team mit China-Fokus tatsächlich tun sollte

Wenn es sich bei Ihrem Produkt um Live-Untertitelung oder einen Sprachbefehl auf Englisch handelt, erledigt Moonshine 250M die Aufgabe, die Ming überhaupt nicht erledigen kann, und die Genauigkeitslücke – wie auch immer sie ausfallen mag – dürfte kaum mehr ins Gewicht fallen als die Tatsache, dass Ming keinen Live-Stream verarbeiten kann. Streaming ist kein Feature, das man später zu einer Architektur hinzufügt, die ganze Clips liest; es ist eine Eigenschaft des Encoders.

Wenn es bei Ihrem Produkt um chinesische Sprache, einen regionalen Dialekt oder eine Batch-Pipeline geht, in der Transkripte nachträglich erzeugt werden und Namen wichtig sind, ist Ming von den beiden der Einzige, der das Problem adressiert, und es ist fünf Tage alt mit einer Downloadzahl im zweistelligen Bereich. Die ehrliche Empfehlung ist ein Bake-off mit Ihrem eigenen Audiomaterial, bewertet anhand des Named-Entity-Recall statt der Zeichenfehlerrate, denn genau darauf wurde Ming ausgelegt.

Für Teams, die diesen Vergleichstest durchführen, ist das operative Problem nicht das Modell, sondern die Infrastruktur: zwei Stacks, zwei Abhängigkeitssätze, zwei Sätze von Zugangsdaten und keine Möglichkeit, sie mit demselben Traffic zu vergleichen, ohne eine Testumgebung zu bauen. OrcaRouter hostet keines der beiden Modelle – Ming-3.0-asr-tiny und Moonshine 250M sind selbst gehostete offene Gewichte –, aber es stellt über 200 gehostete Modelle hinter einen einzigen API-Schlüssel mit automatischem Failover, sodass die gehostete Baseline, gegen die Sie bewerten, neben Ihrem selbst gehosteten Kandidaten stehen kann, ohne einen zweiten Vertrag. Die Listenpreise der Anbieter werden mit 0 % Aufschlag weitergegeben, was die entscheidende Zahl ist, wenn Sie Kosten pro Stunde Audio statt Kosten pro Token vergleichen.

Die offene Frage, die es zu beobachten gilt

Mings Karte besagt, dass Hotwords Hinweise, keine Garantien sind, und dass die Ausgabe Text ohne Zeitstempel auf Wortebene oder Sprecherdiarisierung ist. Moonshines Karte besagt, dass ihr Decoder bei kurzen oder verrauschten Segmenten Wörter halluzinieren und Phrasen wiederholen kann. Beide sind ehrlich über Fehlermodi, was mehr ist, als die meisten Karten schaffen, und beide beschreiben denselben zugrunde liegenden Kompromiss aus entgegengesetzten Richtungen: Ein autoregressiver Decoder, der fließenden Text erzeugt, wird manchmal fließenden Text erzeugen, der nicht gesagt wurde.

Was diesen Vergleich entscheiden würde, ist kein Benchmark, sondern ein Anwendungsfall. Lassen Sie beide auf denselben zwanzig Minuten Ihrer eigenen Audioaufnahmen laufen – halb live, halb Batch, halb Englisch, halb nicht – und die Entscheidung dreht sich nicht mehr ausschließlich um Parameterzahlen. Bis dahin lautet die korrekte Beschreibung des Aufeinandertreffens, dass das eine Modell dafür gebaut ist, kontinuierlich zuzuhören, und das andere dafür, sorgfältig zu lesen, und der Name des kleineren ist eine Marketing-Kurzbezeichnung für einen Checkpoint, der tatsächlich 266 Millionen Parameter hat.