Ming-3.0-asr-tiny kontra Moonshine 250M: jeden model nigdy nie przestaje słuchać, drugi nigdy nie zaczyna, dopóki nie skończysz

Zanim przejdziemy do czegokolwiek innego, trzeba wyjaśnić pewien problem z nazewnictwem, ponieważ zmienia on to, czym jest to porównanie. Moonshine publikuje trzy checkpointy — Tiny (34M), Small (123M) i Medium (245M) — a Moonshine 250M to skrót używany przez społeczność na określenie najwyższego modelu w tej serii, checkpointu, którego nazwa repozytorium to moonshine-streaming-medium, a którego indeks safetensors w rzeczywistości obejmuje łącznie 265 898 112 parametrów. W organizacji Moonshine nie ma żadnego pliku o nazwie 250M. Ten model to angielski strumieniowy system rozpoznawania mowy z enkoderem z przesuwanym oknem i autoregresyjnym dekoderem, zbudowany do pracy na laptopie lub telefonie, wydany w styczniu 2026 na licencji MIT. Ming-3.0-asr-tiny to chińsko-angielski system rozpoznawania mowy z 8,87 mld parametrów, którego wagi pojawiły się na Hugging Face 14 października 2026 bez zapowiedzi, zbudowany wokół enkodera wzorowanego na Whisperze i 128-ekspertowego dekodera mieszaniny ekspertów, zaprojektowany do odczytania całego klipu naraz. Nie są rywalami na tym samym rynku. To dwie różne odpowiedzi na pytanie, kiedy system rozpoznawania mowy może się odezwać. Checkpoint, który ten tekst nazywa Moonshine 250M, jest udokumentowany na karcie modelu Moonshine Streaming Medium, gdzie indeks safetensors podaje 265 898 112 parametrów, mimo że karta jest oznaczona jako 245M. Udokumentowane awarie AI i incydenty z agentami, które stały za takimi wydaniami jak to, są zebrane w OrcaRouter AI Incident Archive, gdzie każdy wpis zawiera własne źródła, poziom dotkliwości, stopień pewności i flagę sporności.

To pytanie jest użyteczną ramą i prowadzi do czystszej decyzji niż tabela dokładności. Moonshine 250M emituje słowa, gdy dźwięk jeszcze napływa, przy około 0,1 do 1 TOPS. Ming-3.0-asr-tiny nie emituje niczego, dopóki nie przekażesz mu kompletnego pliku, a potem emituje transkrypcję bez żadnych znaczników czasu.

Do czego każdy z nich jest w rzeczywistości stworzony

Architektura Moonshine jest celowym odwróceniem typowego kompromisu w przetwarzaniu strumieniowym. Enkoder to transformer z przesuwnym oknem i ograniczoną uwagą lokalną oraz całkowitym brakiem osadzeń pozycyjnych — karta określa go jako ergodyczny — z oknami (16, 4) w dwóch pierwszych i dwóch ostatnich warstwach oraz (16, 0) w warstwach pośrednich, co daje około 80 milisekund wyprzedzenia. Informacje pozycyjne są wstrzykiwane przez adapter po enkoderze, zasilając standardowy dekoder przyczynowy z RoPE. Frontend audio działa z częstotliwością 50 Hz, wykorzystując proste operacje w dziedzinie czasu zamiast spektrogramu mel.

Dekoder jest autoregresyjny, a Moonshine mówi, jaka jest tego cena: opóźnienie pełnego wyniku rośnie wraz z długością transkrypcji, nawet gdy czas do pierwszego tokenu jest niski. To uczciwe ograniczenie tej konstrukcji i jedno zdanie, o którym trzeba pamiętać, porównując twierdzenia dotyczące streamingu. Streaming oznacza, że pierwsze słowa pojawiają się szybko; nie oznacza, że ostatnie słowo pojawia się proporcjonalnie szybko.

Ming nie prowadzi strumieniowania, a jego karta to stwierdza: dołączony przykład nie akceptuje wejścia strumieniowego. Długie audio można dzielić na fragmenty za pomocą argumentu w kontekście o długości 8 192 pozycji, ale dzielenie pliku nie jest tym samym co odbieranie transmisji na żywo, a pole formatu wyjściowego w konfiguracji jest ustawione na plain. Ming zamiast tego przenosi kontekst. Akceptuje słowa kluczowe (hotwords) lub poprzednią turę dialogu jako część podpowiedzi do transkrypcji i jest oceniany na piętnastu chińskich zestawach testowych obejmujących dialekty: hunański, minnański, kantoński, syczuański, szanghajski, anhui, północno-wschodni, henański, hubejski, jiangsu, hakka, shaanxi, shandong, tianjin i yunnan. Moonshine obsługuje wyłącznie angielski i nie ma niczego z tego.

Dwie liczby parametrów i dlaczego się różnią

Szczegół, nad którym warto się zatrzymać, bo to właśnie ten rodzaj rzeczy, który po cichu psuje tabelę porównawczą: własna karta Moonshine podaje dla Medium 245 mln parametrów, 14 warstw enkodera i 14 warstw dekodera, enkoder o wymiarze 768 i dekoder o wymiarze 640. Indeks safetensors w tym samym repozytorium podaje 265 898 112. Różnica wynosi około 21 mln, mniej więcej osiem i pół procent, i nie jest to błąd zaokrąglenia — to różnica między liczeniem samego backbone'u a liczeniem wszystkiego, co jest dostarczane razem z nim.

Ming ma ten sam problem w większym rozmiarze. Jego indeks podaje 8,865,800,992 parametrów; jego wykresy oznaczają model 8.6B-A2B, co jest skrótem oznaczającym łącznie 8,6 miliarda parametrów, z około 2 miliardami aktywnymi na token. Etykieta jest o około 270 milionów niższa niż wartość w indeksie.

• Całkowita liczba parametrów — Ming-3.0-asr-tiny 8,87B (indeks) w porównaniu z Moonshine 250M 266M (indeks); etykiety dostawcy podają 8,6B i 245M.

• Aktywne na token — około 2 mld dla Ming, ponieważ 8 z 128 ekspertów jest wybieranych na każdym kroku. Całe 266 mln dla Moonshine, który jest gęsty.

• Enkoder — 32 warstwy, 1280 wymiarów, 20 głów, 128 binów mel, w kształcie Whispera, w porównaniu z 14-warstwowym ergodycznym transformerem z przesuwnym oknem o 768 wymiarach na 50-Hz frontendzie.

• Dekoder — 24 warstwy, 128 ekspertów, autoregresyjny; w porównaniu z 14 warstwami, gęsty, autoregresyjny.

• Model opóźnienia — cały klip na wejściu, transkrypcja na wyjściu, bez strumieniowania; w porównaniu z ~80 ms wyprzedzenia i pierwszym tokenem, gdy dźwięk wciąż napływa.

• Dane wyjściowe — zwykły tekst transkrypcji, bez znaczników czasu, bez diaryzacji; w porównaniu z tekstem transkrypcji z dekodera autoregresyjnego, który również nie ma ścieżki znaczników czasu w karcie.

• Języki — chiński i angielski oraz 15 zestawów testowych chińskich dialektów; w porównaniu z samym angielskim.

• Licencja — MIT dla obu, z zachowanymi dołączonymi nagłówkami Apache-2.0 w repozytorium Minga.

Dokładność, z zastrzeżeniem, że nigdy nie testowano ich na tym samym audio

Karta modelu Moonshine podaje średni WER wynoszący 6,65 w ośmiu angielskich zestawach dla wariantu Medium: 10,68 na AMI, 11,90 na Earnings-22, 9,46 na GigaSpeech, 2,08 na LibriSpeech test-clean, 5,00 na test-other, 2,58 na SPGISpeech, 2,99 na TED-LIUM i 8,54 na VoxPopuli. Wytrenowano go na około 300 000 godzin mowy.

Ming podaje średni WER na poziomie 3,99 w swoich publicznych zestawach angielskich — LibriSpeech clean i other, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English i VoxPopuli — oraz średni CER na poziomie 3,55 w swoich zestawach chińskich. Wytrenowany na nieujawnionej ilości danych.

Kusi, by postawić 3,99 obok 6,65 i ogłosić, że Ming jest dokładniejszy w angielskim. Nie róbcie tego. Dwa z pięciu angielskich zestawów się różnią, sposób agregacji jest inny, karta Moonshine nie publikuje rozbicia na zestawy, które przekładałoby się czysto na pięć zestawów Minga, a żaden z dostawców nie uruchomił rozwiązania drugiego. W jedynym zestawie, który obaj raportują — VoxPopuli — Ming w swoim tekście w ogóle nie podaje angielskiej wartości dla tego zestawu, tylko średnią, więc nawet tego jednego pokrycia nie można porównać na podstawie kart. Każda liczba tutaj jest podana przez dostawcę i nieodtworzona.

To, co można powiedzieć bez wspólnego zestawu testowego, ma charakter strukturalny. Moonshine to gęsty model o 266 mln parametrów wytrenowany na 300 000 godzin angielskiego. Ming to model typu mixture-of-experts o 8,87 mld parametrów, z około 2 mld aktywnych, wytrenowany na danych, których nie opisano, oceniany na języku chińskim i angielskim, z dużym udziałem dialektów. Model o siedemnastokrotnie większej liczbie aktywnych parametrów i z priorem modelu językowego powinien być dokładniejszy na trudnym materiale audio w języku angielskim i byłoby zaskakujące, gdyby tak nie było. To oczekiwanie wynikające z architektury, a nie pomiar.

Gdzie realia wdrożeń się rozchodzą

Ming potrzebuje maszyny z Linuksem i GPU CUDA, Pythona 3.12, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 oraz trust_remote_code=True, aby wczytać własny kod modelowania. Wagi w BF16 zajmują około 17,7 GB i są podzielone na dwa shardy. Istnieje ścieżka serwowania SGLang, przypięta do konkretnego commita adaptera, co sygnalizuje, że dostawca oczekuje uruchamiania tego za API, a nie na biurku.

Moonshine 250M ma na celu poniżej 1 GB pamięci i około 0,1 do 1 TOPS. Działa poprzez framework Moonshine Voice dla urządzeń brzegowych oraz poprzez Transformers, a karta wprost stwierdza, że ścieżka Transformers nie implementuje jeszcze w pełni wydajnego streamingu — opiera się na obsłudze okna przesuwnego w flash-attention. Jeśli zależy Ci na zachowaniu streamingu, które obiecuje architektura, to właśnie ścieżka frameworkowa je zapewnia.

Repozytorium to miejsce, w którym linia checkpointów jest faktycznie widoczna: dwadzieścia cztery tagi w rodzinie Tiny, Small i Medium, plus framework, którego karta każe użyć, jeśli chcesz prawdziwego streamingu. To historia utrzymania, której Ming jeszcze nie ma, i praktyczna połowa tego wyboru.

To całe porównanie w dwóch zdaniach: jeden model jest zaprojektowany tak, by zapomniano o nim wewnątrz urządzenia, a drugi — by był obsługiwany z GPU z dołączoną listą hotwordów.

Co powinien właściwie robić zespół stawiający Chiny na pierwszym miejscu

Jeśli Twój produkt to napisy na żywo lub polecenie głosowe po angielsku, Moonshine 250M wykonuje zadanie, którego Ming nie potrafi wykonać w ogóle, a różnica w dokładności — niezależnie od tego, jaka się okaże — raczej nie będzie miała większego znaczenia niż fakt, że Ming nie potrafi przetwarzać strumienia na żywo. Strumieniowanie nie jest funkcją, którą dodaje się później do architektury czytającej całe klipy; to właściwość enkodera.

Jeśli Twój produkt obsługuje mowę chińską, dialekt regionalny albo potok przetwarzania wsadowego, w którym transkrypcje powstają po fakcie i nazwy mają znaczenie, Ming jest jedynym z tych dwóch, który rozwiązuje ten problem — a ma zaledwie pięć dni, a liczba pobrań jest rzędu dziesiątek. Uczciwa rekomendacja to test porównawczy na własnym audio, oceniany według pełności rozpoznawania nazwanych encji, a nie wskaźnika błędów znaków, ponieważ to jest oś, dla której zbudowano Ming.

Dla zespołów prowadzących takie porównanie problemem operacyjnym nie jest model, lecz infrastruktura: dwa stosy technologiczne, dwa zestawy zależności, dwa zestawy poświadczeń i brak sposobu porównania ich na tym samym ruchu bez budowania własnego środowiska testowego. OrcaRouter nie hostuje żadnego z tych modeli — Ming-3.0-asr-tiny i Moonshine 250M to samodzielnie hostowane otwarte wagi — ale udostępnia ponad 200 hostowanych modeli za jednym kluczem API z automatycznym przełączaniem awaryjnym, dzięki czemu hostowany baseline, względem którego prowadzisz ocenę, może stanąć obok Twojego samodzielnie hostowanego kandydata bez drugiej umowy. Ceny katalogowe dostawców są przekazywane bez marży (0%), co jest tą liczbą, która ma znaczenie, gdy porównujesz koszt godziny dźwięku, a nie koszt tokenu.

Otwarte pytanie, które warto obserwować

Karta Minga mówi, że hotwordy to wskazówki, a nie gwarancje, oraz że wynikiem jest tekst bez znaczników czasu na poziomie słów i bez diaryzacji mówców. Karta Moonshine'a mówi, że jej dekoder może halucynować słowa i powtarzać frazy w krótkich lub zaszumionych segmentach. Obie są uczciwe co do trybów awarii, na co stać niewiele kart, i obie opisują ten sam podstawowy kompromis z przeciwnych stron: autoregresyjny dekoder, który generuje płynny tekst, czasem wygeneruje płynny tekst, którego nie wypowiedziano.

To porównanie rozstrzygnie nie benchmark, lecz przypadek użycia. Uruchom oba modele na tych samych dwudziestu minutach własnego audio — połowa na żywo, połowa wsadowo, połowa po angielsku, połowa nie — a decyzja przestanie całkowicie dotyczyć liczby parametrów. Do tego czasu właściwym opisem tego starcia jest to, że jeden model jest zbudowany do ciągłego słuchania, a drugi do uważnego czytania, a nazwa tego mniejszego to marketingowy skrót oznaczający checkpoint, który w rzeczywistości ma 266 milionów parametrów.