Ming-3.0-asr-tiny kontra Granite Speech 5.0 470M TurboCTC: 19× więcej parametrów, żadnej przewagi w przepustowości

Zestaw Ming-3.0-asr-tiny i Granite Speech 5.0 470M TurboCTC na tej samej stronie, a pierwszą liczbą, która rzuca się w oczy, jest stosunek parametrów: 8,87 miliarda wobec 470 milionów, mniej więcej dziewiętnaście do jednego. Drugą jest to, że to mały model jest tym zbudowanym pod kątem szybkości, i to z ogromną przewagą, a trzecią, że nie jest to sprzeczność. Granite Speech 5.0 470M TurboCTC nie ma dekodera do uruchamiania — to enkoder, który emituje znaki i się zatrzymuje. Ming-3.0-asr-tiny ma 24-warstwowy dekoder mieszaniny ekspertów, który zapisuje po jednym tokenie naraz i któremu można z góry powiedzieć, jakie nazwy zostaną za chwilę wypowiedziane. Jeden jest maszyną nastawioną na przepustowość dla angielskiego audio. Drugi jest maszyną nastawioną na kontekst dla chińskiego audio. IBM wydało Granite Speech 5.0 470M TurboCTC 25 sierpnia 2026 r. wraz z wpisem na blogu, raportem technicznym i wpisem w tabeli liderów Open ASR; inclusionAI udostępniło wagi Ming-3.0-asr-tiny na Hugging Face 14 października 2026 r. zupełnie bez zapowiedzi. Wszystkie użyte tu dane liczbowe dotyczące Granite pochodzą z karty modelu Granite Speech 5.0 470M TurboCTC, która zawiera tabelę Open ASR, przegląd szumów i deklarację jednojęzyczności. Udokumentowane awarie AI i incydenty agentów, które stoją za takimi wydaniami jak to, są zebrane w Archiwum incydentów AI OrcaRouter, gdzie każdy wpis ma własne źródła, poziom istotności, stopień pewności i oznaczenie sporności.

Żaden z modeli nie znajduje się w katalogu OrcaRouter i żaden nie występuje w ocenie drugiego, więc nie ma bezpośredniego porównania od dostawcy, na które można by się powołać. Wszystko poniżej pochodzi z własnej opublikowanej konfiguracji i wykresów każdego modelu, oznaczonych jako takie.

Rozwidlenie architektoniczne, ujęte wprost

Granite Speech 5.0 470M TurboCTC to model wyłącznie enkoderowy i IBM twierdzi, że jest to celowe zerwanie z własną przeszłością. Poprzednie modele Granite Speech składały się z enkodera akustycznego, projektora i modelu językowego Granite z adapterami LoRA — innymi słowy, były to modele językowe z mikrofonem. Generacja 5.0 całkowicie rezygnuje z modelu językowego i optymalizuje cel CTC na głowicy BPE z 16 384 jednostkami. Szesnaście bloków conformer, 1024 wymiary ukryte, osiem głowic uwagi, uwaga blokowa obejmująca 128 ramek, samokondycjonowanie przy ósmym bloku i jądro konwolucji o szerokości 7.

Subsampling to część, która zapewnia szybkość. Dźwięk trafia jako log-mel plus delty przy 100 klatkach na sekundę w 320 wymiarach. Trzy etapy redukcji 2× — najpierw reshape, który składa kolejne klatki, potem konwolucje z krokiem wewnątrz dwóch pierwszych bloków conformer — sprowadzają to do 12,5 tokenów wyjściowych na sekundę. Blog IBM wyraźnie mówi, że to zmiana względem jego wcześniejszych enkoderów, które emitowały 50 znaków na sekundę: czterokrotnie mniej kroków wyjściowych na sekundę dźwięku i brak pętli autoregresyjnej decydującej o każdym z nich.

Ming-3.0-asr-tiny poszedł w przeciwnym kierunku na każdej osi, która ma tu znaczenie. Jego dekoder to 24 warstwy mixture-of-experts ze 128 ekspertami, ośmiu routingowanych na token, jeden wspólny ekspert i jedna gęsta pierwsza warstwa, z naprzemiennie ułożonymi trzema warstwami Kimi Delta Attention i jedną warstwą Gated MLA. Zapisuje tokeny autoregresyjnie. Niesie też 32-warstwowy, 1280-wymiarowy enkoder o kształcie Whispera — kształt Whisper large-v3, a repozytorium dostarcza modeling_whisper_encoder.py oraz notę licencyjną MIT OpenAI w osobnym pliku. Ming zachował model językowy i uczynił go drogą częścią.

Skąd tak naprawdę pochodzą te liczby

To sekcja, która rozstrzyga, jaką wagę należy przypisać twierdzeniom każdego z modeli, a te dwa wydania nie są porównywalne pod względem rodzaju.

• Granite Speech 5.0 470M TurboCTC — 5,00% łącznego WER w publicznych anglojęzycznych zestawach krótkich form w Open ASR leaderboard, na dzień 25 sierpnia 2026 r., przy czym 1,93% na LibriSpeech test-clean i 3,59% na test-other. Jego niekomercyjny odpowiednik osiąga 4,85%. Przepustowość przekracza 12 600 RTFx na pojedynczym H200 przy wnioskowaniu wsadowym. Dostępny jest raport techniczny na arXiv i wpis na blogu Hugging Face, a wyniki zostały przesłane do publicznego leaderboardu, który je zawiera.

• Ming-3.0-asr-tiny — średni CER 3,55 na chińskich publicznych zestawach, średni WER 3,99 na angielskich publicznych zestawach, 8,42 na piętnastu zestawach dialektowych, 1,67 w pięciu wewnętrznych domenach, 4,36 na zagregowanym zbiorze context-ASR. Wszystko to istnieje jako obrazy PNG na karcie modelu. W repozytorium nie ma raportu technicznego, zgłoszenia do rankingu ani skryptu ewaluacyjnego.

Ten wpis na blogu warto otworzyć z tego samego powodu co kartę modelu: to jest ślad, którego Ming nie ma. IBM opublikowało datowany artykuł, raport techniczny i wpis w rankingu, a deklarację przepustowości z artykułu można sprawdzić względem opisanej w nim konfiguracji wsadu.

Ta asymetria nie jest przytykiem do wyników Minga; to stwierdzenie o tym, co można sprawdzić. Każdy może w ciągu popołudnia odtworzyć wyniki Granite Open ASR na podstawie publicznych danych. Odtworzenie wyników Minga wymaga zrekonstruowania jego zestawów testowych, w tym pięciu wewnętrznych domen, których skład nie został opublikowany.

Jeszcze jedna asymetria, tym razem w drugą stronę: oba modele nie mają wspólnego jednego zestawu ewaluacyjnego. Wykresy Granite obejmują wyłącznie język angielski i dotyczą LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM oraz VoxPopuli. Angielska średnia Ming wykorzystuje LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English oraz VoxPopuli — pokrywając się w dwóch z pięciu przypadków, przy innej agregacji. Czytelnik, który chce wiedzieć, „który jest dokładniejszy w języku angielskim”, nie otrzyma odpowiedzi od żadnego z dostawców, ponieważ żaden z nich nie zadał tego pytania.

Szybkość ma tutaj dwa różne znaczenia.

12 600 RTFx IBM to liczba przepustowości w trybie wsadowym: dźwięk przepuszczany przez GPU hurtowo, ponad trzy i pół godziny mowy na sekundę obliczeń. To właściwa liczba do transkrypcji archiwum, a dla mikrofonu na żywo jest niemal bez znaczenia. IBM faktycznie dostarcza strumieniowanie — demonstrację WebGPU w przeglądarce, chunkwise attention i ścieżkę MLX dla Apple Silicon — ale główna liczba opisuje przypadek wsadowy.

Ming nie publikuje żadnego RTFx. Publikuje natomiast rozmiar: 17,7 GB wag BF16 oraz autoregresyjny dekoder z 128 ekspertami. Pętla token po tokenie jest modelem kosztu. Każda dodatkowa sekunda dźwięku oznacza więcej kroków dekodera, a każdy krok dekodera wiąże się z decyzją routingu spośród 128 ekspertów. To strukturalny powód, dla którego to 19× mniejszy model typu encoder-only ma deklarację przepustowości, i nie potrzebuje do tego benchmarku, by było to prawdą.

Praktyczna konsekwencja jest taka, że nie konkurują o to samo wdrożenie. Granite Speech 5.0 470M TurboCTC jest zaprojektowany, by działać na laptopie, telefonie lub pojedynczym H200 przetwarzającym archiwum podcastów. Ming-3.0-asr-tiny wymaga GPU CUDA, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 oraz ustawienia trust_remote_code=True, a także osobnego adaptera SGLang przypiętego do konkretnego commita, jeśli chcesz go serwować. Jedno z tych rozwiązań to lista zależności, którą można umieścić w produkcie.

Zdolność, z której Granite zrezygnował, aby tam dotrzeć

Konstrukcja oparta wyłącznie na enkoderze zapewnia szybkość i korzyść rozmiarową, a IBM otwarcie mówi o koszcie. W swoim blogu stwierdza, że modele 5.0 rezygnują z możliwości, które miały wersje wyposażone w LM, wymieniając tłumaczenie mowy i biasowanie słów kluczowych. Ta druga kwestia jest interesująca, ponieważ biasowanie słów kluczowych to dokładnie to, co Ming nazywa Context ASR i traktuje jako swoją sztandarową funkcję.

Ming przyjmuje listę słów kluczowych lub poprzednią turę dialogu jako część podpowiedzi do transkrypcji, a przykład samego dostawcy jest pouczający: klip audio, w którym tytuł filmu 同囚 wychodzi jako 同球 na zwykłej ścieżce i poprawnie, gdy poda się temat oraz listę słów kluczowych. Karta starannie zaznacza, że słowa kluczowe są wskazówkami, a nie gwarancjami, co jest uczciwym ujęciem — stronniczość przesuwa prawdopodobieństwo, nie wymusza wyniku.

Granite Speech 5.0 470M TurboCTC nie ma odpowiednika. Nie ma promptu, pola kontekstu ani listy nazw do podania, ponieważ nie ma modelu językowego, który można by uwarunkować. Jeśli Twój materiał audio jest pełen nazw produktów, nazw leków lub nazwisk z bazy danych klientów, model ma dokładnie jedno narzędzie: to, czego nauczył się podczas treningu. Odpowiedzią IBM na tę klasę problemów jest notebook do dostrajania na własnych danych, co stanowi inny proces pracy o innym koszcie.

Zakres językowy przedstawia się podobnie. Granite to angielski — zadeklarowany jako jedyny obsługiwany język — wytrenowany na około 60 000 godzinach angielskiego audio w ciągu dziesięciu dni na ośmiu H100. Ming to chiński i angielski, z piętnastoma testowymi zestawami regionalnych dialektów chińskich, w tym kantońskiego, minnańskiego i szanghajskiego, oraz średnią dialektową 8,42, która według jego własnych wykresów wyprzedza każdy wymieniony przez niego otwarty baseline.

Wybór między nimi

Jeśli Twoje audio jest w języku angielskim, a Twoim problemem jest wolumen — nagrania rozmów, archiwa, transkrypcje spotkań, cokolwiek, gdzie koszt za godzinę przewyższa ostatni punkt dokładności — Granite Speech 5.0 470M TurboCTC jest rozsądniejszym punktem wyjścia, a fakt, że działa skwantyzowany przez natywne środowisko uruchomieniowe C++ bez Pythona, jest zaletą wdrożeniową, której nie zrównoważy żaden zakres pokrycia chińskich dialektów.

Jeśli Twoje nagranie jest w języku mandaryńskim lub w dialekcie regionalnym albo jeśli problem z dokładnością dotyczy nazw własnych, które można wymienić z góry, Ming-3.0-asr-tiny jest jedynym z dwóch, który to rozwiązuje — i robi to za pomocą architektury zaprojektowanej specjalnie do tego, a nie doklejonego fine-tuningu. Ma też zaledwie pięć dni i 35 pobrań, co oznacza, że znalazłbyś się wśród pierwszych osób, które odkryją, jak on zawodzi.

Jest jeszcze trzeci przypadek, który warto wymienić: chcesz obu rozwiązań i chcesz wiedzieć, które wygrywa w Twoim własnym ruchu. To właśnie problem routingu, do rozwiązania którego stworzono OrcaRouter. Żaden z tych modeli nie jest tam hostowany — Ming-3.0-asr-tiny i Granite Speech 5.0 470M TurboCTC to modele z otwartymi wagami hostowane samodzielnie — ale ten sam endpoint, który obsługuje Twoje hostowane modele, może obsługiwać kandydacką ścieżkę ASR, z automatycznym przełączaniem awaryjnym, dzięki czemu nieudane żądanie jest przekierowywane z powrotem do obecnie używanego modelu zamiast trafiać do użytkownika, oraz jeden klucz obejmujący ponad 200 modeli, dzięki czemu porównanie nie wymaga drugiej umowy.

Czego nie pokazał ci żaden z dwóch dostawców

Żaden z modeli nie został oceniony przez nikogo niezależnego. Dane Granite'a znajdują się przynajmniej na publicznym leaderboardzie, do którego zgłaszają się także inne zespoły, co oznacza, że można się z nimi spierać; dane Minga znajdują się w czterech plikach PNG, które były jeszcze edytowane w popołudnie dnia ich publikacji. Żadna z kart nie dokumentuje znaczników czasu na poziomie słów ani diaryzacji mówców, więc każdy pipeline wymagający pomiaru czasu jest poza zakresem obu — karta Granite'a opisuje zwykły wynik transkrypcji, a notatki użytkowe Minga mówią wprost, że wynikiem jest tekst transkrypcji bez znaczników czasu na poziomie słów i diaryzacji.

Porównania, które faktycznie rozstrzygnęłoby tę kwestię, nie może przeprowadzić żaden z dostawców. Potrzebuje ono jednego korpusu, jednej pary językowej, jednego skryptu oceniającego i obu modeli na tej samej GPU. Dopóki ktoś tego nie opublikuje, jedynym możliwym do obrony stwierdzeniem jest to, które już wynika z samych architektur: dziewiętnastokrotnie większy autoregresyjny model mieszaniny ekspertów nie konkuruje pod względem przepustowości z modelem CTC opartym wyłącznie na enkoderze, a modelowi CTC opartemu wyłącznie na enkoderze nie można przekazać, jakich słów się spodziewać.