Ming-3.0-audio-tiny działa teraz na jednym GPU — a jego konfiguracja w końcu mówi 128K

Checkpoint, który stoi za Ming-3.0-audio-tiny jest dostępny do pobrania od 3 września 2026 r. — dwa shardy safetensors, 17,7 GB, wypchnięte dziewięć minut po utworzeniu samego repozytorium. Do tego tygodnia prawie wszystko, co mówi, jak go uruchomić, nie istniało. W dniach 16–19 października 2026 r. inclusionAI zastąpiło konfigurację dostarczoną we wrześniu, zamieniając wariant wideo-językowo-audio z oknem 8 192 tokenów na wariant wyłącznie audio z deklarowanym oknem 131 072 tokenów, dodało Talker generujący mowę, dodało dwa referencyjne klipy głosowe wraz z ich transkrypcjami, a — po trzech dniach, w których repozytorium nie miało w ogóle karty modelu — napisało ją. Kod, na który wskazują te dokumenty, trafił na GitHub 15 października, do repozytorium nazwanego na cześć większego bliźniaka, Ming-3.0-audio-flash, i zawiera trzy profile wdrożeniowe dla modelu tiny, których ten model nigdy nie miał. Nikt tego nie zapowiedział. Pytanie, na które warto odpowiedzieć, nie dotyczy więc tego, co nowe, ponieważ wagi mają siedem tygodni i są identyczne co do bajtu z tymi z dnia, w którym się pojawiły. Dotyczy tego, co czytelnik może teraz uruchomić, czego nie mógł uruchomić w zeszły poniedziałek, i ile kosztuje to pod względem dokładności, gdy to zrobi. Udokumentowane awarie AI i incydenty z agentami, które stoją za takimi wydaniami jak to, są gromadzone w OrcaRouter AI Incident Archive, gdzie każdy wpis ma własne źródła, stopień ważności, ocenę pewności i flagę sporu.

Co się zmieniło, z datą według commita

Log commitów Hugging Face jest na tyle krótki, że można go przeczytać w całości, a jego układ jest nietypowy: trzy commity we wrześniu, nic przez trzy tygodnie, potem sześć w ciągu czterech dni.

• 3 września, 11:45 i 11:49 UTC — repozytorium zostaje utworzone, a następnie dwa shardy trafiają pod etykietą „Add files using upload-large-folder tool”. Dołączony do nich README ma tytuł „Ming Audio V3”, deklaruje Apache 2.0, oznacza repozytorium tagiem automatic-speech-recognition, i mówi, że repozytorium „obecnie dokumentuje ścieżkę ASR”.

• 17 września — folder examples/ zostaje usunięty. Po tym repozytorium to wagi, własny kod modelowania i krótka karta — i nic więcej.

• 16 października, 08:14–08:20 UTC — ten, który miał konsekwencje. config.json zostaje przepisany: max_position_embeddings w szkielecie tekstowym wzrasta z 8192 do 131072, transformers_version z 4.56.2 na 5.14.1, a audio_config.model_type z bailing_moe_v3_vl_audio na bailing_moe_v3_audio — typ wideo-językowo-audio, który już nie opisuje modelu. W tym samym pushu auto_map zyskuje AutoModel i AutoProcessor, których wcześniej nie miał, a processor_config.json pojawia się, a drzewo talker/ przybywa: model mowy o rozmiarze 1,4 GB, VAE o rozmiarze 1,6 GB, enkoder mówcy CAM++, transduktory skończenie stanowe do normalizacji tekstu dla angielskiego i chińskiego. Stary README znika w tym samym pushu — przez następne trzy dni repozytorium nie ma w ogóle karty modelu.

• 17 października, 11:44 UTC — „Dodaj presety głosowe”. Dwa referencyjne pliki WAV, US_James.wav i 灵楷.wav, oraz plik JSON zawierający ich dokładne transkrypcje.

• 19 października, 10:36, 11:44 i 11:49 UTC — trzy commity porządkowe i wysyłkowe.

• 19 października, 13:19 UTC — „Dodaj kartę modelu Ming-3.0-audio-tiny”. 8 514 bajtów i pierwszy dokument w historii repozytorium, który opisuje model mowy i dźwięku, a nie ścieżkę ASR.

Po stronie GitHuba obowiązuje własna os czasu, która zaczyna się później. inclusionAI/Ming-3.0-audio-flash został utworzony 15 października o 03:50 UTC — sześć tygodni po tym, jak wagi już istniały — a 19 października o 14:53 UTC nadal wypychano do niego zmiany. Ma osiem gwiazdek, plik licencji MIT oraz katalog deploy/ zawierający sześć profili YAML, z których trzy wymieniają z nazwy malutki checkpoint. Nie ma repozytorium inclusionAI/Ming-3.0-audio-tiny; ten URL zwraca 404, a kod malutkiego modelu znajduje się w repozytorium flash obok kodu bliźniaczego modelu.

Przepisanie konfiguracji to prawdziwa historia

Pole długości kontekstu rosnące 16× to zmiana, która jest albo kosmetyczna, albo strukturalna — a w tym przypadku reszta diffa mówi, że strukturalna. We wrześniu repozytorium dostarczyło w drzewie modeling_bailing_moe_v3_audio.py oraz processing_bailing_moe_v3_audio.py, ale jego konfiguracja opisywała wieżę audio typu bailing_moe_v3_vl_audio — pozostałość po buildzie wideo-językowym — a jego karta zalecała instancjonowanie modelu z trust_remote_code=False, co nie jest tym, czego chcą niestandardowe pliki modelowania. Październikowa konfiguracja jest pierwszą, w której zadeklarowany typ, zadeklarowane środowisko uruchomieniowe i ścieżka kodu są zgodne.

• Backbone — 24 warstwy, rozmiar ukryty 1,536, 16 głowic uwagi, 128 ekspertów routowanych z 8 aktywnymi na token i jednym ekspertem współdzielonym, pośredni rozmiar eksperta 512, pierwsza warstwa gęsta pod indeksem 1, współczynnik skalowania routingu 2.5, słownik 157,184.

• Mechanizm uwagi — MLA, z 512-wymiarowym latentem KV i 256-wymiarowym latentem zapytania, rope_theta 6 000 000, partial_rotary_factor 0,5. Niskorzędowa postać KV jest powodem, dla którego okno 131 072 tokenów jest w ogóle wykonalne na jednej karcie: pamięć podręczna przechowuje latent, a nie klucze i wartości poszczególnych głów.

• Wieża audio — 32 warstwy, szerokość 1 280, 20 głowic, kontekst 3 000 klatek i 128 pasm mel, z downsamplerem o jądrze [3,3,3] i kroku [2,2,2]. Identyfikator tokenu audio: 157 168.

• Rozmiar — łącznie 9,3 mld parametrów, 2,7 mld aktywowanych na token, bfloat16 w całym modelu, zadeklarowano względem Transformers 5.14.1.

• Wejścia i wyjścia — dźwięk plus instrukcja tekstowa na wejściu; tekst na wyjściu albo tekst plus mowa syntezowana przez opcjonalny Talker. Chiński i angielski, w tym akcenty i dialekty, zgodnie z kartą.

Przepisanie konfiguracji nie dodaje żadnych wag. Cztery pliki safetensors w repozytorium — dwa shardy Thinker, Talker i VAE — mają te same rozmiary w każdej sprawdzonej przeze mnie wersji, aż do początkowego przesłania. Była to zmiana dokumentacji i pakowania niezmienionego checkpointu, i właśnie dlatego skok z 8 192 do 131 072 jest wiarygodny: nikt niczego nie trenował od nowa, więc twierdzenie można sprawdzić, ładując model i prosząc o długi kontekst, zamiast przyjmować je na wiarę.

Jeden element dokumentacji wciąż jest niespójny. Tag pipeline najwyższego poziomu repozytorium w Hugging Face ma wartość text-to-speech, podczas gdy podsumowanie samej karty nazywa go modelem audio-językowym, który przyjmuje instrukcje i zwraca tekst lub mowę. Tag to pozostałość po tym, że Talker był ostatnio modyfikowaną możliwością, i jest to coś, co nie ma znaczenia dla nikogo poza osobą filtrującą Hub według zadania.

Jedno GPU do tekstu, dwa do mowy

To tutaj mały model zasługuje na swoją nazwę i widać to tylko dlatego, że profile wdrożeniowe są teraz publiczne. Profil tekstowy modelu flash działa na devices: "0,1,2,3,4,5,6,7" z tensor_parallel_size: 8 — osiem kart po 80 GB, czego wymaga 256 GB wag bf16, zanim zostanie przydzielona jakakolwiek pamięć podręczna. Mały model ma trzy własne profile, a dwa z nich wymagają jednej karty.

• Tekst i ASR, vLLM-Omni — pojedynczy etap na urządzeniach: „0”, rozmiar równoległości tensorowej 1, max_model_len 131 072, max_num_batched_tokens 32 768, gpu_memory_utilization 0,92, próbkowanie przy temperaturze 0,6 i do 65 536 tokenów wyjściowych.

• Pełne audio z wyjściem mowy — dwa etapy. Thinker na urządzeniach: „0” przy 0,78 karty, a Talker na urządzeniach: „1” przy 0,18, przy czym etap Talker jest ograniczony do jednego tokenu wyjściowego i temperatury 0,0, ponieważ nie generuje tekstu.

• Odtworzenie ASR — potok wyłącznie z thinkerem z dołączonym procesorem logitów 10-gram no-repeat, dźwięk ograniczony do jednego klipu na prompt, max_model_len 131 072, temperatura 0.0, 32 768 tokenów wyjściowych. To konfiguracja, w której uzyskano liczby rozpoznawania dostawcy, i warto ją skopiować dokładnie, jeśli zamierzasz porównywać.

• SGLang — jeden GPU, jedno widoczne urządzenie, tylko wyjście tekstowe. Karta wyraźnie wskazuje, że na tej ścieżce wyjście mowy nie jest dostępne.

Te profile to pliki, a nie proza, i są widoczne w repozytorium flash w katalogu deploy/ — sześć profili YAML, z których trzy nazwano od tego malutkiego checkpointu.

Spójrz uczciwie na liczby dotyczące pamięci. 0,92 to udział w dowolnej karcie, na którą skierujesz ten etap, a nie wymóg: shardy Thinkera sumują się do 17,74 GB, więc wagi mieszczą się na karcie 24 GB, zostawiając około 6 GB na cache i aktywacje. Rezerwacja 0,92 jest wymiarowana na okno 131 072 tokenów plus jednoczesną partię 32 768 tokenów, i maleje, jeśli obniżysz max_model_len. Tego, czego nie możesz zrobić na jednej karcie, to generować mowę, ponieważ Talker i jego VAE to drugi proces z drugim zestawem wag — 3 GB przed enkoderem CAM++ i transduktorami — a profil referencyjny przydziela im własne urządzenie. Tekst na jednym GPU, rozmowa na głos na dwóch: to uczciwa arytmetyka, a to inna pozycja budżetowa niż ósemka u modelu siostrzanego.

Co właściwie zawiera plik do pobrania

Repozytorium zajmuje łącznie 20,78 GB. Thinker ma 17,74 GB i jest podzielony na dwa shardy: 9,55 GB i 8,19 GB; Talker dodaje 1,40 GB, jego VAE — 1,56 GB, enkoder mówcy — 28 MB, a pliki tokenizera i normalizatora stanowią resztę. Dostawca nie publikuje żadnego wariantu skwantyzowanego, mniejszego checkpointu ani konwersji GGUF, więc rozmiar w bf16 jest dolną granicą, chyba że samodzielnie go skwantyzujesz.

• Ładowanie — AutoProcessor.from_pretrained(..., trust_remote_code=True, use_fast=False) i AutoModelForCausalLM.from_pretrained(..., dtype=torch.bfloat16, device_map="auto", trust_remote_code=True). Fragment kodu z samej karty następnie ręcznie rzutuje audio_feats na typ danych modelu, co jest drobnym sygnałem, że ścieżka procesora nie była priorytetem.

• Kontrakt ASR — zwalidowany prompt prosi model o nazwanie języka mówionego i wstawienie tabulatora między etykietę języka a transkrypcję. Jeśli budujesz harness ewaluacyjny, tym parserem jest właśnie ten tabulator. Ogólna instrukcja „transkrybuj to” nie jest konfiguracją, którą zmierzył inclusionAI.

• Głosy — domyślnym głosem w vLLM-Omni jest wbudowany głos o nazwie 灵小柔, a katalog modelu zawiera dwa presety referencyjne, 灵楷 i US_James, wraz z transkrypcjami. Klonowanie głosu wymaga referencyjnego pliku WAV oraz jego dokładnej transkrypcji; karta ostrzega, że nie można połączyć wyboru wbudowanego głosu z klipem referencyjnym w jednym żądaniu.

• Licencja — MIT w metadanych karty oraz w repozytorium GitHub w pliku LICENSE, który jest datowany na 2025 r. Zwróć uwagę, czego brakuje: repozytorium Hugging Face nie zawiera własnego pliku LICENSE. Jedyny tekst licencji fizycznie w nim zawarty należy do dołączonego modelu identyfikacji języka w katalogu talker/data/. Twierdzenie o MIT jest prawdziwe, ale znajduje się o jedno kliknięcie dalej, w repozytorium nazwanym od drugiego modelu.

• Zainteresowanie — trzy pobrania i pięć polubień według stanu na ten tydzień. Model flash ma 22 pobrania i osiem polubień. Żadna z tych liczb nie jest dowodem na jakość; obie są dowodem, że wrześniowy upload bez karty i bez zapowiedzi nie rozniósł się.

Obraz wzorcowy i brakująca kolumna

Trzy pliki PNG w assets/ zawierają ocenę, a wszystkie trzy pochodzą z własnego przebiegu inclusionAI. Dostawca oznacza wpisy z samooceny gwiazdką i zauważa, że modele porównawcze odtworzono przy użyciu własnych promptów i ustawień dekodowania dostawcy, więc ich liczby mogą różnić się od oficjalnych raportów. Nie udało mi się znaleźć żadnej opublikowanej niezależnej oceny tego checkpointu — żadnego wpisu w arenie, żadnego wyniku od strony trzeciej — co oznacza, że każda poniższa liczba to dostawca opisujący własny model. To nie jest powód, by je ignorować; to powód, by czytać je jako brief projektowy, a nie werdykt.

Użyteczne porównanie jest znikome w zestawieniu z własnym modelem siostrzanym, ponieważ oba korzystały z tego samego środowiska testowego. W rozpoznawaniu mniejszy model ustępuje nieco, a w rozumowaniu na długich nagraniach audio ustępuje znacznie.

• Średnia dla chińskiego ASR — współczynnik błędów znaków 3,79 dla Ming-3.0-audio-tiny wobec 3,45 dla Ming-3.0-audio-flash. Niższy jest lepszy, więc tiny pozostaje o 0,34 punktu z tyłu.

• Średnia dla ASR w języku angielskim — 4,36 wobec 3,69. Średnia dla dialektu — 10,29 wobec 9,40.

• BigBenchAudio — 99,20 wobec 99,40. W zasadzie remis i jedyny wiersz, w którym różnica rozmiarów się nie ujawnia.

• MMAU — 75,90 wobec 82,00. MMAR — 67,70 wobec 74,40. MMSU — 73,06 wobec 78,82. MMAU-Pro — 56,42 wobec 66,41.

• Dokładność długiego audio — 56,39 wobec 66,30. LongAudioSpan — 35,45 wobec 41,12. Wynik Long-audio Chain — 10,56 wobec 12,31.

• Interakcja głosowa — URO-Bench-Pro 54,15 wobec 81,92, czyli spadek o 27,8 punktu. VoiceBench 74,29 wobec 86,74. SpeechFCEval 69,80 wobec 82,60.

• Wywoływanie narzędzi — BFCL-v3 Audio 79,80 w porównaniu z 81,40. Muzyka — MuchoMusic 58,07 w porównaniu z 65,65.

Wiersze dotyczące dialektów są interesującym wyjątkiem, ponieważ tiny nie przegrywa równomiernie. Przewyższa swojego większego odpowiednika w Anhui (5,42 wobec 5,76), w mandaryńskim północno-wschodnim (4,21 wobec 4,28), Jiangsu (11,44 wobec 12,15), Shaanxi (5,81 wobec 6,00), Shandong (10,17 wobec 10,69) i Yunnan (11,28 wobec 11,53), a wyraźnie przegrywa w przypadku Hakka (24,08 wobec 16,51), Hokkien (14,15 wobec 12,84) i dialektu szanghajskiego (12,49 wobec 11,15). Model z 2,7B aktywnych parametrów utrzymujący sześć z piętnastu wierszy dialektów wobec modelu z 6,5B aktywnych parametrów to najbardziej korzystne zjawisko w całej ocenie, a jest ono zakopane w środku tabeli, gdzie ukrywa je średnia.

Warto wskazać dwie luki, ponieważ można je zweryfikować, a karta modelu ich nie sygnalizuje. Po pierwsze, pięć wierszy na obrazie rozpoznawania nie zawiera żadnej wartości dla modelu tiny — wiersze dotyczące diaryzacji mówców i konkatenowanej minimalnej permutacji dla AISHELL-4, AliMeeting i AMI wydrukowano jako myślnik. To, jak model tiny radzi sobie z zadaniem „kto mówił, kiedy”, nie zostało opublikowane. Po drugie, obraz inteligencji tekstowej ma cztery kolumny i żadna z nich nie dotyczy modelu tiny: są to Ming-3.0-audio-flash, Qwen3.8-Omni Flash, Qwen3.5-Omni Plus i Qwen3.5-Omni Flash. W sekcji oceny karty modelu napisano, że poniższe liczby obejmują wyniki dla obu wariantów Ming, co jest prawdą w przypadku dwóch obrazów audio, ale nie w przypadku obrazu tekstowego. Jeśli chcesz wiedzieć, czy szkielet tiny potrafi prowadzić rozmowę z rozumowaniem, inclusionAI tego nie ujawniło.

Co ten tydzień tak naprawdę ci dał

Przed 16 października czytelnik, który chciał przetestować ten checkpoint, musiał pobrać 17,7 GB, miał konfigurację opisującą model wizyjno-językowy z oknem 8K oraz kartę instruującą wczytanie niestandardowego kodu bez włączania niestandardowego kodu. Po 19 października ma konfigurację zgodną z własnymi plikami definiującymi model, deklarację 128K, którą można przetestować na niezmienionych wagach, trzy nazwane profile wdrożeniowe, w tym jeden na pojedynczym GPU, pakiet głosowy z transkrypcjami oraz kartę, która mówi, do czego służy model. Nic z tego nie jest nowym modelem. Wszystko to jest różnicą między checkpointem na dysku a checkpointem, który ktoś może ocenić w ciągu popołudnia.

Koszt to ta część, którą ukrywa dobór rozmiaru. Według własnych tabel dostawcy przejście z modelu 6,5B-active na 2,7B-active daje ci jedną ósmą liczby GPU i kosztuje cię 27,8 punktu URO-Bench-Pro, dziesięć punktów VoiceBench i około jednej piątej wyniku Chain w długim audio. To rozsądny kompromis w przypadku usługi transkrypcji, zły w przypadku wszystkiego, co musi rozumować na przestrzeni godziny audio; a dostawca wydrukował obie kolumny obok siebie, żebyś mógł zdecydować, który wariant budujesz.

Gdzie router ma swoje miejsce, a gdzie nie

OrcaRouter nie obsługuje Ming-3.0-audio-tiny. Nie ma go w naszym katalogu, nie możemy podać dla niego endpointu i niczego tutaj nie należy odczytywać jako oferty jego udostępnienia. To, do czego router przydaje się w potoku zbudowanym wokół takiego checkpointu, to ta połowa, która nie jest checkpointem. Systemy mowy to w większości praca z tekstem: prompt, który decyduje, o co zapytać audio, parser, który zamienia etykietę języka rozdzieloną tabulatorami na ustrukturyzowane wyjście, podsumowanie pisane z transkrypcji, klasyfikacja decydująca, czy plik audio trafia do modelu 2.7B, czy do modelu 126B. To zwykłe wywołania tekstowe, a jedno API dla ponad 200 modeli z 0% narzutem — cena katalogowa dostawcy przekazywana bez zmian, więc obniżka ceny przez dostawcę obowiązuje u nas tego samego dnia — jest prostsze w podłączeniu niż stos umów z dostawcami. Automatyczne przełączanie awaryjne to właśnie pozwala umieścić nowo udokumentowany model w części potoku, bez stawiania na nim całej ścieżki.

Granicę warto wyrazić wprost. Checkpoint o rozmiarze 17,7 GB uruchamiany na własnym GPU to infrastruktura, a nie wywołanie API. Router kieruje wywołania. Nie zamienia modelu audio z otwartymi wagami w model hostowany ani nie zamienia trzech pobrań w dowód produkcyjny.

Co obejrzeć

Trzy rzeczy zmieniłyby ten obraz i wszystkie trzy można zweryfikować. Po pierwsze, niezależny wynik: gdy tylko arena lub zewnętrzny ewaluator umieści ten checkpoint na liście, 27,8-punktowa luka w interakcji głosowej przestaje być raportem własnym dostawcy i staje się punktem danych; do tego czasu warto zauważyć, że ten sam dostawca opublikował także sześć wierszy dialektowych, w których wygrywa mniejszy model. Po drugie, LICENSE — plik w repozytorium Hugging Face, który przeniósłby MIT z linku w karcie modelu do faktu w artefakcie, który proces zakupowy faktycznie czyta. Po trzecie, malutkie repozytorium GitHub dedykowane konkretnie małemu modelowi: dziś profile wdrożeniowe, dzięki którym twierdzenie o działaniu na jednym GPU jest prawdziwe, znajdują się w repozytorium nazwanym od większego modelu, co jest w porządku, dopóki ktoś nie zmieni jego nazwy.

Dopóki jedno z nich się nie pojawi, trafny opis jest pozbawiony blasku. Te same wagi co 3 września, około 18 GB Thinkera, okno 131 072 tokenów, które pojawiło się w konfiguracji, a nie w checkpoincie, trzy profile serwowania, które mieszczą się na jednej karcie dla tekstu i na dwóch dla mowy, MIT na papierze, pięć wierszy referencyjnych, których publikacji odmówiono, oraz karta modelu o trzy dni młodsza niż konfiguracja, którą opisuje. Tydzień nie uczynił modelu lepszym. Uczynił go czytelnym, a w przypadku checkpointu z otwartymi wagami, którego nikt nie ogłosił, czytelność to cały produkt.