Nemotron 3.5 Transcribe zastępuje potok złożony z pięciu modeli. Otwarta wersja wciąż ma luki.

Czterdziestopięciominutowa rozmowa zarządu z sześcioma mówcami wymagała kiedyś pięciu odrębnych elementów: detekcji aktywności głosowej, modelu ASR, diaryzatora, alignera wymuszonego i modelu językowego, który porządkuje surowy wynik w coś, co człowiek byłby w stanie przeczytać. NVIDIA Nemotron 3.5 Transcribe, wydany 28 października 2026 roku na licencji OpenMDW-1.1, jest próbą NVIDII, by scalić ten stos w jeden pojedynczy przebieg w przód. To, co sprawia, że to wydanie jest warte drugiego przeczytania, to nie samo scalenie. To lista rzeczy, których ścieżka serwowania open source jeszcze nie wykonuje.

Ten checkpoint to model językowy rozszerzony o mowę, a nie model ASR z doklejonymi na siłę dodatkami.Nemotron 3.5 Lightning 30B-A3B: hybrydowy szkielet Mamba–Transformer typu mixture-of-experts; około 4,3 miliarda jest aktywnych na token, w tym około 800 milionów w enkoderze audio. W nazwie repozytorium nadal widnieje 30B-A4B, co obejmuje dekoder, a nie cały złożony system. Własna macierz wsparcia NVIDIA, tabele benchmarków i licencja — wszystko to znajduje się na karcie modelu, a ta karta jest najbardziej użytecznym dokumentem w tym wydaniu.

Pięć zadań, jeden punkt kontrolny

Istotą propozycji jest to, że to prompt wybiera transkrypcję. NVIDIA wytrenowała pięć stylów wyjściowych w tych samych wagach, a wywołujący wybiera jeden za pomocą instrukcji w języku naturalnym, zamiast osobnego modelu lub skryptu przetwarzania końcowego:

• Dosłownie — zachowane niepłynności, fałszywe starty i powtórzenia, na potrzeby dokumentacji prawnej i zgodnościowej.

• Forma pisemna — uporządkowana interpunkcja i wielkość liter, do napisów i czytelnych protokołów.

• Kontekstowy — lista encji dostarczona w prompcie steruje pisownią nazw, produktów i żargonu.

• Z przypisaniem mówiącego — każdy segment zawiera znacznik mówiącego, generowany w ramach przebiegu ASR.

• Rich — styl kitchen-sink, który łączy etykiety mówców, interpunkcję, wielkość liter i formatowanie.

Poza transkrypcją ten sam checkpoint wykonuje tłumaczenie mowy w obu kierunkach między angielskim a 31 językami, identyfikację języka mówionego oraz rozumienie dźwięku — odpowiadanie na pytania i wykonywanie poleceń głosowych dotyczących nagrania. Obsługuje nagrania do jednej godziny w kontekście 65 536 tokenów, używając 30-sekundowych wewnętrznych fragmentów dekodowania, które są szczegółem technicznym, a nie limitem nagrania. Znaczniki czasu słów pochodzą z lekkiego adaptera CTC po dekodowaniu.

Skąd tak naprawdę pochodzą etykiety mówców

Większość twierdzeń „jeden model robi wszystko” załamuje się na diarizacji, ponieważ tożsamość mówcy jest problemem klastrowania, a transkrypcja problemem sekwencji, i zazwyczaj rozwiązuje się je osobno. Odpowiedzią NVIDIA jest równoległy enkoder ekspertowy: zamrożony model Nemotron 3 Diarization generuje reprezentacje aktywności mówców, które są wstrzykiwane do wyjścia enkodera mowy, dzięki czemu szkielet językowy widzi, kto mówi, gdy decyduje, co zostało powiedziane. Sam LLM nie jest dostrajany do tego zadania.

To właśnie ta konstrukcja sprawia, że firma może twierdzić, iż stosuje pojedyncze przejście zamiast kaskady. NVIDIA podaje średni połączony minimalny permutacyjny współczynnik błędów słów wynoszący 15,80 w swoim wielomówcowym zestawie ewaluacyjnym, wobec 16,83 dla najlepszej wyspecjalizowanej kaskady ASR plus diaryzator, i określa ten wynik jako pierwszy LLM mowy, który pokonał tego typu system w transkrypcji z atrybucją mówcy przy nakładającej się mowie. Są to liczby dostawcy pochodzące z zestawu ewaluacyjnego zbudowanego przez dostawcę, a żadne neutralne laboratorium nie odtworzyło ich dotąd. Traktuj kierunek jako prawdopodobny, a margines jako wstępny.

Liczby z dołączonymi etykietami

Karta NVIDIA podaje średni współczynnik błędów słów wynoszący 4,71% w dziewięciu publicznych angielskich zestawach testowych Open ASR Leaderboard. Rozrzut kryjący się za tą średnią jest duży i warto go znać, zanim się ją przytoczy: LibriSpeech test-clean ma 1,09%, a SPGISpeech 1,91%, podczas gdy AMI osiąga 7,81%, a URGENT24 11,00%. Ranking wielojęzyczny osiąga średnio 4,62% w siedmiu językach, przy czym niemiecki ma 2,81%, a hindi 9,15% we własnej metryce słów spoza słownika.

Doniesienia prasowe o premierze podawały również 5,33% dla angielskiej planszy. To inna agregacja na innym składzie zestawu, a nie korekta — i tych dwóch wartości nigdy nie należy umieszczać w tym samym wierszu. Jeśli cytujesz kartę, to właśnie 4,71% z karty jest liczbą, którą należy podać.

Twierdzenie o podpowiadaniu kontekstowym jest najbardziej konkretnym elementem komunikatu. W ContextASR-Bench ogólny WER spada z 3,33% bez listy encji do 1,71% z listą szczegółową; WER dla nazwanych encji spada z 12,21% do 2,20%, a odsetek fałszywych negatywów dla nazwanych encji z 14,99% do 1,32%. To realny, weryfikowalny mechanizm — przekaż modelowi nazwy produktów, a przestanie je zgadywać — nawet jeśli bezwzględne wyniki pochodzą z harnessu NVIDIA.

Niezależny obraz jest mniej pochlebny, ale bardziej użyteczny. Artificial Analysis umieszcza Nemotron 3.5 Transcribe z wynikiem 3,4% w swojej tabeli AA-WER v2 dla trybu nieprzestrumieniowego, ex aequo na miejscach około 20–23, podczas gdy w jego własnym FAQ model opisano jako 2,8%. Obie liczby dotyczą tego samego rankingu na tej samej stronie. Różnica wynika z odmiennego celu pomiaru — endpointu, kwantyzacji lub wycinka ewaluacyjnego — i jest w przybliżeniu równa szerokości szumu, jaki ten indeks wykazywał w różnych konfiguracjach serwingu. W chwili pisania ranking podaje również cenę hostowaną wynoszącą 2,00 USD za 1000 minut audio, co daje około 0,12 USD za godzinę.

Deklaracja dotycząca przepustowości to ta, która będzie interesować zespoły operacyjne: 2 238 sekund audio przetwarzanych na sekundę na pojedynczym GPU RTX PRO 6000 Blackwell, z wykorzystaniem checkpointu NVFP4 i modelu draft DFlash2. Sama NVIDIA zastrzega, że zoptymalizowany stos obsługi nie jest częścią wydania open source, a dostarczana integracja deweloperska ma działać około dwa razy wolniej. Zanim zaplanujesz moce, zmniejsz tę liczbę o połowę.

Gdzie kończy się otwarty build

To jest ta część, którą relacje z premiery pomijają. Checkpoint ma duże możliwości; integracje wokół niego są nierówne, a karta modelu mówi o tym wprost.

• Brak strumieniowania — „To jest model offline” — stwierdza karta i dodaje, że wewnętrzne dzielenie audio na fragmenty nie czyni go usługą strumieniowania w czasie rzeczywistym. Każda sekunda nagrania musi istnieć, zanim rozpocznie się dekodowanie.

• Integracja SGLang-Omni służy wyłącznie do transkrypcji — obsługuje transkrypcję całego pliku, ale zgodnie z kartą nie obejmuje znaczników czasu słów, danych wyjściowych z przypisaniem mówcy, tłumaczenia ani dekodowania spekulacyjnego. Ścieżka vLLM obsługuje przechwytywanie znaczników czasu. To, które środowisko uruchomieniowe wybierzesz, decyduje o tym, jakie funkcje otrzymasz.

• Znaczniki czasu i DFlash2 wzajemnie się wykluczają — znaczniki czasu są niedostępne, gdy używany jest model wstępny do dekodowania spekulacyjnego. Szybkie lub wyrównane, nie oba jednocześnie, w konfiguracji dostarczanej.

• Rozumienie audio działa wyłącznie w języku angielskim — rozumowanie, wykonywanie poleceń głosowych i odpowiadanie na pytania dotyczące audio „może nie działać niezawodnie w innych językach” — ostrzega karta, mimo że transkrypcja obejmuje 40 języków.

Może się nie zatrzymać — karta zaleca zabezpieczenie porządkowe, ponieważ model może czasami zapętlić się bez zakończenia. To wymóg operacyjny, a nie przypis.

• Jedna godzina to twardy praktyczny limit — nie ma gwarancji, że wydajność uogólni się poza 65 536 tokenów lub poza nagranie trwające godzinę. W przypadku całodniowego przesłuchania dzielisz plik i samodzielnie uzgadniasz mówców.

Atrybucja mówców jest również węższa, niż sugeruje nagłówek o 40 językach: 13 z 40 języków oznaczono jako obsługujące wyjście wielomówcowe w matrycy NVIDIA, a mieszanki treningowe obejmują maksymalnie ośmiu mówców. Jeśli Twoje spotkanie jest w języku tureckim lub wietnamskim, możesz je dobrze transkrybować, ale nadal nie otrzymasz etykiet.

Wdrożenie i ile to kosztuje

Wagi są dostępne bezpłatnie do użytku komercyjnego i niekomercyjnego na licencji OpenMDW-1.1, opublikowane w formatach BF16, FP8, NVFP4 i GGUF, z konfiguracją referencyjną na jednym H100 80 GB oraz wsparciem dla układów Ampere, Hopper, Blackwell i Lovelace. Dostępny jest także kontener NIM dla zespołów, które wolą nie składać stosu serwowania samodzielnie, oraz NeMo Speech do dostrajania — NVIDIA donosi, że adaptacja modelu do 17 zadań zajmuje od 0,5 do 2,3 GPU-godziny na zadanie na jednym GPU, co jest liczbą, która sprawia, że adaptacja do danej dziedziny staje się realna, a nie teoretyczna.

Ekonomia rozkłada się klarownie. W modelu hostowanym stawka 2,00 USD za 1000 minut w Artificial Analysis odpowiada etwa 0,12 USD za godzinę audio — taniej niż w przypadku większości zarządzanych usług transkrypcji i około jednej trzeciej typowego rachunku za STT w chmurze. W modelu self-hosted koszt krańcowy to czas GPU: przy przepustowości 2238:1 podanej przez dostawcę tysiąc godzin audio to niecałe pół godziny obliczeń na odpowiedniej karcie, więc pytanie przestaje dotyczyć ceny i staje się pytaniem, czy posiadasz sprzęt, czy go dzierżawisz, oraz czy audio może opuścić twoją sieć. Obie ścieżki są uzasadnione; na arkuszu kalkulacyjnym wcale nie są blisko siebie.

Połowa zadania, której punkt kontrolny nie wykonuje

Transkrypcja daje tekst, a to właśnie na tekście skupia się większość późniejszych kosztów: streszczanie rozmowy, wyodrębnianie zadań do wykonania, anonimizowanie danych osobowych, tłumaczenie angielskiego wyniku dla biura regionalnego i sprawdzanie, czy etykiety mówców przetrwały przekazanie. To zwyczajne zadania modeli tekstowych i nie muszą być uruchamiane na tej samej maszynie co ASR.

I tu właśnie router udowadnia swoją wartość. OrcaRouter stawia te dalsze wywołania za jednym kluczem z 0% narzutu — cena cennikowa dostawcy przekazywana w całości, więc zmiana ceny przez dostawcę trafia tego samego dnia — z automatycznym przełączaniem awaryjnym, gdy jeden dostawca zacznie działać gorzej, oraz DSL routingu, który potrafi kierować streszczanie, redakcję i tłumaczenie do różnych modeli w obrębie jednego przepływu pracy. Mówiąc wprost: NVIDIA Nemotron 3.5 Transcribe nie znajduje się w katalogu OrcaRouter i nic tutaj nie sugeruje inaczej. Routujemy warstwę tekstową po powstaniu transkrypcji — warstwę, którą większość zespołów bagatelizuje, planując budżet na potok transkrypcji.

Jeśli oceniasz sam model, uczciwą drogą jest najpierw hostowany endpoint, a dopiero potem własny sprzęt. Liczby podawane przez samą kartę różnią się o ponad punkt między pomiarami dostawcy a niezależnymi pomiarami, a jedynym audio, które to rozstrzyga, jest Twoje.

Co zmieniłoby rekomendację

Warto obserwować trzy rzeczy w nadchodzącym kwartale. Po pierwsze, czy stos serwowania open source dogoni zoptymalizowaną ścieżkę NIM — dopóki to nie nastąpi, deklarowana przepustowość jest liczbą dotyczącą wyłącznie wersji hostowanej, a wydanie otwarte osiąga około połowę tej wartości. Po drugie, czy ktokolwiek poza NVIDIA odtworzy wynik 15,80 cpWER oraz sześciokrotną poprawę w rozpoznawaniu nazwanych encji; oba te twierdzenia są mocne i obecnie opierają się wyłącznie na stanowisku testowym jednego laboratorium. Po trzecie, czy rozumienie audio rozszerzy się poza język angielski, ponieważ ta zdolność — zadawanie pytań o nagranie, a nie tylko jego transkrybowanie — jest tym, czego żaden konkurencyjny otwarty checkpoint nie oferuje w tej skali.

Na razie praktyczny werdykt jest wąski i pozbawiony blasku. Jeśli potrzebujesz godzinnej, wielojęzycznej transkrypcji z oznaczeniem mówców i możesz zaakceptować przepływ pracy w trybie wsadowym, ten checkpoint jest najsilniejszą dostępną otwartą opcją, a mechanizm podpowiadania kontekstowego naprawdę się wyróżnia. Jeśli potrzebujesz napisów na żywo, agenta strumieniowego lub dopasowania na poziomie słów wraz z najszybszym możliwym dekodowaniem, to wydanie jeszcze cię nie obejmuje, a produkty, które to potrafią, wciąż są tymi, po które trzeba sięgnąć.