Nemotron 3.5 Transcribe vs Whisper Large v3 Turbo: 40× większy rozmiar za jeden punkt WER

Jeśli Twoim zadaniem transkrypcyjnym jest folder z trzyminutowymi monofonicznymi nagraniami wywiadów, a maszyna, którą dysponujesz, to 24 GB karta do stacji roboczej, porównanie Nemotron 3.5 Transcribe i Whisper Large v3 Turbo jest rozstrzygnięte, zanim dokładność w ogóle wejdzie do gry. Nowy model NVIDIA to 34-miliardowy system mowy z parametrami, który walidowano na 80 GB akceleratorze. Wariant turbo OpenAI to model z 809 milionami parametrów, który mieści się w 0,8 GB wag int8 i działa na CPU. Porównuje się je w tym tygodniu, ponieważ ich wskaźniki błędów wypadły w odległości około jednego punktu od siebie, a to najmniej przydatny fakt dotyczący tego zestawienia.

Nemotron 3.5 Transcribe ukazał się 28.10.2026 r. jako otwarte wagi na licencji OpenMDW-1.1, która pozwala na użycie komercyjne. Whisper Large v3 Turbo pochodzi z 1.10.2024 r. i jest objęty licencją MIT; to nie nowość — to punkt odniesienia, względem którego mierzy się każdy nowy model mowy. Pytanie, na które odpowiada ten artykuł, nie brzmi, który model wypada lepiej w wynikach — obaj dostawcy chcieliby, żebyś czytał to właśnie w ten sposób — ale który z nich możesz faktycznie uruchomić, jakim kosztem, na posiadanym audio.

Czym tak naprawdę jest każdy model

Różnica architektoniczna nie jest luką pokoleniową. To różnica kategorii i wyjaśnia niemal każdy kompromis, który z niej wynika.

• Architektura — hybrydowy LLM Mamba–Transformer typu mixture-of-experts z dołączonym enkoderem mowy i zamrożonym enkoderem diarizacji o 99M parametrów, około 34B łącznie z 4,3B aktywnymi na token, w porównaniu z enkoderem–dekoderem destylowanym z large-v3, którego dekoder zredukowano z 32 warstw do 4.

• Okno audio — nagrania trwające do godziny są przetwarzane w jednym przebiegu, w przeciwieństwie do stałego okna 30 sekund z dekodowaniem długich nagrań we fragmentach w przypadku dłuższych materiałów.

• Etykiety mówców — wbudowane w dane wyjściowe, do 8 mówców, w 13 językach, w przeciwieństwie do braku jakichkolwiek; Whisper nie ma w swoim słowniku tokenu mówcy, więc osobny diaryzator jest obowiązkowy.

• Czasowanie na poziomie słów — lekki adapter CTC dopasowuje gotowy transkrypt do dźwięku, w odróżnieniu od wyłącznie segmentowych tokenów znaczników czasu, przy czym czasowanie słów wymaga wymuszonego wyrównania.

• Zasięg językowy — 40 języków transkrybowanych, 31 tłumaczonych na angielski lub z angielskiego, 13 z identyfikacją mówcy, w porównaniu z 99 językami transkrybowanymi i bez tłumaczenia.

• Wagi na dysku — około 68 GB w BF16 na licencji OpenMDW-1.1, w porównaniu z 1,6 GB przy fp16, 0,81 GB int8, na licencji MIT.

Liczby dotyczące dokładności się nie zgadzają — i o to właśnie chodzi.

Artificial Analysis prowadzi jedyny publiczny indeks, w którym oba modele pojawiają się w tej samej skali, a jego liczby warto czytać uważnie, ponieważ są ze sobą sprzeczne. W tabeli rankingowej Whisper Large v3 Turbo widnieje z 4,6% AA-WER na jednym punkcie końcowym szybkiego wnioskowania i 5,5% na drugim. Nemotron 3.5 Transcribe widnieje z 3,4% dla hostowanego punktu końcowego. Ogłoszenie NVIDIA samo podaje 2,80% AA-WER, ex aequo na pierwszym miejscu wśród modeli z otwartymi wagami, a część opisowa tego samego rankingu powtarza 2,8%, podczas gdy jego tabela podaje 3,4% — rozbieżność na jednej stronie, zanim ktokolwiek zacznie porównywać dostawców.

Jeśli przyjąć tabelę dosłownie, Nemotron 3.5 Transcribe jest o około 1,2 punktu lepszy. Teraz zwróć uwagę, że dwa wpisy Whisper Large v3 Turbo różnią się o 0,9 punktu w przypadku identycznego modelu. Większość pozornej różnicy między tymi dwoma systemami to konfiguracja punktów końcowych — przetwarzanie wsadowe, ustawienia dekodowania, wstępne przetwarzanie dźwięku — a nie architektura. Każdy, kto podaje pojedynczą różnicę WER jako werdykt, przytacza liczbę, która zmienia się o prawie tyle samo, gdy zmienisz hosty.

Open ASR Leaderboard opowiada historię, która brzmi jak coś większego. Średnia dla krótkich wypowiedzi w języku angielskim dla Whisper Large v3 Turbo wynosi tam około 7,8%, podczas gdy NVIDIA podaje 4,71% dla swojego modelu w dziewięciu zestawach testowych na stronie badawczej oraz 5,33% średniego WER dla języka angielskiego w towarzyszącym poście na Hugging Face. To różne mieszanki testowe z różną normalizacją, więc trzyprocentowa różnica jest w najlepszym razie kierunkowa. Ważniejsze jest to, czego nie ma: bezpośredniego porównania dostawcy z Whisper Large v3 Turbo. NVIDIA porównuje swój model z kaskadowymi systemami diaryzacji i innymi otwartymi modelami mowy, a nie z checkpointem turbo, którego używa dziś większość zespołów. Każda krążąca liczba „przewyższa Whisper” jest wnioskiem wyciągniętym między benchmarkami, w tym nasza.

Luka w możliwościach, której Whisper nie potrafi zasypać

Pomijając wyjście sterowane poleceniem, zasadnicza różnica polega na tym, że Nemotron 3.5 Transcribe tworzy transkrypcje z przypisanymi mówcami w jednym przebiegu. Znaczniki mówców pochodzą z zamrożonego kodera diaryzacji scalonego z cechami audio, odpowiedź zawiera surowe segmenty mówców obok oznaczonej transkrypcji, a model oznacza je jako <spk:0> do <spk:7>. W przypadku podcastu z dwiema osobami to udogodnienie. W przypadku 60-minutowej rozprawy dyscyplinarnej, wizyty u lekarza lub rozmowy sprzedażowej z wieloma uczestnikami to jest produkt.

Whisper Large v3 Turbo w ogóle nie potrafi odwzorować mówcy. Jego transkrypcje treningowe nigdy nie zawierały etykiet mówców, a jego wejście jest miksowane do mono 16 kHz, co niszczy jedyną fizyczną wskazówkę, która mogła przetrwać. Proszenie go o generowanie etykiet daje tekst, który wygląda dobrze, ale nie ma podstaw w audio. Standardowym obejściem jest WhisperX: wymuszone dopasowanie (forced alignment) do czasowania słów plus osobno hostowany model diarizacji, łączone na granicach segmentów. To działa, jest szeroko stosowane i składa się z trzech ruchomych elementów, podczas gdy Nemotron 3.5 Transcribe to jeden.

Ta sama przewaga strukturalna dotyczy długiego audio. Jedna godzina przetworzona w jednym przebiegu jest lepsza niż sklejanie 30-sekundowych okien, a sklejanie okien ma znany tryb awaryjny: dekodowanie bez tokenów znaczników czasu gubi słowa przy niemal każdej granicy — jedna zmierzona 20-minutowa prelekcja straciła w ten sposób około 3% swoich słów. Adapter CTC Nemotron 3.5 Transcribe istnieje właśnie po to, aby uniknąć tej klasy błędów, należy jednak zauważyć, że znaczniki czasu słów nie były częścią początkowej obsługi vLLM.

W zadaniach, do których powstał, liczby podawane przez NVIDIA są mocne i pochodzą od dostawcy: 18,26% DER w 21 językach w benchmarku diaryzacji David AI, określonym jako najlepszy spośród 14 systemów; 32,4% cpWER w VoiceArena, również najlepszy wynik spośród 14. Kontekstowym listom encji, dostarczanym w prompcie, przypisuje się sześciokrotne zmniejszenie liczby błędów w nazwanych encjach w ContextASR-Bench. Nic z tego nie doczekało się jeszcze niezależnej replikacji, a wszystko to są twierdzenia o modelu, który ma zaledwie jeden dzień.

Gdzie Whisper Large v3 Turbo wciąż wygrywa bezapelacyjnie

Zakres językowy to pierwsza odpowiedź — i jest mniej nudny, niż brzmi. Whisper Large v3 Turbo obejmuje 99 języków. Nemotron 3.5 Transcribe obejmuje 40 języków w przypadku transkrypcji, 31 w przypadku tłumaczenia i 13 w przypadku atrybucji mówcy. Jeśli w Twojej kolejce znajdują się kazachski, tamilski, suahili lub walijski, porównanie kończy się w tym miejscu: model turbo je transkrybuje, a nowszy, większy model nie twierdzi, że to potrafi.

Drugą odpowiedzią jest tarcie wdrożeniowe. Whisper Large v3 Turbo działa pod whisper.cpp, faster-whisper i MLX, na CPU, na laptopie, na urządzeniu Jetson. Nemotron 3.5 Transcribe wymaga vLLM 0.32.0 oraz wtyczki NeMo Speech lub SGLang-Omni 0.2.0, na karcie H100 80 GB w BF16, L40S w FP8 lub RTX 5090 w NVFP4. To nie są porównywalne zobowiązania operacyjne.

Po trzecie, cena turbo jest opublikowaną, nudną stawką godzinową. Hostowane punkty końcowe rozliczają około 0,04 USD za godzinę audio, z minimum dziesięciu sekund, a działa z prędkością około 250× czasu rzeczywistego na szybkim punkcie końcowym. Tysiąc godzin audio kosztuje około 40 USD. Nemotron 3.5 Transcribe nie ma ujawnionej ceny cennikowej dla pełnego checkpointu, a hostowane punkty końcowe, które go oferują, nie publikują stawek za minutę.

Sprawdź, który Nemotron 3.5 testujesz

Najczęstszym błędem w materiałach z tego tygodnia jest porównywanie niewłaściwego modelu. Duża część opublikowanych {{2}}porównań „Nemotron 3.5”{{/2}} w rzeczywistości ocenia {{3}}nvidia/nemotron-3.5-asr-streaming-0.6b{{/3}} — {{4}}model strumieniowy 0,6B z obsługą pamięci podręcznej z wcześniejszego wydania, mający własne wyniki i własne słabości.{{/4}} Jeśli tabela wspomina o {{5}}fragmentach od 80 ms do 1120 ms{{/5}}, to nie testuje {{6}}Nemotron 3.5 Transcribe{{/6}}. Ma to znaczenie, ponieważ model strumieniowy przegrywa z {{7}}Whisper Large v3 Turbo{{/7}} pod względem surowej dokładności w rzeczywistych porównaniach ({{8}}3,35% wobec 2,55% na jednej wielojęzycznej liście rankingowej{{/8}}) i mocno przegrywa w zakresie dopasowywania słów, podczas gdy omawiany tutaj model to {{9}}inny, niestrumieniowy system 34B{{/9}}.

Druga pułapka dotyczy serwowania. Łatwa ścieżka, SGLang-Omni 0.2.0, zapewnia działający punkt końcowy bez NeMo — i bez znaczników czasu, etykiet mówców czy tłumaczenia. Pełna ścieżka, vLLM 0.32.0 z wtyczką NeMo Speech, zapewnia wszystkie trzy, ale znaczniki czasu na poziomie słów pojawiły się jako uzupełnienie, a nie w pierwszym PR. Trzy przepisy wdrożeniowe nazywane „Nemotron 3.5 Transcribe” mogą zatem zachowywać się jak trzy różne produkty. Jeśli atrybucja mówców jest powodem, dla którego zmieniasz rozwiązanie, zweryfikuj tę ścieżkę, zanim poświęcisz jej czas inżynierski.

Ile naprawdę kosztuje utrzymanie

Porównanie rozwiązań hostowanych jest niemal banalne: Whisper Large v3 Turbo przy około 0,04 USD za godzinę audio to ~40 USD za tysiąc godzin, bez konieczności posiadania sprzętu. Nemotron 3.5 Transcribe nie jest jeszcze sprzedawany w ten sposób, więc zespół, który go chce, wycenia GPU, a nie rachunek.

Deklarowana przez samą NVIDIA przepustowość wyznacza dolną granicę obliczeń: 2238 sekund audio na sekundę czasu GPU, NVFP4 z drafterem DFlash2 na RTX PRO 6000 Blackwell, co przekłada się na około 100 godzin audio w niecałe trzy minuty. Przy około 2 USD za GPU-godzinę w trybie on-demand oznacza to dolną granicę znacznie poniżej centa za godzinę audio — przy pełnym przetwarzaniu wsadowym, a tak nie zachowuje się produkcyjna kolejka. Traktuj to jako pułap możliwości sprzętu, a nie jako tempo, które faktycznie osiągniesz.

Co oznacza, że prawdziwym porównaniem nie jest Whisper Large v3 Turbo z Nemotron 3.5 Transcribe. Jest nim Nemotron 3.5 Transcribe zestawiony z Whisper Large v3 Turbo plus modelem diarizacji, alignerem wymuszającym, kodem do scalania segmentów oraz dostrajaniem pod kątem konkretnych języków, którego wymaga ta cała klejona konstrukcja. Jeśli już uruchamiasz WhisperX w produkcji, poniosłeś większość tego kosztu i argument za zmianą jest słabszy, niż sugeruje różnica w WER. Jeśli go nie zbudowałeś, model 30B konkuruje z pipeline'em, który w przeciwnym razie wymagałby zatrudnienia ludzi do obsługi.

Jedna praktyczna uwaga dla każdego, kto podczas migracji uruchamia oba systemy: trzymanie dwóch backendów transkrypcji za jednym punktem końcowym zgodnym z OpenAI zmienia przejście w zmianę konfiguracji, a nie w kolejną umowę z dostawcą. To właśnie warstwa, którą OrcaRouter ma zapewniać — jeden klucz i jeden punkt końcowy u dostawców, których ruch trasuje, z ceną katalogową dostawcy przekazywaną bez narzutu (0% markup) oraz automatycznym przełączaniem awaryjnym między nimi. Nie zmienia to, który model jest lepszy. Zmienia to, ile kosztuje przekonanie się o tym i ile kosztuje pomyłka w tej kwestii.

Kto powinien wybrać, które

• Nagrania ze spotkań, prawne, kliniczne lub z centrów kontaktowych z wieloma mówcami i ścieżką audytu — Nemotron 3.5 Transcribe. Atrybucja mówców i znaczniki czasu słów w jednym przebiegu to możliwość, którą w przeciwnym razie trzeba by samodzielnie składać, a jednogodzinne okno całkowicie eliminuje logikę dzielenia na fragmenty.

• Duże wolumeny mono audio, szeroki zakres języków, wdrożenie na laptopie lub CPU, przewidywalne rozliczanie za godzinę — Whisper Large v3 Turbo. Przy 809 mln parametrów i 0,04 USD za godzinę to najtańsza właściwa odpowiedź dla bardzo dużej części rzeczywistego ruchu, a od dwóch lat sprawdza się w boju.

• Mieszane obciążenia — przetwarzaj wszystko przez turbo, a do większego modelu kieruj tylko nagrania wymagające rozpoznawania mówców, list żargonu lub tłumaczenia. Kryterium wyboru stanowią właściwości nagrania, a nie prestiż modelu: liczba mówców, obecność słownika dziedzinowego i długość nagrania.

Pytania, które warto zadać przed migracją

Czy Nemotron 3.5 Transcribe może działać na pojedynczej karcie GPU o 24 GB pamięci?

Niezbyt komfortowo. NVIDIA zweryfikowała BF16 na H100 z 80 GB, FP8 na L40S oraz checkpoint NVFP4 na RTX 5090, czyli karcie z 32 GB. Urządzenie z 24 GB jest poniżej każdej zweryfikowanej konfiguracji, a wieża audio jest kopiowana na każdą rangę tensor-parallel, więc sharding na wielu GPU nie ratuje małej pojedynczej karty.

Czy Whisper Large v3 Turbo obsługuje etykiety mówców lub tłumaczenie?

Żadne z nich. Wariant turbo był trenowany wyłącznie na transkrypcji, więc poddanie go zadaniu tłumaczenia daje bezużyteczny wynik — tłumaczenie wymaga pełnego checkpointu large-v3. Etykiety mówców wymagają osobnego diaryzatora, takiego jak pyannote, a łączenie jego tur z zgrubnymi znacznikami czasu segmentów Whispera to ta część potoku, której dopracowanie zajmuje najwięcej czasu.

Czy luka parametrów jest widoczna jako opóźnienie?

Nie za minutę audio, nie. Whisper Large v3 Turbo zwraca 30-sekundowe okno w znacznie mniej niż sekundę na szybkim hostowanym punkcie końcowym, a Nemotron 3.5 Transcribe przetwarza jednogodzinny plik w jednym przebiegu z przepustowością, którą NVIDIA opisuje jako tysiące sekund audio na sekundę GPU. Widoczna różnica jest gdzie indziej: turbo nie ma trybu strumieniowego i Nemotron 3.5 Transcribe też nie, więc transkrypcja na żywo jest poza zakresem dla obu.

Który lepiej sprawdzi się w przypadku dźwięku w językach innych niż angielski?

Żadna z odpowiedzi nie jest bezpieczna. Whisper Large v3 Turbo obsługuje 99 języków, a jego jakość mocno się różni w zależności od języka, natomiast Nemotron 3.5 Transcribe obsługuje 40 języków i ma wyniki wielojęzyczne zgłoszone przez dostawcę oraz przepis na adaptację — NVIDIA podaje, że w wydzielonej dziedzinie medycznej WER poprawił się z 22,44% do 12,17% po dostrojeniu na jednej GPU przez kilka godzin. Nie ma jeszcze niezależnego, bezpośredniego porównania wielojęzycznego, więc w przypadku każdego języka poza angielskim odpowiedzialnym posunięciem jest przeprowadzenie testu w ciemno na własnych nagraniach.

Co zmieniłoby ten werdykt?

Trzy rzeczy, w kolejności prawdopodobieństwa. Znaczniki czasu na poziomie słów trafiające do API transkrypcji vLLM sprawiłyby, że pełna ścieżka servingu stałaby się domyślną, i zmniejszyłyby lukę między trzema wariantami wdrożenia. Szeroko dostępne skwantyzowane checkpointy obniżyłyby próg sprzętowy z karty 80 GB w stronę urządzeń konsumenckich. A naprawdę niezależne wielojęzyczne porównanie bezpośrednie z Whisper Large v3 Turbo zastąpiłoby spekulację pomiarem.

Dopóki któraś z tych opcji się nie pojawi, decyzja nie zależy od różnicy bliskiej jednej dziesiątej punktu WER. To kwestia twojego audio: jeśli zawiera więcej niż jeden głos i musisz wiedzieć, który głos powiedział co, Nemotron 3.5 Transcribe jest pierwszym otwartym modelem, który robi to w jednym przebiegu, bez stojącego za nim potoku przetwarzania. Jeśli nie, model 809M wydany rok temu nadal wykonuje tę robotę za czterdzieści dolarów za tysiąc godzin, a model 34B to duży zakup sprzętowy z myślą o liczbie, która zmienia się, gdy zmienisz hosty.