SOV-Transcribe-1 kontra Whisper Large v3 Turbo: ile warte są dwa lata i 2,3 punktu WER

Whisper Large v3 Turbo nie jest konkurentem SOV-Transcribe-1 w żadnym komercyjnym sensie. To obecny standard — checkpoint z 809 mln parametrów na licencji MIT, opublikowany w październiku 2024 r., który dyskretnie leży u podstaw dużej części wszystkich produktów do transkrypcji wydanych od tego czasu i wciąż pojawia się w hostowanych endpointach za 0,67 USD za tysiąc minut. SOV-Transcribe-1 jest challengerem, opublikowanym przez Salesforce 12 listopada 2026 r., uzyskując 2,28% wobec 4,62% Whisper Large v3 Turbo w zbiorczym zestawieniu Artificial Analysis. Pytanie nie brzmi więc, który model jest lepszy. Brzmi: czy zmniejszenie odsetka błędów o połowę jest warte pobrania 53 GB, karty GPU z 96 GB i stosu serwowania, skoro alternatywa mieści się w pamięci laptopa i kosztuje grosze za godzinę audio.

Co tak naprawdę przyniosły dwa lata postępu

Whisper Large v3 Turbo to przycięty Whisper large-v3, w którym dekoder zmniejszono z 32 warstw do 4. Karta modelu OpenAI mówi o tym zaskakująco wprost: „dokładnie ten sam model, z tą tylko różnicą, że liczba warstw dekodowania została zmniejszona z 32 do 4. W rezultacie model jest znacznie szybszy, kosztem niewielkiego pogorszenia jakości”. To zdanie opisuje decyzję dotyczącą kompresji, a nie architekturę.

SOV-Transcribe-1 to inny rodzaj zmiany. Salesforce zachował enkoder Whisper large-v3 — ten sam front end — i zastąpił czterowarstwowy dekoder modelem językowym typu mixture-of-experts Gemma 4 26B A4B umieszczonym za projektorem. Percepcja dźwięku jest odziedziczona po Whisper. To, co zamienia dźwięk w słowa, to model językowy ogólnego przeznaczenia trzydzieści razy większy niż cały checkpoint Whisper turbo.

• Parametry — Whisper Large v3 Turbo 809M w porównaniu z SOV-Transcribe-1 26,6B łącznie, 4,6B aktywnych.

Dekoder — 4 warstwy Transformer w porównaniu z 26B mieszaniną ekspertów z 4,6B aktywnymi na token.

• Rozmiar punktu kontrolnego — poniżej 2 GB w porównaniu z około 53 GB w BF16.

• Języki — około stu kontra siedem. Tutaj zależność działa w drugą stronę i to bardzo mocno.

• Znaczniki czasu — dane wyjściowe na poziomie zdania i słowa wbudowane w pętlę dekodowania w porównaniu z brakiem udokumentowanego rozwiązania.

• Licencja — MIT versus Apache 2.0. Obie są permisywne; MIT jest nieco prostsza.

• Sprzęt — CPU lub niewielki GPU w porównaniu z kartą klasy RTX PRO 6000 z 96 GB w konfiguracji z włączonym draftem.

Ta ostatnia linijka to cały argument w miniaturze. Jeden model działa wszędzie; drugi działa na podzespole serwera, który kosztuje więcej niż całkowity roczny rachunek za chmurę większości projektów transkrypcyjnych.

Arytmetyka błędu, której nikt nie uprawia

Wskaźnik błędów słów jest abstrakcją, dopóki nie przełoży się go na korekty. Weźmy korpus tysiąca minut angielskiej mowy przy konwersacyjnym tempie 150 słów na minutę — 150 000 słów. Przy 4,62% Whisper Large v3 Turbo generuje około 6900 błędnych, brakujących lub wstawionych słów. Przy 2,28% SOV-Transcribe-1 generuje około 3400. Różnica to około 3500 słów, których człowiek nie musi szukać ani poprawiać.

Teraz wyceńmy poprawki. Staranny redaktor porównuje transkrypcję z nagraniem w tempie może 200–400 słów na minutę, więc 3500 mniej błędów to gdzieś między dziewięcioma a osiemnastoma minutami ludzkiej weryfikacji zaoszczędzonymi na każde tysiąc minut nagrania. Przy stawce z narzutami 30 USD za godzinę daje to od 4,50 do 9,00 USD — w porównaniu z kosztem transkrypcji po stronie hostowanego Whispera wynoszącym 0,67 USD.

To porównanie jest powodem, dla którego większość zespołów nigdy nie migruje. Ludzki koszt błędów dominuje nad maszynowym kosztem transkrypcji o rząd wielkości, więc model, który o połowę zmniejsza liczbę błędów, powinien być wart dziesięć razy wyższej ceny, a w praktyce konkuruje z ceną, która już jest znikoma. Wyjątkiem jest każdy potok, w którym nikt w ogóle nie przegląda wyników — automatyczne indeksowanie, wyszukiwanie, analityka, zasilanie podsumowań — ponieważ tam błędy nie są poprawiane, lecz przenoszą się do tego, co następnie czyta transkrypcję, a kosztem, który boli, jest koszt drugiego rzędu.

Indeks, na którym opierają się oba wyniki, sam jest mieszanką — w połowie syntetyczną rozmową agenta, w jednej czwartej czytaną mową parlamentarną, w jednej czwartej rzeczywistymi telekonferencjami wynikowymi — a oba modele zachowują się bardzo różnie w każdej z trzech części. Składowe Whisper Large v3 Turbo wynoszą odpowiednio 3,52%, 3,97% i 7,49%; składowe SOV-Transcribe-1 to 1,79%, 1,50% i 4,06%. Największa różnica występuje w przypadku czytanej mowy parlamentarnej — 1,50% wobec 3,97%, czyli 2,6-krotność — a najmniejsza w przypadku telekonferencji wynikowych, gdzie oba modele mają trudności, a różnica wynosi 4,06% wobec 7,49%. Jeśli Twoje audio to czysta mowa czytana, aktualizacja daje dramatyczną poprawę. Jeśli to chaotyczne, wielomówcowe audio finansowe, oba modele są słabe, a nowszy jest jedynie mniej słaby.

Dlaczego Whisper wciąż wygrywa, gdy przychodzi rachunek

Zacznij od porównania usług hostowanych, ponieważ to właśnie z nim mierzy się większość zespołów. Whisper Large v3 Turbo jest dostępny w cenie 0,67 USD za tysiąc minut u co najmniej jednego dostawcy hostingu na liście Artificial Analysis, przy zmierzonym współczynniku szybkości 339,5 — czyli 339,5 sekundy audio na sekundę czasu rzeczywistego. SOV-Transcribe-1 w ogóle nie ma hostowanej ceny za minutę. Salesforce opublikował wagi, a nie endpoint, i nic na liście nie podaje dla niego stawki za 1000 minut.

Porównanie sprowadza się więc do dolarów kontra godzin GPU, a karta modelu podaje dla niego nietypowo kompletne liczby. Dzięki natywnemu wsparciu vLLM i modelowi szkicowemu DFlash jedna karta RTX PRO 6000 Blackwell Server Edition transkrybuje do 1 039 sekund audio na sekundę. Jeśli eksploatować ją na pełnych obrotach przez godzinę, przetworzy 3,74 mln sekund audio — 62 340 minut. Przy kilku dolarach za godzinę wynajmu daje to rząd trzech centów za tysiąc minut audio — dwadzieścia razy taniej niż najtańszy hostowany endpoint Whisper w zestawieniu.

Ta liczba jest prawdziwa, a jednocześnie jest najbardziej mylącą liczbą w tym artykule, ponieważ zakłada, że karta nigdy nie jest bezczynna. Transkrypcja mowy ma charakter skokowy: w nocy pojawia się zaległość, zostaje rozładowana, a potem GPU przez dwadzieścia godzin ma zerowe wykorzystanie. Przy 1 039 sekundach audio na sekundę jedna karta przerabia tysiąc godzin audio w niecałą godzinę. Prawie nikt nie ma tysiąca godzin audio dziennie. Uczciwy wniosek jest taki, że samodzielne hostowanie któregokolwiek z tych modeli to decyzja ekonomiczna dotycząca wykorzystania, a nie rozmiaru — oraz że gdy już zdecydujesz się uruchomić kartę, koszt krańcowy lepszego modelu jest bliski zeru.

Trzy rzeczy, które Whisper robi, a których nowy model nie potrafi

Pokrycie językowe jest kwestią pierwszą i tu nawet nie ma porównania. Karta modelu Whisper Large v3 Turbo wymienia blisko sto języków, od angielskiego i mandaryńskiego po walijski, maltański, hawajski, laotański i sundajski. SOV-Transcribe-1 obsługuje angielski, francuski, niemiecki, hiszpański, włoski, portugalski i niderlandzki. Dla każdego zespołu, którego nagrania nie są europejskie, to porównanie nie ma drugiego aktu — Whisper nie jest tańszą opcją, jest jedyną z tych dwóch.

Znaczniki czasu to druga sprawa. Pętla dekodowania Whispera przewiduje je natywnie, a pipeline Transformers udostępnia je na poziomie zdania lub słowa za pomocą jednego argumentu; właśnie tak od dwóch lat buduje się na Whisperze napisy, znaczniki rozdziałów i wyszukiwanie pod kątem zgodności. Karta SOV-Transcribe-1 dokumentuje transkrypcję, kontrolę stylu i faworyzowanie kontekstu, a o znacznikach czasu nie mówi nic. Odzyskiwanie ich w dalszym etapie oznacza uruchomienie na wyniku wymuszonego alignera, czyli kolejny model, kolejną zależność i kolejne źródło błędów.

Tłumaczenie mowy jest trzecie. Whisper może przyjąć dźwięk w dowolnym ze swoich języków źródłowych i bezpośrednio wygenerować tekst angielski — jako zadanie dekodowania, a nie drugi etap potoku. SOV-Transcribe-1 transkrybuje w języku mówionym. Jeśli potrzebujesz napisów do japońskiego dokumentu, Whisper robi to w jednym wywołaniu, a model Salesforce nie potrafi tego w ogóle.

Udokumentowane słabości Whispera zasługują na równie dużo uwagi, ponieważ są najsilniejszym argumentem za przejściem. Sama karta OpenAI ostrzega, że model halucynuje — generuje tekst, który nie został wypowiedziany — ponieważ był trenowany na hałaśliwych danych ze słabym nadzorem, i że jest to gorsze w językach o niskich zasobach. Zwraca również uwagę, że architektura sekwencja-do-sekwencji jest podatna na powtórzenia, które tylko częściowo łagodzi wyszukiwanie wiązkowe i fallback temperatury. To dokładnie te tryby awarii, które czynią niesprawdzony potok przetwarzania niebezpiecznym, i to na nie były ukierunkowane dwa lata prac nad architekturą.

Jak wygląda prawdziwa migracja

Prawie nikt nie zastępuje Whisper modelem SOV-Transcribe-1. Kieruje się ruch między nimi, a reguła routingu wynika wprost ze specyfikacji: jeśli audio jest w języku angielskim lub jednym z sześciu pozostałych obsługiwanych języków, ma jednego mówcę, trwa krócej niż trzydzieści minut i obfituje w encje, wyślij je do otwartego modelu z listą podpowiedzi; w przeciwnym razie zostaw je przy Whisper. Wynik Salesforce Contextual Earnings-22 — F1 dla słów kluczowych rosnące z 71,9 bez podpowiedzi do 96,8 z własnymi słowami kluczowymi klipu i utrzymujące się na poziomie 94,0, gdy jako dystraktory poda się listę słów kluczowych z całej godziny — to konkretna zdolność, która sprawia, że podział się opłaca, ponieważ to ta jedna rzecz, której biasowanie podpowiedzi prefiksu w Whisper nie wykonuje nawet w przybliżeniu tak dobrze.

Kosztem takiego podziału jest zduplikowana infrastruktura i dwa formaty wyjściowe: SOV-Transcribe-1 zwraca ciąg transkrypcji, Whisper zwraca tekst oraz fragmenty ze znacznikami czasu, a wszystkie elementy po stronie odbiorczej muszą akceptować oba. W praktyce większość zespołów normalizuje dane do własnego schematu transkrypcji na granicy systemu i przestaje się przejmować, który model je wygenerował.

To, co dzieje się po transkrypcji, to część, która skaluje się wraz z wolumenem, i właśnie tam należy umieścić router, a nie drugiego dostawcę mowy: OrcaRouter umieszcza ponad 200 modeli tekstowych, obrazowych i wideo za jednym kluczem w cenach katalogowych dostawców z 0% marży, dzięki czemu sumaryzator, indeksator lub klasyfikator, który przetwarza którąkolwiek z transkrypcji, można zamienić lub przełączyć awaryjnie bez nowej umowy — a obniżka ceny dostawcy dla tego modelu jest tu dostępna tego samego dnia. Ani Whisper Large v3 Turbo, ani SOV-Transcribe-1 nie są udostępniane przez niego; oba to wagi, które uruchamiasz samodzielnie, a routing zaczyna się od tekstu, który emitują.

Co sprawiłoby, że to porównanie stałoby się nieaktualne?

Dwie rzeczy — obie są prawdopodobne w ramach jednego cyklu wydania. Pierwsza to skwantyzowany checkpoint SOV. Praktyczną zaletą Whisper Large v3 Turbo jest to, że mieści się wszędzie; 4-bitowa wersja modelu 26,6B nadal wymagałaby poważnego GPU, ale wydanie FP8 lub NVFP4 — takie, jakie NVIDIA udostępniła pierwszego dnia dla Nemotron 3.5 Transcribe — przeniosłoby model Salesforce z kategorii „część do centrów danych” do „część do stacji roboczych” i zniwelowałoby dużą część zastrzeżeń wdrożeniowych. Salesforce opublikował już 4-bitową wersję MLX, co wskazuje kierunek.

Drugą kwestią są znaczniki czasu i diaryzacja pojawiające się w wydaniu punktowym. Obu wyraźnie brakuje, obie są podstawowym warunkiem w produktach do spotkań i mediów oraz obie są dokładnie tym, co dodaje karta modelu v0.2. Jeśli się pojawią, jedynym pozostałym powodem uruchamiania Whispera będzie sto języków — a dla dużej części zespołów to jedyny powód, dla którego uruchamiają go teraz.

Do tego czasu podział jest stabilny i łatwy do uzasadnienia: Whisper Large v3 Turbo pozostaje właściwym domyślnym wyborem dla wszystkiego, co wielojęzyczne, ze znacznikami czasu, o długim ogonie lub ograniczone przez CPU, a SOV-Transcribe-1 to specjalista, po którego sięgasz, gdy dźwięk jest w języku angielskim, słownictwo jest znane, a nikt nie przeczyta wyniku, zanim zrobi to maszyna.