SOV-Transcribe-1 vs Nemotron 3.5 Transcribe: 15일 차이, 그리고 그중 단 하나만 제품이다

오픈 웨이트 음성 인식의 주도권이 보름 만에 두 번 바뀌었다. NVIDIA는 2026년 10월 28일 Nemotron 3.5 Transcribe를 공개했고, Salesforce는 11월 12일 SOV-Transcribe-1을 공개했다. Artificial Analysis의 종합 지표에서는 더 새로운 모델이 이긴다. SOV-Transcribe-1이 AA-WER 2.28%로, Nemotron 3.5 Transcribe의 2.81%를 앞선다. 영업 논리는 그게 전부이며, 겉보기보다 빈약하다. NVIDIA는 화자 분리, 단어 타임스탬프, 40개 언어, 1시간 녹음, 세 가지 양자화 형식, 공개된 기술 보고서, 쿡북을 갖춘 서빙 스택을 함께 내놨다. Salesforce는 게시판에서 가장 좋은 수치와, 기술 보고서가 곧 나온다고 적은 모델 카드를 내놨다. 리더보드가 아니라 제품에 넣을 모델을 고르는 상황이라면, 정확도 격차는 중요한 축이 아니다.

두 아키텍처, 완전히 다른 두 가지 승부수

Nemotron 3.5 Transcribe는 Mamba-2와 Transformer 하이브리드 전문가 혼합 언어 모델인 Nemotron 3.5 Lightning 30B A3B에 병렬 전문가 인코더를 갖춘 것입니다. 이 인코더는 약 6억 개 파라미터의 Transformer ASR 인코더와 별도의 9,900만 파라미터 화자 인코더, 그리고 타임스탬프 정렬을 위한 CTC 헤드로 구성됩니다. 총 340억 개 파라미터이며, 오디오 인코더를 포함해 43억 개가 활성 파라미터입니다.

SOV-Transcribe-1은 반대 방향으로 접근합니다. 기성 Whisper large-v3 인코더를 가져다 프로젝터를 붙이고, 그 결과를 Gemma 4 26B A4B 디코더에 넘깁니다. 총 26.6B, 활성 4.6B입니다. NVIDIA가 음성 프런트 엔드를 만들고 자체 언어 모델을 붙인 반면, Salesforce는 누구나 이미 갖고 있는 음성 프런트 엔드에 범용 언어 모델을 붙였습니다. 그래서 SOV 체크포인트는 BF16에서 53GB이고 Nemotron BF16 릴리스는 80GB H100이 필요한 것입니다. Salesforce 모델은 총 가중치가 더 적고, 아직 양자화 변형이 공개되지 않은 포맷으로 그 가중치를 담고 있기 때문입니다.

• 총 파라미터 수 — SOV-Transcribe-1 26.6B 대 Nemotron 3.5 Transcribe 34B, 둘 다 오디오 인코더 포함.

• 활성 파라미터 — 4.6B 대 4.3B. 사실상 동률인데, 흥미로운 부분이 바로 여기 있습니다. Salesforce는 약간 더 큰 활성 세트와 훨씬 더 작은 전체 세트로 더 낮은 오류율을 달성합니다.

• 오디오 제한 — 30분 대 1시간, NVIDIA 측은 65,536토큰 컨텍스트 제공.

• 언어 — 유럽 언어 7개 대 40개, Nemotron 매트릭스 전반에서 코드 스위칭 지원.

• 정밀도 — BF16만(FP32 라우터) 대 BF16, FP8, NVFP4 체크포인트, 그중 마지막은 RTX 5090에서 실행됩니다.

• 라이선스 — Apache 2.0 대 OpenMDW-1.1. Apache는 두 라이선스 중 훨씬 더 관대한 편이며, 일부 법무팀에게는 그 점만으로도 선택이 결정됩니다.

두 공급업체가 모두 실행한 한 가지 벤치마크, 그 수치는 서로 일치하지 않는다

이것은 이 글에서 가장 유용한 비교입니다. 두 모델 카드를 동일한 테스트에서 나란히 놓고 볼 수 있는 유일한 부분이기 때문입니다. VoiceCodeBench는 구조화된 값의 전사(이메일 주소, 파일 경로, 식별자, 계정 번호)를 측정하며 두 가지 지표를 보고합니다. 하나는 대상 콘텐츠를 얼마나 복원했는지를 나타내는 canonical token 및 entity match이고, 다른 하나는 모든 대상 값이 올바르게 나온 녹음의 비율인 task success rate입니다.

NVIDIA의 카드는 88.53% CTEM과 59.33% TSR을 모두 공개하며, 해당 세트에서 8.38%의 단어 오류율도 밝힌다. Salesforce의 카드는 동일한 벤치마크에 대해 두 가지 수치를 공개한다: 모든 대상 엔터티를 통과한 비율 76.3%와 복원된 엔터티 비율 93.4%이며, 이는 오픈 가중치 시스템 중 1위이자 전체 23개 중 2위라고 설명된다. 이는 각각 TSR과 CTEM에 대응되지만, 그 대응은 성립하지 않는다. Salesforce는 동일 지표에서 NVIDIA가 59.33%를 보고하는데 76.3%의 전체 통과를 주장하며, NVIDIA가 88.53%를 보고하는데 93.4%의 엔터티 복원을 주장한다.

무해한 설명들도 있다. VoiceCodeBench는 제3자가 운영하는 비공개 리더보드이고, 점수는 시간이 지나면서 버전이 매겨지며, 두 벤더가 서로 다른 스냅샷을 제출했을 수 있다. 무해하지 않은 설명도 하나 있다: 두 숫자 중 하나는 벤치마크 자체의 보고가 뒷받침하는 것보다 더 큰 확신을 가지고 설명되고 있다. 독자가 내릴 수 있는 결론은 좁으며, 분명히 말할 가치가 있다 — 두 모델이 모두 측정된 유일한 구조화 값 벤치마크에서 Salesforce 모델은 모든 값을 정확히 맞히는 데 있어 의미 있게 더 나은 것으로 보이며, 그 우위의 크기는 누구의 모델 카드를 보느냐에 따라 5점에서 17점까지 이견이 있다.

NVIDIA가 출시했지만 Salesforce는 출시하지 않은 것

여기서의 격차는 점진적인 것이 아닙니다. 이것들은 점수가 아니라 역량이며, 각각은 그렇지 않으면 직접 구축해야 했을 다운스트림 작업의 일부를 없애줍니다.

• 화자 귀속 전사 — AMI, CALLHOME, Mixer 6, NOTSOFAR-1 전반에 걸친 완전한 다중 화자 평가로, 평균 cpWER은 15.80이며 개별 원거리 마이크 사례에 이르기까지 조건별 결과를 제공합니다. SOV-Transcribe-1은 화자 분리를 전혀 문서화하지 않습니다.

• 단어 타임스탬프 — 단어 텍스트와 시작 및 종료 시간, 화자 분리 세그먼트 맵, 정렬 오류 필드를 반환하는 CTC 정렬 헤드입니다. Salesforce 카드는 트랜스크립트 문자열을 반환합니다.

• 음성 번역, 언어 식별, 오디오 질의응답 — 각각 자체 벤치마크를 가진 별도 작업이며, 여러 언어에서 100% FLEURS 언어 ID를 달성한 경우도 포함합니다. SOV-Transcribe-1은 7개 언어로 전사하고 거기서 멈춥니다.

• 기술 보고서 — PDF로 출판되며, 학습 데이터 구성은 어느 말뭉치를 누구로부터 라이선스했는지까지 항목별로 명시한다. Salesforce는 해당 보고서를 "곧 공개"로 링크한다.

• 양자화 사다리와 서빙 쿡북 — 소비자용 Blackwell의 NVFP4, SGLang-Omni 경로, 네이티브 Windows의 GGML. Salesforce 통합은 0.32.0에 고정된 vLLM 플러그인이며, 업스트림 지원은 진행 중인 작업으로 설명됩니다.

그 목록에 대한 솔직한 단서는 범위와 깊이가 서로 상충한다는 점입니다. 40개 언어와 7개 작업군으로 훈련된 모델은 역량이 분산되지만, 7개 유럽 언어와 전사만으로 훈련된 모델은 역량을 모두 그곳에 쏟을 수 있습니다. 0.53점의 종합 격차는 그런 상충 관계가 이득을 볼 때 정확히 어떤 모습인지를 보여줍니다.

서빙 수치를 주의 깊게 읽으세요.

두 벤더 모두 동일한 카드에서 벤치마크를 진행하기 때문에 이 비교는 유난히 깔끔합니다 — 그리고 유난히 틀리기 쉽습니다.

• Salesforce, SOV-Transcribe-1 — 단일 RTX PRO 6000 Blackwell Server Edition에서 DFlash 드래프트 모델을 활성화하고 vLLM 개발 빌드에서 max_num_seqs=64로 설정했을 때 초당 최대 1,039초의 오디오를 처리합니다.

• NVIDIA, Nemotron 3.5 Transcribe — 동일한 카드에서 NVFP4와 DFlash2 추측 디코딩(speculative decoding)을 사용해 초당 최대 2,238초 분량의 오디오를 처리하며, 30초 클립의 전사 결과를 0.13초 만에 반환합니다.

NVIDIA 수치는 두 배가 넘으며, NVIDIA는 자사 카드에서 그 이유를 밝힙니다. 해당 최적화는 Nemotron Transcribe NIM에 들어 있고 오픈소스 릴리스에는 포함되지 않는데, 카드에서는 이를 대략 두 배 느리고 모델 개발용이라고 설명합니다. 따라서 동일 조건 비교 — 한 장의 카드에서 오픈 vLLM 대 오픈 vLLM — 는 대략 초당 1,119 오디오초 대 1,039 오디오초입니다. NVIDIA가 여전히 약 8퍼센트 앞서 있으며, 앞서면서 동시에 출력 스트림에 화자 라벨과 타임스탬프를 포함하는 모델이기도 합니다.

구매자 입장에서 이것이 의미하는 바는, 두 모델 모두 처리량을 보고 사는 것이 아니라는 점이다. 둘 다 최신 카드를 포화시키며, 둘 다 전용 카드가 필요하다. 결정 기준은 어떤 출력이 필요한지, 그리고 어떤 다운로드를 실행할 수 있는지이며, 두 번째 질문에서는 Nemotron이 완전히 승리한다. NVFP4 체크포인트는 96GB 서버용 부품의 일부 비용에 불과한 하드웨어에서 실행되는 반면, Salesforce 모델은 실행할 양자화 릴리스가 없기 때문이다.

SOV-Transcribe-1이 진정으로 더 나은 선택인 경우

세 가지 사례가 있는데, 첫 번째는 명백한 사례입니다. 언어가 영어이고 제품이 엔터티 정확도라면, {{1}}복합 지표에서 2.28% 대 2.81%는 실질적인 차이{{/1}}이며, Salesforce 모델의 가장 약한 영역인 {{2}}Earnings22-Cleaned에서의 4.06%{{/2}}는 여전히 복합 지표가 경쟁 상황에 대해 시사하는 것보다 낫습니다. Contextual Earnings-22에서 {{3}}SOV-Transcribe-1은 클립 자체의 힌트를 사용하면 키워드 F1이 71.9에서 96.8로 상승하고, 전체 1시간 분량의 키워드 목록을 방해 요소로 받았을 때 94.0을 유지한다고 보고합니다{{/3}}. {{4}}NVIDIA는 자사의 Contextual Earnings22 수치를 F1이 아니라 단어 오류율로 보고합니다{{/4}}. 컨텍스트가 없을 때 12.54%에서 로컬 9.58%로, 따라서 둘은 직접 비교할 수 없습니다 — 하지만 힌트 목록이 도움이 되고 방해 요소가 많은 힌트 목록도 여전히 도움이 된다는 결과의 형태는 양쪽에서 동일합니다.

두 번째 경우는 라이선스입니다. 법무 검토가 파생 저작물에 대해 나름의 견해를 갖고 있는 회사라면 Apache 2.0과 OpenMDW-1.1의 맞대결은 형식적인 문제가 아닙니다. 미세 조정 후 재배포하거나, 출시하는 제품에 모델을 내장할 계획이라면 Apache 경로가 더 짧습니다.

세 번째는 범위의 단순함입니다. 한 가지 일을 하는 모델은 한 가지를 반환하며, 전사 문자열을 기대하는 파이프라인은 화자 태그, 타임스탬프, 그리고 필요하지 않을 수도 있는 정렬 오류 필드가 포함된 구조화된 객체를 받는 파이프라인보다 추론하기 쉽습니다. 자신들이 신뢰하는 화자 임베딩 모델을 이미 운영하고 있어 다이어라이제이션을 직접 관리하려는 팀은 더 좁은 범위의 모델에서 더 깔끔한 입력을 얻습니다.

리더보드 없이 둘 중에서 고르기

오디오가 회의, 여러 목소리가 섞인 통화, 또는 "누가 말했는가"가 결과물의 일부인 어떤 경우라면 답은 Nemotron 3.5 Transcribe이며 정확도 문제는 무의미해집니다. SOV-Transcribe-1은 해당 필드를 생성할 수 없습니다. 오디오가 비영어라면 같은 결론이 더욱 분명하게 적용됩니다. 녹음이 30분을 넘거나 데이터센터용 카드보다 작은 하드웨어에서 실행해야 한다면 역시 NVIDIA입니다.

오디오가 영어이고, 화자가 한 명이거나 이미 업스트림에서 화자 분리가 완료되었고, 길이가 30분 미만이며, 산출물이 올바른 고유명사가 포함된 텍스트라면, SOV-Transcribe-1은 오늘날 사용 가능한 더 정확한 전사기이며 Apache 라이선스는 협상 절차를 없애 줍니다. 이는 출시 당시의 보도 범위가 시사한 것보다 좁은 워크로드 집합이지만, 실제로 존재하는 집합입니다.

여기서도 혼합 파이프라인은 일반적인 결과이며, 두 모델 카드 모두 다루지 않는 실용적인 질문을 제기합니다: 이후에 전사본을 읽는 주체는 무엇인가. OrcaRouter는 200개 이상의 텍스트, 이미지, 비디오 모델을 하나의 키 뒤에 공급자 정가에 0% 마크업으로 제공하므로, 다운스트림의 요약기나 추출기는 별도의 두 번째 계약 없이 교체하거나 장애 조치할 수 있습니다 — 전사본 소스를 아직 결정 중일 때 유용합니다. 이 음성 모델 중 어느 것도 이를 통해 제공되지 않으며, 그렇지 않다고 주장하지도 않습니다. 라우팅은 텍스트가 시작되는 곳에서 시작됩니다.

이 두 릴리스 사이의 2주 동안 달라진 것은 어떤 모델이 오픈 웨이트 순위표 정상에 앉아 있느냐가 아니다. 달라진 것은 그 순위표에 더 이상 명확한 답이 없다는 점이며, 이제 그 답은 당신이 전사기를 사는지 전사 파이프라인을 사는지에 달려 있다. NVIDIA는 후자를 판다. Salesforce는 전자를 공개했고, 그것도 아주 잘 해냈다.