Nemotron 3.5 Transcribe vs GPT Transcribe: 0.1점 차이, 한쪽은 체크포인트를 내준다

물어보세요 GPT Transcribe에 단어 단위 타임스탬프를 요청하면 API는 그걸 주지 않습니다. 대충 주는 것도, 근사치로 주는 것도 아닙니다. 이 모델에는 타이밍 헤드 자체가 없고, OpenAI 문서에서는 그 작업을 위해 whisper-1을 가리키며, 별도의 다이어라이제이션 모델에 속한 화자 라벨도 상황은 같습니다. 이제 Nemotron 3.5 Transcribe에 물어보세요. NVIDIA가 2026년 10월 28일 오픈 가중치로 공개한 이 모델은 한 번의 패스로 둘 다 돌려줍니다. 즉, 디코딩 후 완성된 트랜스크립트를 오디오에 정렬하는 CTC 어댑터에서 나오는 화자 귀속 단어 타이밍입니다. 공개 정확도 보드에서 두 모델은 0.1점 이내로 붙어 있습니다. 하지만 트랜스크립트로 실제 하는 일에서는 같은 제품 범주가 아닙니다.

그것이 결정의 전부이며, 천천히 짚어볼 가치가 있습니다. 출시 당시 보도가 이 조합을 주로 WER 경쟁으로 축소해 왔고, 그 경쟁에서 어느 쪽도 실제로 유의미한 격차로 이기지 못하기 때문입니다.

정확도 격차는 잡음일 뿐이지만, 기능 격차는 그렇지 않다

Artificial Analysis의 비스트리밍 지수에서, 2026년 7월 28일 라이브 스트리밍 버전과 함께 출시된 OpenAI의 배치 전사 모델인 GPT Transcribe는 3.3%로 표시되어 소규모 경쟁사와 함께 18위에 공동으로 이름을 올렸습니다. Nemotron 3.5 Transcribe는 3.4%로 표시되어 20위에 공동 순위를 기록했습니다. 겨우 0.1점 차이입니다. 게다가 이 지수에서는 동일한 모델에 대한 항목이라도 어느 엔드포인트가 서비스했느냐에 따라 거의 1점 가까이 차이가 날 수 있습니다. 그런 것을 근거로 두 음성 시스템 중 하나를 선택해서는 안 됩니다.

한편 NVIDIA의 출시 자료에는 AA-WER 2.8%가 보고되어 있으며, 오픈 웨이트 모델 가운데 공동 1위로 기록되어 있다. 10월 29일 기준 라이브 보드 수치는 3.4%다. 2.8%는 제출 수치로, 3.4%는 현재 측정값으로 보라. 두 수치의 차이는 Nemotron과 GPT Transcribe 사이의 격차보다 크다. 이는 단일 리더보드 델타에 얼마나 큰 비중을 둘지 말해준다.

• 파라미터 — 하이브리드 Mamba–Transformer MoE에서 총 약 30B, 토큰당 약 4B 활성 vs 비공개·비생성형.

• 라이선스 — OpenMDW-1.1, 상업적 사용 가능, 가중치 다운로드 가능 vs API 전용.

• 가격 — 정가 없음; GPU 시간 기준이며, NVFP4 빌드는 RTX PRO 6000 Blackwell 1대에서 초당 최대 2,238초 분량의 오디오를 처리한다고 주장합니다. 이는 분당 $0.0045, 오디오 1시간당 약 $0.27입니다.

• 화자 레이블 — 13개 언어에서 최대 8명의 화자 지원, 내장 vs 없음; 별도의 화자 분리 모델이 필요합니다.

• 단어 타이밍 — 디코딩 후 CTC 정렬, 화자 귀속 여부는 제공되지 않음; whisper-1이 문서화된 대안입니다.

• 언어 — 전사 40개, 영어로 또는 영어에서 번역 31개 vs 자동 감지 및 언어 힌트를 지원하는 다국어, 공개된 수치 없음.

• 오디오 길이 — 한 번에 1시간 처리 vs API가 청크 분할을 처리하는 파일 기반 방식.

• 후처리 — 프롬프트로 제어되는 축어적 또는 서면 형태 대 자유형 문맥 및 키워드 힌트, 정리 단계 없음.

GPT Transcribe가 오픈 체크포인트보다 더 잘하는 점

세 가지가 있는데, 어느 것 하나 사소하지 않습니다. 첫째는 API라는 점입니다. 크기를 조정할 30B 파라미터 체크포인트도, 기다려야 할 NVFP4 빌드도, 고정해야 할 vLLM 레시피도 없습니다. OpenAI는 대략 실시간 처리 대비 34배의 처리 성능을 보고하는데, 이는 NVIDIA가 Blackwell 카드에서 주장하는 처리량보다 느리고 대부분의 팀에는 무관합니다. 왜냐하면 실시간 대비 34배라면 이미 그들이 운영하는 어떤 대기열보다도 빠르기 때문입니다.

두 번째는 문맥 처리입니다. GPT Transcribe는 자유 형식 문맥, 키워드 및 어휘 힌트, 여러 언어 힌트를 받아들이고 전사 결과와 함께 감지된 언어 배열을 반환합니다. 이 조합은 코드스위칭 오디오와 도메인 전문 용어에서 정말 유용하며, 파인튜닝이 아니라 프롬프팅 인터페이스이므로 제품 팀이 GPU를 보유하지 않고도 이를 조정할 수 있습니다. NVIDIA의 해당 기능인 프롬프트에 제공되는 예상 엔터티 목록은 ContextASR-Bench에서 명명된 엔터티 오류를 6배 줄인 것으로 평가되지만, 이 수치는 벤더가 보고한 것이며 재현되지 않았습니다.

세 번째는 통합 인터페이스입니다: 동일한 엔드포인트가 파일 전사, 스트리밍 파일 전사, WebSocket을 통한 확정 실시간 턴, Responses API 및 Batch를 제공합니다. 이미 OpenAI 플랫폼을 사용하는 팀은 전사를 배포가 아니라 매개변수로 얻습니다.

OpenAI가 자체 공개한 품질 주장은 범위가 넓고 검증하기 어렵다. 22개 언어 Common Voice 세트에서 단어 오류율 19.27%(Whisper는 40.37%), 9개 언어 실제 환경 벤치마크에서 8.98%(15.21%와 비교)라는 수치다. 이는 2026년 경쟁사가 아니라 2024년 기준선과 비교한 벤더 수치다. 독립적인 그림은 AA 보드가 시사하는 것보다 GPT Transcribe에 더 우호적이다. Perit의 사람이 검토한 영어 세트에서 WER 1.76%, 22개 중 6위이며, 클립의 61.3%가 완벽하게 전사되었다. 이는 Artificial Analysis의 테스트 세트와 다른 세트이고 두 보드 간 수치는 비교할 수 없다. 그러나 방향성은 일관되며, 같은 세트에서 OpenAI의 모델을 호스팅된 Parakeet 엔드포인트보다 앞서게 한다.

빠진 기능이 실제로 발목을 잡는 지점

검색 인덱스용 일반 텍스트를 출력한다면 GPT Transcribe의 공백은 비용이 들지 않습니다. 더 많은 것이 필요한 순간, 작업량은 배로 늘어납니다. 단어 타이밍이 필요하다는 것은 whisper-1이나 강제 정렬기를 거치는 두 번째 패스를 의미하며, 이는 정렬이 바로잡기 위해 존재하는 실패 모드를 그대로 다시 불러옵니다. 즉, 읽기에는 문제없지만 자막을 깨뜨리는 경계가 어긋난 트랜스크립트입니다. 화자 레이블은 세그먼트 경계에서 이어 붙이는 세 번째 모델을 뜻하며, 여기에는 디버깅해야 할 자체 오류율까지 더해집니다. 그리고 이 두 번째 패스 중 어느 것도 서로를 알지 못하므로, 화자가 둘인 통화가 세 개의 모델과 병합 단계로 변합니다.

이 캐스케이드 방식은 OpenAI의 엔지니어링에 대한 비판이 아니다. 그것은 바로 이 제품의 본질이다: 의도적으로 좁은 출력 범위를 가진 고정확도 전사기. Microsoft와 Google도 같은 분리를 제공한다 — 화자 분리를 별도 SKU로, 또는 자체 제한이 있는 별도 모드로. NVIDIA의 선택은 정반대이며, 이를 솔직하게 표현하자면 Nemotron 3.5 Transcribe는 파이프라인을 피하는 대신 더 많은 컴퓨팅 비용을 치른다.

그 연산으로 얻는 것은 문서화되어 있지만 벤더 보고 수치다: David AI 벤치마크에서 21개 언어에 걸쳐 18.26%의 화자 분리 오류율로 14개 시스템 중 최고, VoiceArena에서 연결된 최소 순열 WER 32.4%로 역시 14개 중 최고, 겹치는 영어 음성에서 참조 단어의 8.32%가 누락되어 중앙값 약 31%와 대비된다. 이 수치들과 맞설 OpenAI 화자 분리 수치는 없다. OpenAI가 이 모델에 대해 그러한 수치를 공개하지 않기 때문이다.

분당 결제를 중단하는 두 가지 방법

GPT Transcribe는 분당 $0.0045를 청구하며, 이는 1,000분당 $4.50, 1,000시간의 오디오당 약 $270입니다. Nemotron 3.5 Transcribe는 분당 청구가 없고 대신 GPU를 요구합니다. NVIDIA의 데모 구성은 DFlash2 드래프트 모델과 함께 NVFP4 체크포인트를 실행하는 RTX PRO 6000 Blackwell 한 대이며, 처리량 대표 수치인 “3분 이내에 100시간의 오디오”는 한 시간 길이의 회의가 아니라 높은 동시성에서 30초 클립을 대상으로 측정되었습니다. 이를 잘 배치된 작업에서의 상한으로 해석하세요.

그러면 교차점은 정가보다는 활용도에 따라 결정된다. 이미 보유하고 계속 바쁘게 활용하는 카드는 1,000시간당 270달러를 여유 있게 앞선다. 한 달 40시간 규모의 대기열을 처리하려고 구매해야 하는 카드는 그렇지 않으며, 파라미터 효율이 아무리 높아져도 그 계산은 달라지지 않는다.

양자택일 구도가 가리는 세 번째 선택지가 있으며, 대부분의 팀이 실제로 택하는 것은 바로 이것입니다. 대량 처리는 관리형 API를 유지하고, 어려운 파일—6인 회의, 억양이 있는 임상 인터뷰, 업로드가 허용되지 않는 오디오—은 자체 호스팅 체크포인트로 라우팅하는 것입니다. 이는 두 출력이 같은 형태로 나올 때만 작동하며, 이것이 현재 공급업체가 화자 및 타이밍 필드를 채우지 않더라도 해당 필드를 포함한 전사 스키마로 표준화해야 하는 이유입니다. 스키마를 먼저 표준화하십시오. 그러면 모델은 나중에 교체 가능해집니다.

전사본 위의 계층에서 OrcaRouter의 역할은 그 교체 가능성이 모델 경계에서 멈추지 않도록 하는 것입니다. 이 전사본을 읽는 요약기, 분류기, 규정 준수 검사기는 모두 200개 이상의 모델 전반에 걸친 하나의 키공급업체 정가가 0% 마크업으로 그대로 전달되고, 자동 장애 조치가 업스트림에 문제가 생길 때 이루어지며, 두 번째 통합 없이 각 워크로드를 서로 다른 모델로 보내는 라우팅 DSL도 있습니다. GPT Transcribe와 Nemotron 3.5 Transcribe는 모두 해당 카탈로그 밖에 있습니다 — 우리는 둘 다 제공하지 않습니다 — 따라서 음성 호출은 구매하는 곳에 그대로 남고, 다운스트림 절반만 이식 가능해집니다.

상황별 짧은 버전

전사본만 원하고, 아무것도 프로비저닝하지 않은 채 다음 주에 원한다면 GPT Transcribe가 위험이 더 낮은 선택입니다. 독립적인 Perit 세트에서 6위, 아마 이미 갖추고 있을 통합 인터페이스, 그리고 자본 구매가 필요 없는 가격입니다. 전사본이 자막, 회의 분석, 화자 귀속 검색 또는 규정 준수 아카이브로 이어진다면, GPT Transcribe에 덧붙일 추가 모델은 체크포인트의 GPU 시간 비용보다 엔지니어링 시간 측면에서 더 많은 비용이 듭니다. 그리고 Nemotron 3.5 Transcribe는 그 작업을 한 번에 처리합니다.

두 가지 모두에 붙어야 할 단서: 이것은 출시된 지 하루 된 모델이고, 대표 벤치마크는 벤더 자체 측정치이며, 독립 평가 보드는 아직 300억 파라미터 체크포인트를 전혀 평가하지 않았다. 이것을 6월에 나온 600M 스트리밍 모델로, 독립 보드에 등장하며 성능은 상당히 더 나쁜(3.35% WER, Perit에서 22개 중 21위) nvidia/nemotron-3.5-asr-streaming-0.6b와 혼동하지 말 것. 이들은 가족 이름만 공유할 뿐 그 외에는 아무것도 공유하지 않는다.