Muse Voice Transcribe vs Granite Speech 5.0 470M TurboCTC: 직접 보유한 GPU 또는 종량제 API

이 매치업에 대해 가장 유용하게 알 수 있는 점은 Muse Voice Transcribe와 Granite Speech 5.0 470M TurboCTC가 거의 대체재가 아니라는 것입니다. IBM은 Granite Speech 5.0 470M TurboCTC를 2026년 8월 25일에 출시했는데, 이는 4억 7천만 파라미터, Apache-2.0, 영어 전용 ASR 모델로 자체 호스팅용으로 설계되었습니다. CTC로 학습된 인코더 전용 Conformer이며, IBM에 따르면 단일 NVIDIA H200에서 실시간의 12,600배 이상 속도로 전사를 수행합니다. Meta Superintelligence Labs는 Muse Voice Transcribe를 2026년 9월 1일에 독점적이고 호스팅되는 스트리밍 오디오 인식 모델로 출시했습니다. 출시 시점에 25개 언어가 검증되었고, 20개 이상 화자 분리, 엔드포인팅, 오디오 1,000분당 3.00달러의 요금이 적용됩니다. 하나는 당신의 GPU를 원하고, 다른 하나는 당신의 API 키를 원합니다. 두 모델의 대표적인 WER 수치를 비교하는 것은 요점을 완전히 놓치는 일입니다. 진짜 질문은 전사가 어디에서 허용되는지, 그리고 각 모델이 그곳에 도달한 뒤 무엇을 할 수 있는지입니다.

두 가지 배포 철학

Granite Speech 5.0 470M TurboCTC는 오픈 가중치 엣지 ASR 운동의 정점입니다. 470M 파라미터로 노트북, 휴대폰, 단일 GPU에도 무리 없이 들어가며, 라이선스가 Apache-2.0이라 상용 제품에 내장할 수 있습니다. 또한 IBM은 서버 없이 브라우저 탭에서 실시간 전사를 실행하는 WebGPU 데모를 제공합니다. 아키텍처는 의도적으로 단순화되었습니다. 16개의 Conformer 블록, 탐욕적 디코딩, 언어 모델 백본 없음 — 전체 설계 목표가 보급형 하드웨어에서의 처리량이기 때문입니다. Muse Voice Transcribe는 반대의 선택지입니다. 결코 볼 수 없는 대형 독점 모델로, Meta의 인프라에서 오디오 시간당 $0.18에 제공되며, 가치는 실리콘이 아닌 기능에서 전달됩니다. "오디오가 이 건물을 떠나면 안 된다"는 제약이 있다면 선택은 이미 정해져 있습니다. 바로 Granite입니다. "가장 강력한 스트리밍 모델을 원하고 분당 비용을 지불하겠다"면 Muse입니다.

여기서 속도는 다른 의미를 갖습니다.

Granite의 핵심 지표인 12,600 RTFx는 처리량 수치입니다. 배치 추론을 실행하는 H200 하나가 초당 12,600초 분량의 오디오, 즉 매초 3시간 30분 분량의 오디오를 처리합니다. 콜센터 적체 업무, 미디어 아카이브, 또는 GPU를 쉬지 않고 투입하는 모든 배치 파이프라인에서 중요한 지표는 바로 이것입니다. 이는 지연 시간 수치가 아니며, 단일 스트림 대화형 지연 시간은 이 모델의 강점이 아닙니다. Muse Voice Transcribe는 정반대입니다. 80밀리초 청크 처리와 적응형 지연은 화자가 멈춘 직후 처음 300밀리초를 겨냥해 설계되었지, 지속적인 대량 처리량을 위한 것이 아닙니다. 각자 설계된 지표에서는 둘 다 강력하지만, 상대방의 영역에서는 둘 다 제 실력을 발휘하지 못합니다. 영어 아카이브 오디오 백만 시간을 전사해야 한다면 Granite의 경제성이 10배 차이로 승리합니다. 실시간 다중 화자 대화를 그 자리에서 라벨링된 텍스트로 바꿔야 한다면, 그런 기능을 제공하는 것은 Muse뿐입니다.

정확성, 정직하게 표시됨

• Granite Speech 5.0 470M TurboCTC — Open ASR 리더보드의 공개 영어 단문 테스트 세트에서 집계 WER 5.00%; IBM이 공식 하네스로 직접 실행한 결과로, 공급업체가 보고했으며 재현되지 않은 수치이며 영어 오디오에만 해당합니다.

• Muse Voice Transcribe — 스트리밍 WER 3.1%, Meta가 출시일에 Artificial Analysis 스트리밍 리더보드를 인용해 주장한 수치. 첫 부분 전사본에서는 3.6%. 역시 공급업체 보고 수치이며 재현되지 않음.

두 수치는 직접적으로 비교할 수 없다. 서로 다른 말뭉치를 기반으로 하며, 하나는 영어 전용 오프라인 방식이고 다른 하나는 다국어 스트리밍 방식이기 때문이다. 이것이 바로 이 대결이 WER만으로 판가름되어서는 안 되는 이유다. 이용 가능한 증거에 따르면, 둘 다 각자의 작업 부하에 대해서는 그럴듯하지만 검증되지는 않았다. 구조적으로 확실한 것은 Granite의 수치가 영어만을 대상으로 하는 반면, Muse의 주장은 Granite이 경쟁조차 할 수 없는 스트리밍 및 코드 스위칭(언어 전환) 맥락에 있다는 점이다.

각 모델이 도저히 할 수 없는 것

Granite Speech 5.0 470M TurboCTC는 제품 팀에게 유용한 트랜스크립트가 되게 하는 모든 요소를 제거합니다. 영어 전용이며, 화자 분리 기능이 없어 모든 음성이 하나의 스트림으로 처리됩니다. 또한 구두점, 대문자, 타임스탬프를 출력하지 않으며, CTC 설계로 인해 이전 Granite Speech 모델들이 가지고 있던 키워드 바이어싱과 음성 번역 기능도 포기했습니다. 이것들은 품질상의 결함이 아니라 아키텍처 선택입니다. 즉, Granite를 기반으로 구축한 프로덕션 스택에는 여전히 구두점 모델, 화자 분리기, VAD 레이어를 덧붙여야 합니다. Muse Voice Transcribe에서는 그러한 기능들이 모델 자체에 내장되어 있습니다. 20개 이상의 화자 분리와 엔드포인팅이 단어와 함께 스트리밍으로 출력되며, 문장 중간 코드 스위칭을 지원하는 언어 커버리지는 Granite가 전혀 대응할 수 없는 부분입니다. 솔직히 요약하면, Granite는 당신이 제품을 직접 구축할 것이라고 가정하는 인식 엔진이고, Muse는 당신이 도착 즉시 트랜스크립트, 화자, 턴 경계를 원한다고 가정하는 제품 형태의 API입니다.

라이선스 및 소유권

Granite Speech 5.0 470M TurboCTC는 Apache-2.0이며, 추가 학습 데이터 덕분에 약간 더 나은 4.85% WER을 보이는 비상업적 형제 버전(granite-speech-5.0-470m-turboctc-nc, CC-BY-NC-SA-4.0)이 연구용으로 존재합니다. Apache-2.0은 로열티나 감사 위험 없이 서비스 제공, 임베딩, 파인튜닝, 그리고 이를 기반으로 한 제품 판매가 가능함을 의미합니다. Muse Voice Transcribe는 폐쇄적이며 호스팅 전용입니다. 가중치가 없고, 자체 호스팅이 불가능하며, 파인튜닝도 할 수 없고, transcript 데이터는 Meta의 서비스를 통해 Meta의 약관에 따라 처리됩니다. 규제 산업이나 데이터 정책상 제3자의 오디오 처리를 금지하는 팀에게는, 이 한 가지 사실만으로도 벤치마크가 시작되기 전에 비교가 끝납니다. 그 외의 모든 경우, "Apache-2.0과 자체 GPU"와 "독점적이며 사용량에 따라 과금되는 방식"은 단지 서로 다른 위험 프로필일 뿐, 더 낫거나 더 나쁜 것이 아닙니다.

비용 문제

12,600 RTFx의 Granite는 배치 영어 오디오에 대한 자체 호스팅의 경제성을 거의 우습게 만듭니다. H200 한 시간의 컴퓨팅으로 12,000시간 이상의 오디오를 처리할 수 있으므로, 일반적인 임대 요율 기준으로 천 시간 분량의 전사 비용은 원시 GPU 시간 몇 달러에 불과합니다. 이는 유휴 시간, 엔지니어링, 누락된 화자 분리 계층을 고려하기 전의 이야기입니다. Muse Voice Transcribe는 오디오 시간당 $0.18을 청구하는데, 이는 스트리밍 API로서는 저렴하지만 가동 중인 GPU 옆에서는 저렴하지 않습니다. 솔직한 경험칙은 이렇습니다. 오디오가 영어이고, 사전 녹음되었으며, 물량이 있다면 Granite를 자체 호스팅하는 것이 경제적으로 이깁니다. 오디오가 실시간, 다중 화자 또는 다국어라면 Muse는 관리형 기능 서비스로 가격이 책정되며, 천 시간의 실시간·화자 분리·엔드포인팅 스트리밍에 $180은 그런 스택을 직접 구축하는 비용에 비하면 작은 숫자입니다.

둘 다 운영하되, 엉망으로 운영하지 않기

두 프로필이 모두 필요한 팀, 즉 영어 배치 처리를 위한 Granite 자체 호스팅과 실시간 다국어 대화를 위한 관리형 API를 함께 쓰는 팀은 서로 매우 다른 두 가지 통합 방식을 떠안게 됩니다. 호스팅되는 쪽은 정확히 라우팅 게이트웨이가 처리하도록 설계된 워크로드의 형태입니다. 여러 제공업체에 걸친 단일 API 키, 0% 마크업으로 전달되어 공급업체의 분당 요금이 그대로 실제 청구 금액이 되는 정가, 그리고 제공업체 엔드포인트가 성능 저하를 보일 때의 자동 장애 조치가 그것입니다. 자체 호스팅되는 쪽은 계속 여러분의 것입니다. Granite를 게이트웨이로 라우팅할 필요는 없습니다. 자체 하드웨어에서 실행되기 때문입니다. 하지만 이 구조가 암시하는 혼합 스택은 단일 API 플랫폼이 두 개의 병렬 엔지니어링 프로젝트로 갈라지는 것을 막기 위해 존재하는 바로 그런 것입니다.

어느 것을 골라야 할까요?

대규모 영어 전사가 업무라면 — 아카이브, 통화 녹음, 자막 파이프라인 — 그리고 GPU를 사용할 수 있다면, Granite Speech 5.0 470M TurboCTC는 비용, 라이선스, 제어 측면에서 더 나은 엔지니어링 결정입니다. 다만 구두점, 화자 분리, 스트리밍 레이어는 직접 구축해야 한다는 전제가 붙습니다. 실시간, 다중 화자, 또는 다국어 대화가 업무라면 — 음성 에이전트, 실시간 자막, 회의 제품 — Muse Voice Transcribe는 Granite에는 없는 기능을 관리형 API 가격으로 제공하며, 다만 그 수치는 비공개 가중치에 대한 출시일 기준 주장이라는 점을 유의해야 합니다. 이 둘은 경쟁 관계라기보다 서로 다른 질문에 대한 답변에 가깝고, 이를 제대로 이해한 팀은 종종 둘 다 운영하게 될 것입니다.