Realtime 1 vs Realtime Venus를 위한 생성된 타이틀 카드로, 분당 호스팅 가격과 GPU당 시간당 자체 호스팅 비용을 대비시키며, Apache 2.0 라이선스 표시와 OrcaRouter 로고가 포함되어 있습니다.
Engineering & Research

Realtime 1 vs Realtime Venus: GPU 한 대 비용으로 보이스 에이전트를 임대할까, 소유할까

작성자

jinhao.song

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

이 대결의 모든 것은 라이선스 파일에 적힌 한 문장으로 귀결됩니다. Realtime Venus는 Apache 2.0입니다 — 직접 다운로드해 자신의 A100에서 실행하고, 다시는 분당 요금을 내지 않는 9B 모델입니다. MAI Realtime 1은 Microsoft가 2026년 11월 17일에 발표한 호스티드 API로, 오디오 분당 $0.01에 뒤에는 토큰 가격이 책정된 추론 티어가 있고, 공개 미리 보기 전까지는 비용을 청구하지 않는 Foundry 프리뷰가 있습니다. 이 중 하나는 호출당 가격이 있습니다. 다른 하나는 GPU 시간당 가격이 있습니다. 이들을 요금표로 비교하는 것은 범주 오류입니다. 그렇기 때문에 호스티드 음성 대 오픈 웨이트에 관한 거의 모든 글이 같은 지점에서 잘못됩니다.

올바른 질문은 각 모델을 귀하의 사용량 규모에서 운영하는 데 비용이 얼마나 드는지, 그리고 각 모델이 실제로 무엇을 할 수 있는지입니다 — 바로 거기서 비교가 뒤집힙니다: 오픈 모델의 수치는 하네스를 설명하는 논문과 함께 제공되는 반면, 호스팅 모델의 수치는 단일 정확도 수치 하나만 적힌 모델 페이지에서 나옵니다. 그 역전이 바로 이 이야기의 핵심입니다.

각각이 실제로 무엇인지

Realtime Venus는 inclusionAI에서 나왔으며 arXiv 2609.13814에 문서화되어 있고, Ant Group의 Venus Team과 Tsinghua University의 공로로 기록되어 있으며, 논문 날짜는 2026년 9월입니다. 두 개의 체크포인트로 출시됩니다. Realtime-Venus-Omni는 MiniCPM-o 4.5에서 적응된 9B 오디오-비주얼 모델로, 지속적으로 보고 들으며 언제 말할지 결정하고 하나의 타임라인에서 텍스트와 음성을 출력합니다. Realtime-Venus-Audio는 동일한 스트리밍 백본을 사용하는 9B 오디오 전용 모델입니다. 둘 다 오디오 인코더로 Whisper-Medium을, 언어 백본으로 Qwen3-8B를, 스트리밍 플로우 매칭 디코더가 있는 이산 S3 음성 토큰을, 40,960토큰 컨텍스트를, BF16 가중치를 사용하며, 지원 언어는 영어와 중국어입니다.

MAI Realtime 1은 Microsoft의 첫 음성-음성 모델로, 호스팅되는 2계층 시스템이다. 분당 1센트의 빠른 대화 경로와, 더 어려운 턴이 라우팅되는 추론 엔진(백만 입력 토큰당 1.00달러, 백만 출력 토큰당 5.00달러)으로 구성된다. 아키텍처 세부 정보도, 파라미터 수도, 언어 목록도 없다. 공개된 정확도 수치는 하나로, 자사 모델 페이지에 있는 Big Bench Audio에서 98.8%이며, 공급업체가 직접 실행했고 재현되지 않았다. 이는 아래 상황과 정반대인데, 아래에서는 더 작은 연구소가 평가 방법을 누구나 읽을 수 있는 논문에 공개했다.

• 가중치 — Realtime Venus Apache 2.0, 다운로드 가능, 9B 체크포인트 2개; MAI Realtime 1은 비공개, 등록 후 프리뷰 액세스.

• 언어 — Realtime Venus 영어 및 중국어, 명시적으로; MAI Realtime 1은 목록에 없음.

• 컨텍스트 — Realtime Venus 40,960 토큰; MAI Realtime 1 미공개.

• 하드웨어 — Realtime Venus는 실시간 양방향 데모를 위해 A100이 필요하지만, MAI Realtime 1은 키 하나만 있으면 됩니다.

• 모달리티 — Realtime Venus Omni는 스트리밍 비디오와 오디오를 처리하고, MAI Realtime 1은 음성 대 음성 방식입니다.

• 가격 구조 — Realtime Venus는 GPU 시간당, 영구적으로; MAI Realtime 1은 오디오 분당에 추론 토큰을 더함.

Realtime Venus가 공개한 수치들, 그리고 그 의미

이 논문은 전이중 동작에 관해 이례적으로 구체적인데, 이는 대부분의 음성 모델이 모호하게 남겨 두는 부분이다:

• 인터럽션 응답 — Full-Duplex-Bench v1.5 기준 사용자 인터럽션의 75%에 응답.

• 맞장구 이후 대화 지속 — 97%.

• 말이 다른 곳을 향할 때 계속 이어가기 — 88%.

• 배경 음성 속에서도 지속 — 86%.

• 저자들의 주장 — 이 모델들은 "세 가지 연속 지표 모두에서 Gemini 3.1 Live와 GPT-4o를 능가한다"고 말한다. 비교 대상에 주목하라: Gemini 3.1 Live는 Google이 이제 3.8 Live를 위해 레거시로 표시한 모델이고, GPT-4o도 그렇다. 둘 다 현재의 최전선이 아니므로, 승리는 실제이지만 기준은 한 세대 뒤처져 있다.

이해도 부문에서 Realtime-Venus-Audio는 MMAU 78.0%, MMAU-Pro 63.2%, Llama Questions 83.8%, Speech CMMLU 67.8%로 비교군을 앞서며, VoiceBench AlpacaEval 최고 점수인 4.81과 동률을 기록했습니다. Realtime-Venus-Omni는 평가된 온라인 모델 중 8개 비디오 벤치마크 가운데 6개에서 최고 성능을 보였으며, 여기에는 StreamingBench 70.2%, OVO-Bench 64.7%, Daily-Omni 81.3%가 포함됩니다.

그 모든 것은 저자들이 자신들의 논문에서 수행한 자체 평가입니다. 이는 마케팅 페이지보다 강한 증거이며 — 최소한 평가 하네스와 비교 세트가 설명되어 있기 때문입니다 — 독립적인 평가 위원회보다는 약한 증거입니다. Artificial Analysis는 11월 18일 현재 Realtime Venus를 다루지 않으므로, 어떤 제3자도 이를 재실행하지 않았습니다.

논문의 초록 수준 요약에서 빠져 있는 단 하나의 숫자는 서포트 에이전트에게 중요한 바로 그 숫자입니다: τ-Voice 에이전틱 작업 완료 점수. Realtime Venus는 다른 아이디어를 중심으로 만들어졌습니다. 즉, 비동기 외부 작업을 별도의 Harness 런타임으로 넘겨 작업이 백그라운드에서 진행되는 동안에도 대화가 계속 이어지게 하는 <delegate> 메커니즘입니다. 이는 MAI Realtime 1이 내부적으로 추론 계층을 통해 하는 일, 그리고 G​PT Live 1이 백엔드 에이전트로 넘기는 방식과 아키텍처적으로 가깝습니다. 세 가지 다른 제품, 하나의 수렴된 설계: 빠르게 말하고, 생각은 위임하라. 위임 부분에 대한 직접 비교는 아무도 발표하지 않았습니다.

A generated two-column scoreboard titled 'MAI Realtime 1 vs Realtime Venus — the scoreboard'. Left column MAI Realtime 1: licence closed preview only, weights hosted only, price shape $0.01 a minute, languages not published, video no. Right column Realtime Venus: licence Apache 2.0, weights two 9B checkpoints, price shape per GPU hour, languages English and Chinese, video yes, Omni. Footer reads 'Venus figures from its own paper, author evaluations; MAI figures per Microsoft.'

분당 가격이 숨기는 산수

여기서부터는 비교가 요금 자체의 문제가 아니게 됩니다. 분당 1센트인 MAI Realtime 1은 오디오 1시간당 $0.60입니다. Realtime Venus를 실행하는 A100 한 대는 일반 클라우드 가격 기준으로 시간당 대략 $1.50에서 $2.50 정도입니다. 가정상 $2라고 해두고, 이는 시장 가격이며 두 공급업체 중 어느 곳도 공개하는 가격이 아니라는 점에 유의하세요.

• 손익분기점 — 해당 요금 기준으로 동시 대화 약 3~4개면 A100 한 대를 가득 채웁니다. 그보다 적으면 임대하는 것이 더 저렴하고, 그보다 많으면 소유하는 것이 더 저렴합니다.

• 호스팅 측의 걸림돌 — MAI Realtime 1의 추론 티어는 분당 요율에 더해 토큰당 과금되므로, 시간당 실제 비용은 $0.60을 넘으며 정확히 알 수 없습니다.

• 자체 호스팅 측면에서 걸리는 점 — 9B 듀플렉스 모델의 A100당 동시 처리 수 역시 공개되지 않았습니다. 데모에는 "최소 NVIDIA A100 한 장"이 필요하다고 되어 있는데, 이는 실행된다는 것만 알려줄 뿐 몇 개의 스트림을 지속할 수 있는지는 전혀 알려주지 않습니다.

따라서 손익분기점의 양쪽 값은 모두 추정치입니다. 추정치가 아닌 것은 곡선의 모양입니다. 호스팅 비용은 선형으로 무한히 증가하고, 자체 호스팅 비용은 고정 하한이 있다가 꺾입니다. 하루 100건 규모의 파일럿은 호스팅을 선택해야 합니다. 200개의 동시 회선을 운영하는 컨택트 센터는 호스팅 모델이 실질적으로 더 낫지 않은 한 그럴 필요가 없습니다. 그리고 이번 맞대결에서는 공개 모델 쪽이 정확도 주장과 함께 공개된 하네스를 제시합니다.

또한 요금표에는 절대 드러나지 않는 운영상의 비대칭성이 있습니다. 듀플렉스 9B 모델을 자체 호스팅한다는 것은 GPU 용량, 콜드 스타트, 모델 로딩, 그리고 노드가 다운되어 통화가 끊기는 실패 모드를 직접 감당해야 한다는 뜻입니다. 호스팅은 그중 아무것도 감당하지 않는 대신 벤더의 지연 시간, 가용성, 지원 중단 일정을 받아들이는 것입니다. 팀들은 일관되게 첫 번째를 과소평가하고 두 번째를 과대평가하는데, 보통 첫 번째가 스프레드시트에서는 보이지 않기 때문입니다.

호스팅된 모델에 오픈 가중치 답변이 없는 경우

세 가지입니다. 그리고 그것들은 결코 작지 않습니다.

엔터프라이즈 플러밍: MAI Realtime 1이 Dynamics 365 Contact Center와 간호사 교육 시뮬레이션용 Dragon Copilot에 도입될 예정이며, Agoda와 Reservations.ai가 테스트 중입니다. 이는 직접 커넥터를 구축하지 않으면 자체 호스팅 모델이 접근할 수 없는 시스템으로의 통합입니다.

호환성: O​penAI Realtime API를 지원하므로 기존 음성 스택은 재작성 대신 모델 문자열만 있으면 됩니다. Realtime Venus는 Python 패키지로 배포됩니다 — AutoModel.from_pretrained, as_duplex(), 초 단위 streaming_prefill() 및 streaming_generate(), 호스트의 FFmpeg와 CUDA. 이는 실제 엔지니어링 프로젝트입니다.

그리고 전사 범위: Microsoft의 동반 발표인 MAI Transcribe 2 기반 Dragon Copilot Transcribe는 Venus 논문에서 다루는 그 어떤 것도 미치지 못하는 규모의 임상 받아쓰기를 포괄합니다 — Microsoft 자체 설명에 따르면 월 1,000만 건의 환자 진료, 다국어 오류율은 절반입니다. 제품이 임상용이라면, 논거는 그 생태계이지 분당 요금이 아닙니다.

오픈 가중치에 호스팅된 답이 없는 경우

비디오. Realtime-Venus-Omni는 스트리밍 오디오비주얼 모델입니다 — 보고 들으며, Omni 벤치마크는 비디오 벤치마크입니다. MAI Realtime 1은 음성입니다. 상호작용에 카메라, 화면 공유 또는 환자가 무언가를 가리키는 동작이 포함된다면, 호스팅된 모델은 이를 시도하지 않으므로 비교 자체가 성립하지 않습니다.

장시간 비디오 메모리도 마찬가지입니다. Venus 카드는 use_memory() 스위치를 통해 추가 학습 없이 긴 비디오에 걸친 메모리를 제공한다고 주장합니다. Microsoft의 발표 내용 중 세션 전반에 걸친 메모리를 다루는 부분은 없습니다.

그리고 라이선스입니다. Apache 2.0은 모델을 파인튜닝하고, 제품 안에 탑재해 출시하고, Microsoft가 리전을 두지 않은 관할권에서도 운영하며, 오디오를 자체 하드웨어에 보관할 수 있다는 뜻입니다. 데이터가 건물 밖으로 나갈 수 없는 임상 또는 공공 부문 배포에서 이것은 선호 사항이 아니라 필수 요건이며, 분당 얼마씩 깎아주는 할인으로는 결코 대체할 수 없습니다.

A screenshot of the Hugging Face model card for inclusionAI/Realtime-Venus captured 18 November 2026, showing the Any-to-Any pipeline tag, Transformers, ONNX and Safetensors badges, English and Chinese language tags, and the multimodal, audio, video, streaming and full-duplex tags.

대부분의 팀이 실제로 구축해야 하는 하이브리드

앞서 언급한 수렴이 실질적인 해답이다. 이 세 제품 모두 — Realtime Venus, MAI Realtime 1, G​PT Live 1 — 대화를 작업과 분리한다. Venus는 <delegate>와 Harness 런타임을 통해, Microsoft는 내부 추론 계층을 통해, O​penAI는 명시적으로 연결된 백엔드 에이전트를 통해 그렇게 한다. 모든 경우에 어려운 부분은 두 번째 모델이 사고를 담당한다는 점이며, 모든 경우에 그 계층에 비용과 지연이 집중된다.

즉, 이들 사이의 결정은 사실상 프런트엔드에 관한 결정이며, 백엔드는 어느 쪽이든 동일할 수 있습니다. OrcaRouter는 바로 그 두 번째 계층을 위해 만들어졌습니다: 하나의 키로 200개 이상의 모델을 공급자 정가에 0% 마크업으로, 따라서 어떤 프런트엔드를 선택하든 그 뒤의 추론 모델은 교체 가능하고 공급업체 가격 변경은 같은 날 반영됩니다. 자동 장애 조치는 위임된 작업을 프로덕션에서 실행해도 안전한 것으로 바꿔 줍니다 — 조용히 실패하는 백그라운드 호출은 호출자에게 한 번도 지켜지지 않는 약속이며, 공급자 전반에 걸친 라우팅된 재시도는 완료되는 작업과 조용히 완료되지 않는 작업 사이의 차이입니다. 라우팅 DSL은 위임 정책을 규칙으로 만드는 방법입니다: 어떤 인텐트가 어떤 모델로, 어떤 예산에서 에스컬레이션되는지.

이 두 음성 모델은 모두 우리 카탈로그에 없습니다 — Realtime Venus는 직접 호스팅하는 Apache 2.0 가중치이고, MAI Realtime 1은 MAI Labs와 Foundry의 제한 액세스 프리뷰입니다. 우리가 라우팅하는 것은 이들이 위임하는 모든 것입니다.

A screenshot of the OrcaRouter models catalogue captured 18 November 2026, showing the header line '226 models · 17 providers · one API key, one bill' and the model grid with search and sort controls.

구체적으로 선택하기

다음 중 하나라도 해당하면 Realtime Venus로 시작하세요. 데이터가 인프라 밖으로 나갈 수 없거나, 상호작용에 영상이 포함되거나, 특히 영어와 중국어만 필요하고 그 외에는 필요 없거나, 이미 GPU 용량을 보유하고 있거나, 사용량이 충분히 많아 분당 선형 청구 방식이 맞지 않는 구조일 때입니다. 그 대신 Python API를 갖춘 연구용 수준의 스택을 운영하고, 문서 대신 논문을 사용하며, 저자들의 수치를 확인해 줄 독립적인 벤치마크가 없다는 점을 받아들여야 합니다.

음성 전용 상호작용이고, 볼륨이 크지 않으며, 통합이 이미 OpenAI-Realtime 형태이고, 분당 1센트가 프로젝트를 어떻게든 성립시키는 숫자라면 MAI Realtime 1로 시작하세요. 그 대가로 거의 아무것도 측정할 수 없다는 점을 받아들여야 합니다. 공급업체가 보고한 정확도 수치 하나, 분포가 없는 P50 지연시간, τ-Voice 점수 없음, 언어 목록 없음, 그리고 확인했을 때 스스로 사용 불가라고 보고하던 2분짜리 비상업용 데모뿐입니다.

그리고 둘 모두가 조용히 걸고 있는 바로 그 점을 주목하라. Realtime Venus, MAI Realtime 1, GPT Live 1은 모두 음성 모델이 누군가 기다리는 동안 깊이 생각해서는 안 된다고 결론 내렸다. 이들 사이의 차이는 오직 그 사고가 어디로 향하느냐뿐이다. 위임된 절반에 대한 작업 완료율을 먼저 공개하는 쪽이 분당 요율로는 결코 가릴 수 없었던 맞대결을 결판낼 것이다.

이 글에서 비교한 모델1

이 글에서 자동 인식 · 벤치마크: Artificial Analysis · 매일 업데이트