Ming-3.0-audio-flash vs Gemini 3.8 Live: 오픈 웨이트, 8개 GPU, 그리고 실제로 계산할 수 있는 청구서

연속 오디오 1시간을 입력하는 데 드는 비용은, G​emini 3.8 Live의 경우 Google이 공개한 정가 기준 $0.30입니다. 오디오 1시간을 다시 출력하는 비용은 $1.08입니다. 양방향 음성 세션이 양쪽 방향으로 한 시간 내내 작동하면 $1.38입니다. Ming-3.0-audio-flash는 분당 가격이 전혀 없습니다. 구매할 엔드포인트가 없기 때문입니다. 이는 MIT 라이선스의 1,260억 매개변수 전문가 혼합(mixture-of-experts) 체크포인트이며, 그 비용은 H800 8대를 한 시간 운용하는 비용과 같습니다. 두 문장으로 요약되는 비교는 이것이 전부이며, 이 두 시스템 사이의 거의 모든 다른 차이는 여기에서 비롯됩니다.이와 같은 릴리스의 배경이 되는, 문서화된 AI 실패 및 에이전트 사건들은 다음에 수집되어 있습니다: OrcaRouter AI Incident Archive에는 각 항목이 자체 출처, 심각도, 신뢰도 등급 및 이견 표시 플래그를 함께 담고 있습니다.

시점이 중요한 이유는 이것이 출시가 아니기 때문입니다. inclusionAI는 2026년 9월 3일 Ming-3.0-audio-flash 가중치를 Hugging Face에 올렸고 그 사실에 대해 아무 말도 하지 않았습니다. 6주 동안 해당 저장소는 사실상 샤드 폴더에 불과했습니다. 서빙 코드도, 예제도, 쓸 만한 모델 카드도 없었습니다. GitHub 저장소는 10월 15일에 만들어졌고, vLLM-Omni 및 SGLang 프로필, 음성 프리셋, 다시 작성된 모델 카드는 10월 15일에서 19일 사이에 올라왔으며, 이 글을 쓰는 현재 Hugging Face 목록에는 다운로드 수가 22로 표시됩니다. 반면 Gemini 3.8 Live는 Google이 저지연 음성 에이전트의 기본값이라고 설명하는, 안정적이고 일반 제공 중인 Live API 모델입니다. 이 중 하나는 오늘 오후에 바로 호출할 수 있는 제품입니다. 다른 하나는 이번 주에야 실행 가능해졌고 아직 운영 주체도 없습니다.

두 시스템이 실제로 무엇인지

{{1}}Gemini 3.8 Live{{/1}}는 Live API를 통해 제공되는 호스팅 스트리밍 모델입니다. 이 API는 16kHz의 원시 16비트 PCM 오디오, 초당 최대 1프레임의 이미지, 그리고 텍스트를 입력받고 원시 24kHz PCM 오디오를 반환합니다. {{2}}Google의{{/2}} Live API 문서에 따르면 언어 지원 범위는 70개 언어입니다. 세션을 열고 스트리밍하면 오디오를 돌려받습니다. 체크포인트도, GPU 예약도, 읽어야 할 라이선스도 없습니다.

{{1}}Ming-3.0-audio-flash{{/1}}는 더 문자 그대로의 의미에서 오디오-언어 모델입니다. {{2}}오디오 인코더와 프로젝터가 전문가 혼합(mixture-of-experts) 언어 백본으로 입력을 전달하며{{/2}}, {{3}}선택적인 Talker가 모델의 텍스트 출력을 음성으로 변환합니다{{/3}}. {{4}}입력은 오디오와 텍스트 지시문입니다{{/4}}. {{5}}출력은 텍스트 또는 합성 음성이 포함된 텍스트입니다{{/5}}. {{6}}카드에는 중국어와 영어가 주요 언어로 나열되어 있으며, "다양한 억양과 방언을 포함합니다."{{/6}} {{7}}라이선스는 MIT입니다{{/7}}.

• 매개변수 — Ming: 총 126B, 추론 단계당 6.5B 활성화(Hugging Face 사이드바에는 별도로 128B라고 표시되어 있는데, 이는 카드에서 설명하지 않는 불일치임). Gemini 3.8 Live: 공개되지 않음.

• 언어 — Ming: 중국어 및 영어. G​emini 3.8 Live: Live API 문서 기준 70개 언어.

• 입력 — Ming: 오디오 및 텍스트 지시문. G​emini 3.8 Live: 오디오, 이미지, 텍스트.

• 출력 — Ming: 텍스트, 선택적으로 음성. G​emini 3.8 Live: 오디오, 그리고 동일한 세션을 통한 텍스트.

• 라이선스 — Ming: 가중치와 코드에 MIT. G​emini 3.8 Live: 상용 API 계약.

• {{1}}가격 — Ming: 요금표 없음; GPU 비용은 직접 지불합니다.{{/1}} G​emini 3.8 Live: {{2}}오디오 입력 토큰 100만 개당 $3.00 또는 분당 $0.005; 오디오 출력 토큰 100만 개당 $12.00 또는 분당 $0.018; 텍스트는 100만 개당 입력 $0.75, 출력 $4.50.{{/2}}

오디오 시간 계산, 제대로 하기

위의 분당 수치는 꼭 새겨둘 만한 수치이며, 한 분 분량의 말을 하려면 토큰이 얼마나 소모되는지 전혀 모르는 독자에게 토큰 가격을 제시함으로써 대부분의 비교가 잘못 짚는 것도 바로 이 수치입니다. 대신 분당 요금을 사용하세요. Google이 이를 직접 공개하기 때문입니다.

• 듣기만 하는 경우, 1시간 — $0.005 기준 60분이면 $0.30입니다.

• 말하기만 기준으로 1시간 — 60분에 $0.018이면 $1.08입니다.

• 양방향 1시간 전체 — $1.38, 텍스트 토큰이나 도구 호출 전 기준.

• 양방향 1,000시간 — $1,380.

이제 Ming-3.0-audio-flash에서 같은 1시간을 보겠습니다. 음성 출력을 포함한 전체 128K 컨텍스트에 대한 참조 서빙 프로파일은 저장소 자체의 배포 노트에 따르면 8개의 80GB H800 GPU에 걸친 텐서 병렬 처리입니다. 4개 GPU에서는 검증된 SGLang 프로파일을 실행하지만, 그 프로파일은 텍스트 출력 전용입니다. 따라서 정직한 자체 호스팅 비교는 8개 GPU 대 종량제 세션입니다. GPU당 시간당 2달러를 가정하면, 1시간의 용량 비용은 16달러입니다 — 그리고 이는 전체 GPU에 대한 비용이므로, 하나의 대화가 아니라 동시 요청 전반에 걸쳐 상각할 수 있습니다. 동시 스트림이 10개라면 대화당 비용은 시간당 1.60달러 미만으로 떨어지고, 100개라면 0.16달러 미만입니다. 이는 측정값이 아니라 산술 계산이며, 활용률, 배치 효율성, 그리고 활성 파라미터 6.5B의 126B 모델이 짧은 오디오 클립에서 8개의 H800을 포화시키지 못한다는 사실을 무시합니다.

교차점은 실제로 존재하지만 사람들이 가정하는 곳에 있지는 않다. 대략 12개 미만의 동시 대화에서는 G​emini 3.8 Live가 H800 8대를 임대하는 것보다 저렴하고, 구매하는 것보다는 훨씬 저렴하다. 그 이상에서는—배치를 계속 가득 유지할 수 있다고 가정할 때—오픈 체크포인트가 순수 컴퓨팅 비용에서 승리한다. 이것이 오픈 가중치의 경제적 논거 전체이며, 기억해야 할 숫자가 매개변수 수가 아니라 8개 GPU 요구 사항인 이유다.

각 측에서 "오디오 이해"가 의미하는 것

Gemini 3.8 Live는 대화를 위해 만들어졌습니다. 그 역할은 사용자의 말을 듣고, 빠르게 응답하며, 발언 순서를 처리하는 것입니다. Google의 모델 목록에서는 이를 "추론 지연 없이 대부분의 저지연 음성 에이전트 경험을 위한" 기본 Live 모델로 위치시키는데, 이는 지연 시간 예산에 관한 설명이지 오디오 분석의 깊이에 관한 설명은 아닙니다.

Ming-3.0-audio-flash는 다른 작업을 겨냥하고 있습니다. 이 카드의 다섯 가지 핵심은 방언, 억양, 소음 및 다중 화자 녹음 전반에 걸친 복잡한 음성 인식, 긴 오디오 이해, 비음성 소리·음향 장면·음악의 지각, 오디오 콘텐츠에 대한 추론, 선택적 합성 응답이 가능한 음성 상호작용입니다. 이는 채팅 모드를 덧붙인 전사 및 분석 목록이지, 음성 에이전트 목록이 아닙니다.

실질적인 결과: 제품이 400밀리초 안에 응답해야 하는 전화 에이전트라면, 벤치마크 점수와 관계없이 Gemini 3.8 Live가 그에 맞는 형태이고 Ming-3.0-audio-flash는 그렇지 않습니다. 제품이 "90분짜리 실적 발표 통화를 입력받아 누가 무슨 말을 했는지 알려주고 CFO의 말투가 바뀐 순간을 표시하는" 것이라면, Ming 카드가 설명하는 것은 당신의 작업이고 Live API는 다른 작업을 설명하고 있습니다.

아무도 해결하지 못한 벤치마크 문제

Ming-3.0-audio-flash는 저장소에 음성 인식, 오디오 인텔리전스, 텍스트의 세 가지 벤치마크 패널을 제공합니다. 모든 값은 백분율이며, 아래쪽 화살표로 표시된 경우를 제외하면 높을수록 좋고, 별표로 표시된 결과는 팀 자체 평가입니다. 저장소에는 비교 모델 결과가 inclusionAI 자체 평가 설정에서 재현된 것이며, 프롬프트, 디코딩 설정, 모델 버전 및 파이프라인 때문에 해당 모델의 공식 보고서와 다를 수 있다는 주석이 추가되어 있습니다.

그 메모는 이례적으로 솔직하며, 동시에 그 차트로는 Ming을 G​emini 3.8 Live와 비교해 순위를 매길 수 없다는 뜻이기도 합니다. 수치는 이미지 안에 있지 README 텍스트에는 없으며, G​oogle은 3.8 Live에 대해 비교 가능한 오디오 이해 평가 스위트를 공개하지 않습니다. 두 모델 모두를 평가한 제3자 리더보드는 없습니다. 이 두 모델을 나란히 놓은 막대 차트를 보여주는 사람은 한 축은 공급업체의 주장으로, 다른 축은 아무것도 아닌 것으로 만든 것입니다.

오늘 확인 가능한 유일한 정직한 진술: Ming-3.0-audio-flash는 공급사가 직접 산출한 수치만 있고 독립적인 수치는 없으며, G​emini 3.8 Live는 실제 운영 실적은 있지만 공개된 오디오 추론 벤치마크는 없다. 구매 결정에서 중요한 유일한 기준인 증거에서 이는 동점이다.

OrcaRouter가 적합한 경우와 그렇지 않은 경우

Ming-3.0-audio-flash는 저희 플랫폼에 없습니다. 아닌 척하지는 않겠습니다. 실행하려면 저장소를 클론하고, 이 모델이 명시한 vLLM-Omni 또는 SGLang 브랜치를 설치하고, GPU를 직접 준비해야 합니다. 이 비교에서 라우터가 유용한 지점은 결정의 반대편입니다. 즉, 호스팅형 오디오 모델이 실시간 트래픽을 처리한다고 이미 결정한 상태에서, 어떤 호스팅 모델을, 어떤 가격에, 세션이 실패할 때 어떤 폴백으로 쓸 것인가가 문제가 되는 부분입니다. 그것은 하나의 키 뒤에 있는 200개 이상의 모델에 걸친 라우팅 문제이며, 공급자 정가 그대로에 마크업이 붙지 않기 때문에 공급자의 가격 변경이 다음 계약 갱신 때가 아니라 같은 날 여러분에게 도달합니다.

오픈 오디오 체크포인트가 프로덕션 트래픽을 받을 자격이 있는지 테스트하는 팀에게 유용한 패턴은 호스팅 경로를 폴백으로 유지하고 트래픽을 자체 호스팅 Ming으로 점진적으로 옮기는 것입니다. 자동 장애 조치가 있어야 그 마이그레이션이 하나의 도박이 아니라 되돌릴 수 있는 것이 됩니다.

선택하기

이번 분기에 프로덕션 환경에서 음성 에이전트가 필요하거나, 두 개 이상의 언어가 필요하거나, 동일한 스트림에서 이미지가 필요하거나, 동시 대화가 열두 개 미만일 것으로 예상한다면 Gemini 3.8 Live를 선택하세요. 분당 요금은 저렴하고, 운영 부담은 전혀 없으며, 모델은 안정적이고 문서도 잘 갖추어져 있습니다.

가중치를 직접 소유해야 하고, 온프레미스 또는 에어갭 환경에서 실행해야 하며, MIT 조건이 필요하고, 주로 중국어와 영어로 작업하며, H800 8대 또는 이를 할당해 줄 수 있는 스케줄러가 있다면 Ming-3.0-audio-flash를 선택하세요. 평가는 직접 해야 할 것으로 예상하세요. 아무도 대신 해주지 않았으니까요. 툴체인은 며칠 된 것으로 예상하세요. 실제로 그렇습니다. 그리고 모델 카드가 계속 바뀔 것으로 예상하세요. 마지막 커밋은 이 글이 작성된 날이었습니다.

세 번째 경우가 있으며, 그것이 가장 큰 경우입니다. 그 두 가지 중 어느 쪽인지 아직 모른다면, 종량제 API와 8-GPU 배포 중에서 선택할 준비가 되지 않은 것입니다. 먼저 호스팅 모델에 자신의 오디오 100시간을 통과시켜 실제로 필요한 정확도를 측정하고, 그 수치가 오픈 체크포인트가 랙을 차지할 가치가 있는지 결정하게 하십시오.

볼 만한 것

이 비교를 바꿀 것은 벤치마크가 아니다. 그것은 운영자다. 서빙 제공자가 Ming-3.0-audio-flash를 시간당 가격이 붙은 OpenAI 호환 엔드포인트 뒤에 올리는 순간, 8개 GPU 논쟁은 더 이상 독자의 문제가 아니게 되고 시간당 $1.38에는 경쟁자가 생긴다. 그때까지는 솔직한 요약은 이렇다. G​oogle은 1분을 팔고 inclusionAI는 기계 한 대를 거저 주며, 둘은 이미 그 기계를 가지고 있는 경우에만 비교 가능하다.