Eleven Realtime v1 Max, 속도 및 음성 추론 부문에서 선두 — 인덱스 점수는 없음

Eleven Realtime v1 Max는 0.57초 만에 응답하고 Big Bench Audio에서 98.8%를 기록하며, Eleven Realtime v1 Mini는 0.62초 만에 응답하고 같은 테스트에서 76%를 기록합니다. 이 두 수치를 함께 보면 ElevenLabs의 2026년 10월 20일 발표에서 가장 유용한 정보입니다. 어느 하나만으로 인상적이어서가 아니라, 두 모델 간 23포인트 차이와 더 약한 쪽이 기본으로 제공된다는 사실 때문입니다. 이 등급 모델들의 배후에 있는 문서화된 AI 사건과 에이전트 실패는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 고유한 출처, 심각도, 신뢰도 등급 및 이견 표시가 포함되어 있습니다.

같은 리더보드에는 두 번째이자 더 이상한 사실이 있습니다. {{1}}Artificial Analysis{{/1}}는 두 모델 모두에 대해 첫 오디오까지의 시간, {{2}}Big Bench Audio{{/2}} 점수, 대화 역학 점수, 아레나 Elo, 작업 성공률을 나열합니다 — 그리고 Speech to Speech Index가 있어야 할 자리에는 대시를 표시합니다. Max에는 인덱스 점수가 없습니다. 낮은 점수가 아닙니다. 아예 없습니다.

그 이유는 기계적이며, 이어지는 내용의 대부분을 설명해 준다. 이 지수는 네 가지 구성 요소의 동일 가중 평균이다: 음성 추론(Big Bench Audio), τ-Voice 고객 서비스 벤치마크에서의 에이전트 성능, 아레나 선호도, 작업 성공률. 모델이 채점되려면 네 가지 모두가 필요하다. Max는 세 가지를 갖췄다. E​levenLabs는 Max를 "복잡한 작업"과 "다단계 도구 사용"을 위해 특별히 판매한다. 그리고 도구 사용 벤치마크는 아직 아무도 Max에서 실행하지 않은 바로 그 벤치마크다.

E​levenLabs가 실제로 출시한 것

Eleven Realtime 제품군은 ElevenLabs가 잘 알려진 텍스트 음성 변환 모델과는 다른 종류의 제품입니다. 각 Realtime 모델은 인식, 턴테이킹, 추론 단계, 음성 생성을 함께 처리하는 단일 네트워크이며, 오케스트레이터가 음성-텍스트 변환, 언어 모델, 텍스트-음성 변환 음성을 연결해 구성한 파이프라인이 아닙니다. ElevenLabs의 주장은 이 네 단계를 하나의 시스템으로 조정하면 이음새가 사라진다는 것입니다. 즉, 발화자가 말을 멈춘 뒤의 0.5초 침묵, 상대가 끼어들었는데도 에이전트가 계속 말을 덮어버리는 문제, 전사가 들은 내용과 음성이 다시 말하는 내용 사이의 불일치 같은 문제입니다.

두 모델 모두 두 가지 방식으로 접근할 수 있습니다. ElevenAgents 내에서 드롭다운에서 모델을 선택하면 플랫폼이 나머지를 구성하는 방식으로, 또는 O​penAI의 것과 의도적으로 와이어 호환되는 Realtime API를 통해 접근할 수 있습니다. 주소는 wss://api.elevenlabs.io/v1/convai/realtime입니다. 엔드포인트와 모델 이름을 변경하면 기존 O​penAI Realtime 클라이언트는 이벤트 핸들러를 그대로 유지합니다.

10월 20일에 나온 것은 발표이지, 서비스 개시가 아니다. ElevenLabs 자체 문서는 여전히 해당 모델들을 "점진적으로 순차 출시 중"이라고 설명하며, Voice 모드 설정이 없는 워크스페이스에서는 API가realtime_model을 "Realtime models are not available for this workspace."라는 메시지와 함께 곧바로 거부한다고 밝히고 있다. 모델 식별자도 보도 주기보다 오래되었다. 8월 3일 ElevenAgents 체인지로그 항목에는 실시간 에이전트 구성이 이미eleven_realtime_v1_mini를 기본값으로 사용하기 시작했다고 기록되어 있다. 출시일은 수치가 공개된 날로 보아야 하며, 엔드포인트가 열린 날로 보아서는 안 된다.

두 모델은 같은 제품을 크기만 다르게 만든 것이 아닙니다

E​levenLabs는 Mini와 Max를 비용-품질 다이얼로 설정한다. Mini는 어시스턴트, 튜터, 캐릭터용이고, Max는 고객 지원, 리드 자격 검증, 도구 활용 워크플로용이다. 공개된 측정치에 따르면 그 다이얼은 그런 프레이밍이 시사하는 것보다 더 멀리 움직인다. 이는 E​levenLabs 페이지에서 인용한 것이 아니라 동일한 하네스에서 독립적으로 실행한 Artificial Analysis 수치다:

• 음성 추론(Big Bench Audio) — Eleven Realtime v1 Max 98.8% vs Eleven Realtime v1 Mini 76%

• 작업 성공률 — Max 87.1% vs Mini 60.3%

• 대화 역학(Full-Duplex-Bench) — Max 94.1% vs Mini 95.8%

• 아레나 선호도(Elo) — Max 997 대 Mini 988

• 첫 오디오까지 걸리는 시간 — Max 0.57초 vs Mini 0.62초

• 음성 대 음성 지수 — Max 미채점 vs Mini 미채점

처음 두 행보다 마지막 세 행을 먼저 읽으세요. 전화한 사람이 의식적으로 느끼는 것, 즉 '이게 대화처럼 들리는가'라는 측면에서는 Mini가 더 나은 모델이고, 더 빠른 쪽은 Max인데 겨우 50밀리초 차이일 뿐입니다. 23포인트 추론 격차와 27포인트 작업 성공 격차는 실제이며 크지만, 이는 에이전트가 작업을 완수하는지에 나타날 뿐, 대화가 기분 좋게 느껴지는지에는 나타나지 않습니다. 그것이 바로 지원 대기열이 감수하는 정확한 트레이드오프이며, 기본값이 중요한 정확한 이유입니다. 설정을 건드리지 않는 모든 새 에이전트는 87.1% 대신 60.3%의 작업을 해결하는 모델에서 실행됩니다.

이 격차는 인덱스 열의 대시도 설명해 줍니다. Mini는 에이전트 점수도 빠져 있는데, 저렴한 모델로 포지셔닝된 모델치고는 놀랍지 않습니다. Max는 유능한 모델로 포지셔닝되었음에도 불구하고 그것이 빠져 있습니다.

누락된 행이 실제로 의미하는 것

작업 성공률과 τ-Voice는 같은 측정값이 아니며, 이 둘을 혼동하는 것이 이번 릴리스에서 저지르기 가장 쉬운 실수입니다. 작업 성공률은 대화가 올바른 최종 도구 호출로 끝났는지를 묻습니다. τ-Voice는 모델을 항공편 변경, 이의 제기된 청구, 통신 문제 같은 고객 서비스 시나리오의 복제 환경에 도메인 도구와 정책 문서와 함께 투입하고, 데이터베이스가 올바른 상태로 끝나는지 점수를 매깁니다. 이는 "에이전트가 올바른 함수를 호출했다"와 "에이전트가 정책을 위반하지 않고 요청을 해결했다"의 차이입니다.

E​levenLabs는 바로 그 두 번째 역할을 위해 Max를 홍보한다. 제품 페이지의 주장은 Max가 “복잡한 질문을 추론하고 대화 속도를 늦추지 않으면서 작업을 완수하기 위해 도구를 호출한다”는 것이다. 지금까지 공개된 어떤 자료도 이 주장을 엔드투엔드로 검증하지 않았다. 87.1%의 작업 성공률은 강력한 수치다. 그것은 또한 평가의 더 쉬운 절반이며, Mini보다 1.5포인트 낮은 94.1%의 대화 역학 점수 바로 옆에 놓여 있다.

오늘 결정을 내려야 하는 팀에게 솔직한 요약은 이렇습니다. Max는 이 분야에서 측정 결과가 가장 좋은 음성 추론 모델이며 — 98.8%는 같은 보드에서 StepAudio 3 Realtime의 100%와 Q​wen Audio 3.0 Realtime Plus의 99.2%에만 뒤처집니다 — 또한 Max의 에이전트 행동은 측정되지 않았지만 경쟁사들의 것은 측정되었습니다. G​emini 3.8 Live Extended Thinking의 τ-Voice 점수는 68.6%입니다. G​PT-Live-1 (Astra, medium)은 74.5%입니다. Max는 대시로 표시됩니다.

그것의 1분에 드는 비용

ElevenLabs는 모델별 수치를 공개하지 않습니다. Realtime 청구는 표준 ElevenAgents 분당 요금에 Realtime 모델 자체의 요율로 계산한 입력, 캐시된 입력 및 출력 토큰 비용을 더한 방식이며, Max는 Mini보다 토큰당 비용이 더 비쌉니다. 대시보드에는 분당 예상 비용이 표시되며, Realtime API는 연결된 오디오의 분당 요금에 토큰 비용을 더해 청구합니다. 가격 페이지에는 Realtime 항목 자체가 없습니다.

Artificial Analysis는 이 모든 것을 하나의 비교 가능한 수치, 즉 고정된 40개 질문으로 구성된 Big Bench Audio 하위 집합을 실행하는 비용을 입력 오디오 1시간당 비용으로 표현한 값으로 정규화합니다. E​levenLabs 모델 두 개 모두 $4.80로 책정됩니다. 흥미로운 부분은 바로 이 동일한 숫자입니다. Max의 토큰당 프리미엄이 얼마이든, 대화 분량에서는 분당 에이전트 요금이 청구서를 지배하므로, 비싼 모델과 저렴한 모델은 대화하는 데 같은 비용이 듭니다. Mini의 절감 효과는 오디오가 긴 곳이 아니라 토큰 사용량이 많은 곳에서 나타납니다.

같은 기준으로 비교하면, G​emini 3.8 Live는 시간당 $0.84, G​emini 3.8 Live Extended Thinking은 $3.50, G​PT-Live-1 (Sol, low)은 $4.47, G​rok Voice 3.0은 $4.80입니다. Eleven Realtime은 하위권이 아니라 중간 가격대에 위치하며, 표준 G​emini Live 요금의 약 5.7배입니다.

바로 이 지점에서 라우팅 계층이 음성 모델 자체에는 손댈 수 없음에도 불구하고 제 역할을 해냅니다. Eleven Realtime은 ElevenLabs 자체 API를 통해서만 이용할 수 있고 다른 곳에서는 불가능합니다 — 어떤 제3자 호스트도 eleven_realtime_v1_max를 제공하지 않으며, OrcaRouter도 마찬가지이므로 음성 계층에 대해 라우팅할 것은 아무것도 없습니다. 라우팅할 수 있는 것은 에이전트가 호출하는 모든 것입니다: 조회 서비스, CRM 쓰기, 통화가 끝난 뒤 실행되는 요약기, 그리고 실시간 모델에서 오류가 발생할 때 캐스케이드가 폴백하는 백업 모델까지요. OrcaRouter에서는 이것들이 하나의 키 뒤에 16개 업스트림 제공업체의 209개 모델, 제공업체 정가에 마크업 없이 제공되므로, 발신자가 얼마나 깊이 생각하는지에 따라 늘어나는 청구서의 절반이 바로 실제로 최적화할 수 있는 절반입니다.

당신의 한 주를 결정짓는 통합 세부 사항

ElevenLabs는 대부분의 실시간 벤더가 하지 않은 승부수를 던졌습니다. 자사 API가 OpenAI의 Realtime 이벤트 프로토콜을 그대로 사용한다는 것이었죠. 문서에 있는 일곱 줄짜리 예제는 OpenAIRealtimeWebSocket, RealtimeAgent 및 RealtimeSession을 @openai/agents-realtime에서 가져오고, 전송 계층을 ElevenLabs의 WebSocket URL로 지정하며, model: "eleven_realtime_v1_mini"를 전달합니다. 그 밖의 모든 것 — 클라이언트 시크릿, 세션 구성, 오디오 출력 모달리티, 음성 — 은 변경되지 않습니다.

그 편의성의 대가는 전송 계층입니다. 출시 시점에는 WebRTC가 없습니다. 문서에서도 이를 직접 밝히고 있으며, 모든 WebRTC 통합은 먼저 WebSocket으로 이전해야 합니다. 이미 WebSocket Realtime 통합을 사용 중인 팀에게는 별일이 아닙니다. 지터와 모바일 네트워크를 더 잘 처리해 주기 때문에 WebRTC 위에 구축한 팀에게는 모델 교체가 아니라 전송 계층의 재작성입니다.

또 다른 제약은 아키텍처적입니다. Realtime 모델은 ElevenAgents와 Realtime API에서 별도의 제품으로 실행됩니다. 전화번호, WhatsApp, 지식 베이스, 가드레일, 스크립트 기반 테스트 또는 대화 모니터링이 필요하다면 ElevenAgents를 사용하는 것이며, 에이전트의 도구와 프롬프트도 함께 따라갑니다. Realtime API를 사용한다면 모델과 이벤트를 얻을 뿐, 그 주변의 플랫폼은 얻지 못합니다. 하나의 연결에서 둘 다 가질 수는 없습니다.

그것이 이동하지 않는 곳

롤아웃은 미국 팀보다 유럽 및 인도 팀에 더 중요한 측면에서 불균등합니다:

• 데이터 레지던시 — 두 모델 모두 미국과 EU에서 사용 가능합니다. 인도와 싱가포르에서는 Mini만 제공되므로, 해당 환경에 고정된 에이전트에게는 Max가 옵션이 아닙니다.

• 규정 준수 — 제로 리텐션 모드 및 HIPAA 지원은 미국과 EU의 Max에서 제공되며, Mini에서는 전혀 지원하지 않습니다

• 토큰 제한 — Max는 최소 1,024토큰의 제한 또는 제한 없음을 요구하며, 워크플로 노드에서는 이를 재정의할 수 없습니다

• 사용자 지정 백엔드 — 에이전트가 사용자 지정 LLM 또는 Amazon Bedrock을 사용하는 동안에는 실시간 모드를 사용할 수 없습니다. 먼저 기본 제공 LLM으로 전환해야 합니다.

• 상담원 전환 — Realtime-mode 상담원은 다른 Realtime-mode 상담원으로만 또는 그로부터만 전환할 수 있지만, Mini-to-Max 전환은 허용됩니다

그 규칙은 모두 저장 시점이 아니라 발행 시점에 적용됩니다. 규칙을 하나라도 위반한 초안은 그래도 저장되지만, 발행은 실패하며 어떤 설정인지 알려줍니다.

볼 만한 것

두 가지 결과만 나오면 이번 릴리스는 판가름 날 것이다. 첫째는 Max의 τ-Voice 점수다. ElevenLabs가 실제로 내세우는 주장을 검증할 유일한 숫자다. 둘째는 WebRTC 지원으로, 이는 시연할 수 있는 모델과 모바일 통화에 올릴 수 있는 모델을 가르는 차이다. 그때까지 방어 가능한 입장은 좁지만 유용하다. Mini는 작업 완수를 필요로 하지 않는 대화형 에이전트에 좋은 기본값이고, Max는 이 보드에서 가장 빠른 강력한 추론 모델이며 더 나은 지원 에이전트일 가능성이 높지만, 후반부를 입증할 테스트를 아직 아무도 발표하지 않았다.