'Tell 1 vs Qwen 3.8'이라는 제목의 생성된 타이틀 카드. 왼쪽 카드는 'Tell 1'로 표시되어 있으며 스톱워치 아이콘과 '지연 시간 1위', '도구 호출 5위'라는 문구가 있습니다. 오른쪽 카드는 'Qwen 3.8'로 표시되어 있으며 렌치 아이콘과 '100만 토큰 컨텍스트', '네이티브 도구 호출'이라는 문구가 있습니다. 구분선에는 '속도 대 트랜잭션'이라고 적혀 있습니다. OrcaRouter 로고는 오른쪽 아래 모서리에 합성되어 있습니다.
Guides & Insights

Tell 1 대 Qwen 3.8: 아무도 헤드라인에 넣지 않는 도구 호출 격차

작성자

jinhao.song

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

Retell은 음성 모델 리더보드를 공개하며 Tell 1을 1위로 올립니다. 같은 리더보드를 각 열에서 조금 더 아래로 읽어 보면 Tell 1이 도구 호출에서는 5위라고 합니다. 그 단일 순위는 이 페이지에서 가장 유용한 항목입니다. 왜냐하면 그것은 무엇이 Tell 1이 하도록 만들어진 것인지와 무엇이 Q​wen 3.8 — 플래그십이 Qwen3.8-Max이고 오픈 덴스 멤버가 Qwen3.8-27B인 세대 — 같은 범용 모델이 이제 진정으로 잘하는 것인지 사이의 정확한 경계를 표시하기 때문입니다. 예약을 잡을 수 없는 전화 에이전트는 느린 에이전트보다 못합니다. 인사말 한마디에 8초가 필요한 2.4조 매개변수 모델은 전화를 아예 받을 수 없습니다. 흥미로운 질문은 어느 모델이 더 나은가가 아니라, 각 모델이 여러분의 스택에서 어디부터 더 이상 적합한 도구가 아닌지입니다.

무엇보다 먼저 증거 수준을 짚고 넘어가는 것이 좋습니다. 이 두 모델은 서로 호환되지 않는 방식으로 문서화되어 있기 때문입니다. Qwen3.8-Max는 2026년 8월 3일 유료 API로 출시되었으며, 공개된 기능 매트릭스, 1M 토큰 컨텍스트, 벤더 벤치마크를 갖추고 있습니다. Qwen3.8-27B는 다운로드 가능한 Apache-2.0 가중치로 뒤를 이었습니다. 둘 다 Artificial Analysis에서 독립적으로 평가됩니다. Tell 1은 소유자가 작성한 벤치마크에 한 행이 있을 뿐이며 모델 카드가 전혀 없습니다. 따라서 이 페이지의 한쪽은 측정된 것이고 다른 쪽은 보고된 것이며, 아래의 모든 숫자는 그에 따라 표시되어 있습니다.

Tell 1의 5위가 실제로 당신에게 어떤 대가를 치르게 하는가

vCX 표 자체의 숫자는 순위가 시사하는 순서보다 등장하는 순서대로 읽을 가치가 있다. Retell이 구어체라고 부르는 행에서 Tell 1은 96.6%를 기록하며 62개 구성 중 이를 능가하는 구성은 없다. 도구 호출이라고 부르는 행에서는 같은 모델이 95.4%를 기록하고 네 개의 다른 구성이 더 나은 성적을 낸다 — 이는 모델의 결함이라기보다 해당 모델이 무엇을 잘하도록 튜닝되었는지를 보여주는 진술이다. 94.45% 평균과 72.5ms 중앙값은 모두 그 우선순위에서 비롯된다; 분당 3.5센트의 모델 비용도 마찬가지로 19위에 랭크되어 중위권에 편안히 위치한다.

5위라는 수치, 즉 95.4%, 평가 1,000건 중 954건 통과는 절대적인 기준에서 나쁘지 않습니다. 중요한 것은 그 패턴입니다. 컨택트 센터 흐름에서 도구 호출은 에이전트가 되돌릴 수 없는 일을 수행하는 지점입니다. 슬롯을 예약하고, 결제를 처리하고, 발신자를 연결하고, 주문을 취소하는 일이죠. 이런 단계에서 4.6%의 실패율은 대체로 잘 작동하다가 때때로 잘못된 일을 하는 시스템이며, 이는 바로 한 달 뒤 AI 에이전트가 프로덕션에서 제거되는 실패 모드입니다. 반대로 구어체와 지연 시간에서의 우위는 처음에 승인을 받게 해주는 요소입니다. 더 나은 데모지만 트랜잭션에서는 그렇지 못한 그 비대칭성은 가정할 대상이 아니라 테스트할 대상입니다.

벤치마크 자체에 관한 두 가지 주의점이 있습니다. 이는 Tell 1에 대한 유일한 공개 증거이기 때문입니다. 해당 행은 하네스 버전 17을 사용하는 반면, 62개 행 중 50개는 버전 1을 사용하므로 "#1 overall"은 서로 다른 두 테스트 세트를 합산한 결과입니다. 그리고 이는 Retell 자체 벤치마크로, Retell의 트래픽 패턴에서 실행된 것입니다. 이는 정당한 방법론이지만 독립적인 방법론은 아닙니다.

Q​wen 3.8이 같은 문제에 가져다주는 것

Qwen 3.8은 모델이 아니라 하나의 세대이며, 여기서 그 구분이 중요합니다. Qwen3.8-Max는 호스팅 플래그십으로, 100만 토큰 컨텍스트, 텍스트·이미지·비디오 입력, 사고 모드, 함수 호출, 내장 도구 및 구조화된 출력을 지원하며 OpenAI, Anthropic, DashScope 호환 와이어 형식으로 제공됩니다. Artificial Analysis는 자사의 Intelligence Index에서 33.7점을 부여했는데, 이는 비교 대상 모델의 73%보다 높은 점수이며, Coding Index 76.2, GPQA Diamond 92.8, Terminal-Bench 2.1 88.8, tau-banking 47.8로, 우리 모델 페이지가 인용하는 벤더 및 독립 평가 혼합 결과입니다. Qwen3.8-27B는 오픈 웨이트 dense 구성원으로, 270억 개 파라미터, 256K 컨텍스트, 멀티모달, Apache 2.0이며 Qwen 자체 카드에서 LiveCodeBench v6 90.3, GPQA Diamond 89.2, OSWorld-Verified 84.3, QwenSWEBench 79.0입니다.

도구 사용이 걱정된다면 {{1}}tau-banking{{/1}} 수치를 두 번 읽어 보세요. 이는 도구 증강 고객 서비스 작업 — 계정 조회, 주문 변경, 정책 준수 — 의 벤치마크이며, {{2}}47.8{{/2}}은 어려운 테스트에서 나온 만만치 않은 점수이지 마케팅 수치가 아닙니다. 범용 모델들은 사람처럼 들리는 데 능숙해지기 전에 이 작업에 능숙해졌고, 그 순서가 이 비교의 핵심입니다: {{3}}Q​wen 3.8{{/3}}은 72밀리초 음성 모델보다 도구 루프를 더 안정적으로 실행하지만, 말을 시작하는 데는 몇 초가 걸립니다.

• 지연 시간 — Retell의 하네스 내부에서 Tell 1의 중앙값은 72.5ms였습니다. 자체 서빙 측정 기준으로는 7일 구간에서 Qwen3.8-Max가 p50 8,235ms, Qwen3.8-27B가 p50 4,197ms였는데, 이는 서로 다른 방식으로 측정된 별개의 수치이며 어느 쪽도 전화 통화 한 턴에 해당하지 않습니다.

• 도구 호출 — Retell의 하네스에서 Tell 1은 95.4%(62개 중 5위)를 기록했고, Qwen3.8-Max는 47.8 tau-banking과 구조화된 출력을 갖춘 완전한 네이티브 함수 호출을 지원하며, 이는 두 모델 중 어느 쪽도 판매하지 않는 사람들이 채점한 벤치마크에서 나온 결과입니다.

• 컨텍스트 — Qwen3.8-Max의 경우 100만 토큰, Qwen3.8-27B는 256K, Tell 1은 미공개이며, 통화에서는 지식 베이스가 모델 외부에 위치하므로 대체로 무관합니다.

• 가격 — Tell 1은 Retell의 분당 $0.07~$0.31 범위에 속하며, 그중 3.5센트는 모델에 기인합니다. Qwen3.8-Max는 100만 토큰당 입력 $2, 출력 $6이고, Qwen3.8-27B는 $0.33 및 $2.40이며, 둘 다 OrcaRouter를 통해 추가 마크업 없이 제공업체 정가로 제공됩니다.

A generated two-column scoreboard headed 'Tell 1 vs Qwen 3.8'. The Tell 1 column reads 'Latency: 72 ms', 'Tool calling: 95.4% rank 5', 'Context: unpublished', 'Weights: none', 'Evidence: vendor benchmark', 'Price: 3.5c per minute'. The Qwen3.8-Max column reads 'Latency: 8235 ms p50', 'Tool calling: tau-banking 47.8', 'Context: 1M tokens', 'Weights: open 27B sibling', 'Evidence: AA Index 33.7', 'Price: $2/$6'. A footer reads 'Tell 1 per Retell; Qwen figures per Artificial Analysis and OrcaRouter.' The OrcaRouter logo is composited in the bottom-right corner.

대부분의 배포를 결정짓는 계산

두 가격 단위 간 변환은 비교가 대개 모호해지는 지점이므로, 여기서는 그 변환을 직접 계산해 보겠습니다. 1분 분량의 발화는 대략 150개의 구어 단어이며, 이는 대략 출력 토큰 200개이고, 프롬프트와 검색된 지식, 도구 스키마까지 계산하면 아마 입력 토큰 1,500~3,000개입니다. Qwen3.8-Max의 $2/$6 기준으로는 모델 비용이 분당 2센트 미만이고, Qwen3.8-27B의 $0.33/$2.40 기준으로는 1센트의 일부에 불과합니다.

그래서 토큰당 과금 모델이 비싼 부분은 아니며, 바로 그것이 함정이다. Q​wen 3.8에서 어떤 가격을 치르더라도 얻을 수 없는 것은 72ms 만의 첫 음절이다. 왜냐하면 2.4조 매개변수 플래그십이 8초 만에 답한다면 이미 발신자를 놓친 것이기 때문이다. 호스팅형 플래그십의 비용은 토큰이 아니라 왕복 지연이다. 같은 것을 직접 구축한다는 것은 지연 예산을 엔드투엔드로 책임진다는 뜻이다 — 모델을 음성 스택과 같은 위치에 배치하고, 출력 길이를 제한하고, 도구 호출이 끝나기 전에 첫 절을 스트리밍하는 것 — 그리고 실제 비용 항목은 그 엔지니어링이지 0.02달러가 아니다.

그래서 솔직한 평가는 경쟁력이 아니라 아키텍처에 관한 것입니다. Tell {{1}}1의{{/1}} 가치는 누군가가 통화의 첫 800밀리초에 대한 엔지니어링을 이미 해두었다는 데 있습니다. {{2}}Q​wen 3.8의{{/2}} 가치는 실제로 무언가가 이루어지는 통화의 구간에서 측정 가능할 만큼 더 뛰어나며, 호출 가능한 API와 직접 호스팅할 수 있는 가중치로 모두 제공된다는 데 있습니다.

분할 스택 패턴, 그리고 라우터가 진가를 발휘하는 지점

이 문제를 해결하는 구성은 두 모델 중 하나를 선택하는 것이 아니라 역할 분담이며, 음성 플랫폼들은 이미 내부적으로 이를 실천하고 있다. Retell의 자사 홈페이지는 자사의 스택을 정확히 그렇게 설명한다: 추론과 오케스트레이션을 위한 모델, 지식과 도구를 조합하는 에이전트 하네스, 그리고 별도의 음성 계층. Tell 1은 그 구성에서 하나의 자리를 차지할 뿐, 모든 자리를 차지하는 것은 아니다.

음성 플랫폼 밖에서도 같은 분업은 이렇게 나타납니다. 작고 빠른 모델이 턴테이킹 계층 — 확인 응답, 명확화 질문, "제가 확인해 드릴게요" — 을 처리하고, 도구 사용이 많고 추론이 많은 단계는 함수 호출과 긴 컨텍스트에서 더 나은 실적을 가진 모델로 넘깁니다. Q​wen 3.8은 두 번째 역할에 잘 맞고, 두 주요 구성원 모두 하나의 키로 OrcaRouter를 통해 라우팅할 수 있습니다. 모델 문자열만 바꿔 Qwen3.8-Max와 Qwen3.8-27B 사이를 전환하고, 폴백 체인을 유지하여 업스트림 429가 끊긴 통화가 되지 않게 하며, 라우팅 DSL을 사용해 어려운 턴은 플래그십으로, 일상적인 턴은 더 저렴한 구성원으로 보내십시오. 제공업체 정가가 아무것도 더해지지 않고 그대로 전달되므로, Q​wen 가격 변경이 다음 계약 갱신 때가 아니라 같은 날에 도달합니다.

Tell 1은 저희 카탈로그에 없으며 앞으로도 없을 것입니다. 모델로 판매되지 않습니다. 저희가 할 수 있는 것은 그 주변의 에스컬레이션 경로입니다 — 발신자가 스크립트가 다루지 않는 것을 물을 때 음성 에이전트가 호출하는 모델이죠.

일주일 안에 그것을 해결하는 방법

자체 대기열에서 합성 통화가 아닌 실제 통화 50건을 가져오세요 — 이 벤치마크의 약점은 통화가 Retell의 것이라는 점이고, 여러분의 실패 모드는 여러분의 자체 전사록에 있습니다. 각 통화를 두 가지 구성으로 실행하세요: Retell 내부의 Tell 1, 그리고 동일한 에이전트 로직을 Qwen3.8-Max에 연결한 구성입니다. 세 가지만 점수화하고 나머지는 모두 무시하세요. 도구 호출이 올바른 인수로 발생했나요? 답변이 지식 기반과 일치했나요? 그리고 발신자가 말을 멈춘 뒤 에이전트가 말하기 시작한 타임스탬프는 언제였나요?

제 기대치는 테스트가 아니라 공개된 수치에 근거한 것입니다: Q​wen 구성은 처음 두 개는 이기고 세 번째에서는 크게 질 것이며, 그 세 번째 격차의 크기만이 아키텍처를 결정하는 유일한 숫자입니다. 통화가 대부분 정답이 있는 조회라면, 음성에 튜닝된 모델의 지연 이점은 도구 호출 정확도 몇 포인트보다 가치가 낮으므로 범용 모델이 이깁니다. 통화가 대부분 대화라면 — 분류, 안심시키기, 자격 확인 — 도구 호출은 얕고 지연이 전부이므로, 전화를 위해 만들어진 모델이 그 일에 맞는 부품입니다.

두 답변 모두 타당하므로, ‘어느 쪽이 더 나은가’라는 틀은 실패한다. 내가 하지 않을 한 가지는 Tell 1이 5위인 열을 읽지도 않고 1위라는 순위만 믿고 Tell 1을 고르는 것, 또는 라이브 통화에서 첫 토큰에 스톱워치를 대보지도 않고 Intelligence Index만 믿고 Q​wen 3.8을 고르는 것이다.

A screenshot of the OrcaRouter model page for qwen3.8-max captured on 13 November 2026, showing a median time-to-first-token of 8.13 seconds and a listing dated 2026-08-03.A screenshot of the OrcaRouter model page for qwen3.8-27b captured on 13 November 2026, showing a 262K context badge, a median time-to-first-token of about 4.21 seconds and a listing dated 2026-08-13.