'초당 126토큰, 4.5배가 아니다'라는 제목의 생성된 히어로 카드와 'GPT-6.2 Sol에서의 Ultrafast 최초 공개 측정'이라는 부제목, '측정 평균: 126 tok/s', '측정 최고: 252 tok/s', '표준 기준선: 85 tok/s'라고 적힌 세 장의 카드, 그리고 '한 사용자의 2026년 11월 18일 27분 비디오 편집; 표준 기준선은 Artificial Analysis 기준'이라는 푸터가 있습니다.
Guides & Insights

GPT-6.2 Sol Ultrafast, 실측: 초당 126토큰, 4.5×의 기미는 없다

작성자

jinhao.song

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

첫 공개 수치가 나온 모델은GPT-6.2 Sol이며, Ultrafast를 켠 상태로 실행했을 때 초당 126토큰입니다. 이는 실제 경과 시간 27분, 실제 모델 응답 시간 약 14분이 걸린 작업 전체의 평균으로, 최대 버스트는 초당 252토큰이었습니다. 이 수치는 X의 한 영상 편집자가 모델에 8분짜리 영상을 자르도록 요청한 데서 나왔습니다. 실제 작업이었지만, 하네스도, 반복 실행도, Standard 모드 대조군도 없이 네 줄로 보고된 사례입니다. 그 평균을 Artificial Analysis가 같은 모델의 Standard에서 공개한 수치인 초당 출력 토큰 85개와 견주어 보면, OpenAI가 "Standard 대비 최대 4.5배 속도로 토큰을 생성한다"고 말하는 등급은 이 단일 보고서에서 약 1.5배를 기록했습니다. GPT-6.2 Astra와 GPT-6.1 Sol은 Ultrafast 목록의 다른 두 모델로, 해당 독립 보드에서 각각 초당 60토큰과 49토큰으로 더 낮은 위치에 있습니다. 그래서 여기서는 원시 수치보다 비율이 더 중요합니다.

숫자 네 개, 그리고 아무도 올리지 않은 다섯 번째

이 게시물은 소셜 미디어의 속도 주장치고는 이례적으로 구체적이며, 바로 그 점 때문에 뜯어볼 가치가 있다. 게시물은 작업(8분짜리 영상 편집), 총 시간(27분), 모델을 기다리는 데 쓴 시간(약 14분), 평균 생성 속도(초당 126토큰), 최고의 단일 버스트(252)를 제시한다. OpenAI는 해당 티어를 Ultrafast로 문서화하고 있고, 게시물은 이를 "Ultra Fast"라고 부른다. 두 이름은 같은 것, 즉 ChatGPT Work와 Codex 앱의 선택기에서 가장 빠른 속도 옵션을 가리킨다.

그 게시물이 제공하지 않는 것은 그것을 벤치마크로 만들어 줄 나머지 절반이다:

• 어떤 환경에서 실행되었는지 — ChatGPT Work, Codex 앱 또는 API. 세 가지 모두 티어를 표시하지만, 그 수치는 서로 비교할 수 없습니다.

• 추론 노력 설정. Sol at Light와 Sol at Pro는 첫 토큰 전에 생각하는 양이 다르며, 사고 시간은 그 14분 안에 포함됩니다.

• 실제로 생성된 토큰 수. 이는 평균과 소요 시간으로부터 추론할 수 있으며, 그 추론은 해 볼 가치가 있습니다 — 아래 참조 — 하지만 그것은 추론일 뿐입니다.

• Standard가 같은 작업을 수행하는 데 걸렸을 시간. 이것이 이 글에서 정말로 다루는 숫자이며, 비교할 대상이 없는 단일 실행이기 때문에 이 게시물에 담을 수 없는 유일한 숫자입니다.

• 편집이 첫 시도에 사용 가능했는지 여부. "8분짜리 영상을 잘라냈다"는 것은 성공 주장이지 품질 주장이 아니며, 다시 실행했다면 총 시간이 상당히 달라졌을 것이다.

정확히 명시된 주장과 해당 등급의 비용

OpenAI의 속도 문서는 Ultrafast가 무엇을 약속하는지 정확히 밝히고 있습니다. "GPT-6.2 Astra와 GPT-6.2 Sol에서 Ultrafast는 동일 모델의 Standard 대비 최대 4.5배 속도로 토큰을 생성합니다." 두 가지 한정 표현에 주목하십시오. 이는 토큰 생성에 관한 주장이며, 첫 토큰까지 걸리는 시간이나 작업 전체에 걸리는 시간에 관한 주장이 아닙니다. 그리고 "최대"라는 표현은 일반적인 값이 아니라 상한선을 뜻합니다. 첫 독립 측정 결과가 그 상한선의 약 3분의 1로 나올 때 이 구분은 대단히 중요해집니다.

API에서는 모델이 아니라 플래그입니다. 다음을 설정하세요: model을 gpt-6.2-sol로, service_tier를 "ultrafast"로. OpenAI는 에이전트 작업에 WebSockets를 권장하여 연결 오버헤드가 이점을 잠식하지 않도록 하며, Ultrafast에는 Standard 및 Fast와 별도로 자체 속도 제한이 있습니다. GPT-6.2 모델의 경우 해당 한도는 공개되지 않으며 — 문서에서는 조직 자체 설정을 확인하라고 안내합니다 — 반면 GPT-6.1 Sol Ultrafast는 Build 티어에서 분당 1,000,000 토큰을, GPT-6 Astra는 500,000을 공개합니다. GPT-6.2 티어의 추론 레지던시는 미국에만 해당됩니다. ChatGPT에서는 Pro $200이 Sol에서만 Ultrafast를 사용할 수 있고 Pro $500은 두 모델 모두를 사용할 수 있습니다.

가격은 마감 시한이 붙은 부분입니다. GPT-6.2 Sol의 Ultrafast는 프로모션 기간 동안 100만 입력 토큰당 $6.00, 캐시 입력 $0.30, 출력 $30.00이며, 정가로는 $12.00 / $0.60 / $60.00입니다 — 이는 $2.00 / $0.10 / $10.00인 Standard 요금의 정확히 3배와 6배입니다. OpenAI는 전환 시점을 이렇게 명시합니다: "Ultrafast는 2027년 2월 28일까지 Standard 요금의 3배이며, 2027년 3월 1일(태평양 시간)부터 Standard 요금의 6배입니다."

A screenshot of OpenAI's ChatGPT speed documentation describing Ultrafast mode, showing the statement that on GPT-6.2 Astra and GPT-6.2 Sol Ultrafast generates tokens at up to 4.5 times the speed of Standard, the recommendation to use WebSockets, and the note that Ultrafast has separate rate limits from Standard and Fast.

126을 읽을 수 있게 만드는 기준선

초당 토큰 수치는 기준 없이는 아무 의미가 없으며, 이 모델 제품군에는 독립적인 기준이 정확히 하나 있습니다. Artificial Analysis는 최대 추론 강도에서 GPT-6.2 Sol을 초당 출력 토큰 85개, 첫 토큰까지 68초, 인덱스 작업 완료에 7.9분, 작업당 $1.01로 측정했으며, Intelligence Index는 57입니다. 같은 순위표에서는 GPT-6.2 Astra를 초당 60토큰, Index 62, 작업당 $4.00으로, GPT-6.1 Sol을 초당 49토큰, Index 55, 작업당 $1.27로 평가합니다.

그것들은 고정된 평가 세트에서의 하네스 중앙값이고, 비디오 편집은 한 사람의 오후 작업이다. 그것들은 같은 측정이 아니며, 이를 함께 사용하는 정직한 방법은 판정이 아니라 대략적인 규모 계수로 쓰는 것이다:

• 측정된 평균은 초당 126토큰으로, Standard 기준선인 85의 약 1.5배입니다.

• 측정된 최고치, {{1}}초당 252토큰{{/1}} — 단일 최고 속도 버스트에서 해당 기준선의 약 3.0배.

• 85에 적용된 4.5× 주장 — 초당 380토큰을 조금 넘는 수치인데, 보고서에는 이에 근접하는 수치가 전혀 없습니다.

• Artificial Analysis 자체의 GPT-6.2 Sol 페이지에는 Ultrafast에 대한 언급이 전혀 없으므로, 해당 85는 명시된 수치가 아니라 기본적으로 Standard 모드 수치입니다.

왜 토큰이 4.5배라고 해서 작업량도 4.5배인 것은 아닌가

속도 티어가 배수로 판매될 때 놓치기 쉬운 부분이 바로 이것이며, 그 영상 게시물에는 우연히도 그 증거가 담겨 있습니다. 27분짜리 작업 중 모델 응답이 14분이라는 것은 전체 시간의 52%가 생성에, 48%는 그 밖의 모든 것—업로드, 트랜스코딩, 편집기 자체의 단계, 도구 호출, 모델 턴 사이에 파이프라인이 수행하는 무엇이든—에 쓰였다는 뜻입니다. 그 분할을 워크로드의 형태로 보면 산수는 가혹해집니다:

• 생성 시간은 14분, 초당 126토큰 기준으로 대략 106,000개의 출력 토큰을 의미합니다.

• Standard 기준인 초당 85토큰에서는 해당 토큰을 처리하는 데 약 21분이 걸리므로, 작업은 약 34분에 이릅니다.

• 최대 4.5× 주장 기준으로 초당 약 383토큰이면 5분 이내이므로, 작업은 약 18분쯤에 완료됩니다.

• 실제 실행에는 27분이 걸렸는데, 이는 거의 정확히 두 값의 중간이었습니다.

4.5배를 온전히 달성했더라도 이 워크로드에서의 종단간 이득은 약 1.5배였을 것입니다. 모델은 애초에 작업의 절반에 불과했기 때문입니다. 암다흘의 법칙은 빠른 부분이 얼마나 빨라지는지에 관심이 없습니다. 그것은 Ultrafast에 반대하는 논거가 아니라, 배수 대신 자체 파이프라인 형태를 기준으로 해당 티어를 측정해야 한다는 논거입니다. 대화형 채팅 턴은 거의 전부 생성인 반면 미디어 파이프라인은 그렇지 않기 때문입니다.

그 14분이 실제로 치른 대가

프로모션 요금표를 추론된 106,000개의 출력 토큰에 적용하면 측정 가격을 한 줄에서 명확히 확인할 수 있습니다:

• Standard, 백만 출력 토큰당 $10.00 — 약 $1.06.

• Ultrafast, 프로모션 요금 적용 시 백만 개당 $30.00 — 약 $3.18.

• Ultrafast는 2027년 3월 1일부터 정가 기준 백만 개당 $60.00 — 약 $6.35.

출력은 청구서의 절반에 불과하며, 비디오 편집 에이전트에서는 아마 더 작은 절반일 것입니다. 모든 프레임 설명, 트랜스크립트, 도구 결과는 프로모션 기간 동안 100만 개당 $6.00의 입력으로 다시 들어가며, 동일한 컨텍스트를 반복 처리하는 에이전트는 바로 캐시 쓰기 행이 존재하는 이유인 워크로드입니다 — 30분 캐시는 100만 개당 $7.50, 12시간 캐시는 $15.00이며, 캐시 읽기는 $0.30입니다. 컨텍스트를 캐시하지 않고 다시 전송하는 파이프라인은 속도를 높이려던 출력에 쓰는 비용보다 입력에 더 많은 비용을 쓸 수 있습니다. 이 글은 토큰 수를 보고하지 않으므로 이를 합산할 수는 없고 범위만 정할 수 있습니다: 해당 티어는 청구서의 생성 쪽 절반을 세 배로 늘렸고, 14주 뒤에는 여섯 배로 늘릴 것입니다.

티어를 어느 모델에 적용할지

동일한 4.5배를 세 가지 서로 다른 기준선에 적용하면 세 가지 매우 다른 목적지가 나오며, 가장 저렴한 것이 가장 빠른 것은 아닙니다.

• GPT-6.2 Sol — Standard에서 초당 85토큰이므로, 해당 주장은 약 383을 의미합니다. 인덱스 57, 작업당 $1.01.

• GPT-6.2 Astra — Standard에서 60이므로, 그 주장은 약 270을 의미합니다. 지수 62, 작업당 $4.00, 지수 5점 더 높은 대가로 4배의 비용입니다.

• GPT-6.1 Sol — Standard에서 49이므로 해당 주장은 약 220을 의미합니다. Index 55, 작업당 $1.27이며, Ultrafast 티어는 백만 토큰당 입력 $12.00, 출력 $60.00의 정액 가격이고 프로모션 항목은 전혀 없습니다.

두 가지 결과가 따릅니다. 첫째, Astra의 Ultrafast는 Sol의 Ultrafast보다 여전히 느린데, 더 낮은 기반에서 시작하기 때문입니다. 처리량이 목표라면 더 강력한 모델이 그 목표를 달성해 주지는 않습니다. 둘째, GPT-6.1 Sol의 Ultrafast는 이미 2월 이후 GPT-6.2 Sol의 Ultrafast에 적용될 가격으로 책정되어 있어, 할인이라기보다 청구서를 미리 제대로 보여주는 셈입니다. OpenAI는 또한 GPT-6 Astra와 GPT-6.1 Sol의 Ultrafast는 모든 API 사용자가 이용할 수 있는 반면, GPT-6.2 등급은 조직의 요청 한도를 따르도록 안내하므로, 이를 기반으로 대기열을 구축하기 전에 확인해 볼 만하다고 언급합니다.

A screenshot of the Artificial Analysis model page for GPT-6.2 Sol, showing an Intelligence Index of 57, an output speed of 85 tokens per second, a time to first token of 68 seconds, 7.9 minutes per index task, and a cost of $1.01 per task.

이 번호를 빌리는 대신 내 번호를 새로 받기

위의 측정값은 단일 보고서이며 사양이 아니라 신호로 취급해야 합니다. 이를 해결하는 방법은 자체 워크로드에서 통제된 A/B를 수행하는 것입니다 — 동일한 프롬프트, 동일한 작업으로 Standard에서 3회, 그리고 service_tier를 "ultrafast"로 설정하여 3회 실행하고, 종단 간 소요 시간(분), 총 토큰 수, 첫 토큰까지의 시간을 각각 기록하십시오. 평균뿐 아니라 최댓값도 보고하십시오. 원문에서 126과 252 사이의 격차는 도움이 되는 티어와 때때로 도움이 되는 티어의 차이이기 때문입니다.

OrcaRouter는 현재 GPT-6.2 Sol이나 GPT-6.2 Astra를 제공하지 않으며, 카탈로그에는 openai/gpt-6-astra, openai/gpt-6-sol, openai/gpt-6.1-sol 및 openai/gpt-6-luna가 있으며, GPT-6.2 모델 페이지는 열리지 않습니다. 따라서 이것은 새 모델을 저희를 통해 라우팅하라는 제안이 아닙니다. 오늘 사실인 것은 범위가 더 좁지만, 바로 이 결정에 여전히 유용합니다. GPT-6.1 Sol이 카탈로그에 있으며, 측정된 모델에 가장 가까운 모델이고, 단일 키로 이 모델에 평가 세트를 돌려 보는 것이 3월에 두 배가 되는 티어에 예산을 투입하기 전에 속도 티어가 제품을 바꾸는지 알아보는 가장 저렴한 방법입니다. 가격은 공급자의 정가를 마크업 없이 그대로 전달한 것이므로, 2027년 3월 1일 인상은 OpenAI에 적용되는 바로 그날 저희 쪽에도 적용됩니다 — 재가격 책정 주기도, 재협상도 없습니다.

이 티어에만 해당하는 라우팅 논거도 있습니다. Ultrafast에는 Standard 및 Fast와 별개인 자체 속도 제한이 있으며, OpenAI는 GPT-6.2 티어에 대해 기본 분당 토큰 수를 공개하지 않습니다. 상한은 한도에 부딪혀 봐야 알 수 있습니다. Ultrafast를 유일한 경로로 취급하는 파이프라인은 그 미지의 값을 그대로 떠안습니다. 반면 동일한 모델에서 Standard로 폴백할 수 있는 파이프라인은 실패하는 대신 속도가 저하됩니다. 이것이 속도 티어를 하드코딩하지 않고 라우터 뒤에 두는 것의 유일한 구조적 이점이며, 해당 티어가 핵심 경로에 놓이기 전에 갖춰 둘 가치가 있습니다.

A generated single-column scoreboard for GPT-6.2 Sol Ultrafast with rows reading 'Measured average: 126 tok/s', 'Measured peak: 252 tok/s', 'Standard baseline: 85 tok/s', 'Vendor claim: up to 4.5x Standard', 'Output price, promo: $30 per MTok' and 'Output price, list: $60 per MTok', with a footer noting that the measured figures are one user's task report, the baseline is per Artificial Analysis, and the claim and prices per OpenAI.

무엇이 그것을 해결할까요?

숫자 하나만 있으면 이 이야기는 일화에서 증거로 바뀔 것이다. 고정된 작업에서 Standard 대 Ultrafast A/B를 토큰과 실제 경과 시간까지 함께 공개하는 것이다. 그것이 존재하기 전까지, 2026년 11월 18일을 방어 가능하게 해석하면 이렇다. GPT-6.2 Sol의 Ultrafast는 실제이며 Standard보다 실질적으로 빠르다. 126 대 85는 노이즈가 아니고, 252토큰 버스트는 반올림 오류가 아니다. 하지만 공개된 배수는 누구도 공개적으로 근접하지 못한 상한이며, 작업 수준의 속도 향상은 티어 자체만큼이나 파이프라인에서 토큰 생성이 차지하는 비율에도 달려 있다. 측정치를 게시한 사람은 예상치 34분 대신 27분 만에 영상 편집을 끝냈고, 3월이면 두 배 비용이 들 출시 주간 티어에서 그렇게 했다. 그것은 좋은 결과이자 완만한 배수이며, 누구든 4.5×를 전제로 예산을 짜기 전에 두 측면 모두 알아 둘 가치가 있다.

이 글에서 비교한 모델1

이 글에서 자동 인식 · 벤치마크: Artificial Analysis · 매일 업데이트