
Qwen3.8-27B VRAM 요구 사항: 실제로 필요한 하드웨어는 얼마나 될까
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 90 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 96 tok/s
- orcaNEWOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaNEWOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 88 tok/s
- OrcaNEWOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 133 tok/s
- OrcaNEWOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 100만 토큰당 · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 131 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 43 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 192 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 158 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 100만 토큰당 · 118 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955지능
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855지능
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 100만 토큰당 · 220 tok/s
Qwen3.8-27B를 두고 17GB 정도의 VRAM이라는 숫자가 떠돌고 있습니다. Unsloth의 Daniel Han은 출시 시 "대략 17GB의 VRAM에 들어갈 것"이라고 말했습니다. 그리고 그것이 무엇이고 무엇이 아닌지 분명히 하는 것이 좋습니다. 이는 27B의 전작을 기반으로 한 예측이며, 모델이 아직 출시되지 않았기 때문에 알리바바가 제시한 사양이 아닙니다. 공식 저장소는 2026년 8월 10일이 있는 주에 공개하겠다고 예고되었지만, 이 글을 쓰는 시점에는 나타나지 않았습니다. 이 글은 VRAM 문제를 계획할 수 있는 것, 진짜 불확실한 것, 그리고 양자화, 컨텍스트 창, 런타임에 따라 그 숫자가 어떻게 달라지는지로 정리합니다.
솔직한 답변부터
아직 Qwen3.8-27B에 대한 공식 하드웨어 사양은 없습니다. 아래의 모든 내용은 27B가 계승하는 모델인 Qwen3.6-27B를 바탕으로 추정한 것입니다. 동일한 파라미터 수, 동일할 가능성이 큰 하이브리드 아키텍처, 그리고 규모 산정 기준에 가장 가까운 대상입니다. 이 수치들은 요구 사양서가 아니라 계획 범위로 취급하십시오. 첫 실제 측정치는 가중치 공개 후 며칠 안에 양자화 도구 제작자와 추론 프레임워크 유지관리자로부터 나올 것이며, 구매를 확정할 때 기준으로 삼아야 할 수치는 바로 그 값들입니다.
퀀트 사다리
필요한 VRAM 용량은 거의 전적으로 어떤 양자화를 실행하느냐에 달려 있습니다. 커뮤니티에서 측정한 Qwen3.6-27B 표를 기준으로 위로 올라가 보면:
• Q4_K_M — 대략 16GB VRAM. 24GB 카드의 최적점이며, 그 "17GB"라는 수치의 출처일 가능성이 높습니다. 대부분 팀의 기본값입니다.
• Q3_K_M / IQ3 — 대략 13 GB VRAM. 16 GB는 물론 12 GB 카드에도 들어가지만, 품질이 눈에 띄게 한 단계 떨어집니다.
• Q6_K — 약 21GB VRAM. 거의 무손실이며, 24GB 카드에서 빠듯하지만 실제로 들어갑니다.
• Q8_0 — 대략 27–30 GB VRAM. 품질의 마지막 한 방울까지 짜내고 싶은 48 GB 카드용.
• FP8 서빙 — 가중치에 약 27 GB의 VRAM이 필요한데, 이 때문에 단일 L40S가 흔히 추론용 GPU로 선택됩니다.
• 전체 정밀도(BF16) — 대략 54GB VRAM. 현실적으로 H100급 카드이며, 사람들이 더 이상 "로컬"이라고 부르지 않게 되는 영역입니다.
요약하자면, 이 모델에는 24GB GPU가 안전한 구매 선택이고, 16GB 카드는 낮은 양자화를 감수할 때만 실행할 수 있으며, 8GB 이하 제품은 이 모델이 전작보다 훨씬 더 가벼운 것으로 판명되지 않는 한 제외된다.

아무도 인용하지 않는 변수: 컨텍스트 길이
위의 모든 수치는 적당한 컨텍스트를 기준으로 한 것입니다. VRAM은 컨텍스트에 따라 늘어납니다. KV 캐시가 가중치와 함께 상주해야 하기 때문입니다. Qwen3.6-27B에서 2K 컨텍스트는 약 11GB에서 실행되었고, 32K 컨텍스트는 동일한 퀀트를 14GB 넘게 밀어 올렸으며, 128K에서는 캐시 점유량이 두 배 이상으로 늘었습니다. Qwen3.8-27B가 큰 네이티브 컨텍스트 창을 유지한다면 — 그리고 Qwen 세대는 그런 방향으로 가고 있습니다 — 퀀트 크기보다 몇 GB의 여유를 두거나, 런타임 구성에서 컨텍스트를 제한하세요. 실제로 사용하지 않는 컨텍스트 길이를 선택하는 것은 팀이 필요 이상으로 더 큰 카드를 사게 되는 가장 흔한 이유입니다.
하이브리드 아키텍처 와일드카드
Qwen3.6-27B는 하이브리드 모델이었습니다: 65개 레이어 중 16개만 전통적인 KV 캐시를 사용했고, 48개는 고정 순환 상태를 사용했습니다. 그 결과 KV 메모리는 같은 크기의 dense 모델보다 약 4분의 1 수준이었습니다 — 이는 27B가 48GB 모델이 아니라 24GB 카드 모델처럼 느껴진 데 크게 작용한 이유입니다. Qwen3.8-27B가 하이브리드 설계를 유지한다면(가능성이 높지만 확인되지는 않음), 위의 컨텍스트 길이 계산은 보기보다 훨씬 유리해집니다. 걸림돌은 런타임 지원입니다: 순환 레이어를 구현하지 않은 llama.cpp 또는 vLLM 빌드는 훨씬 더 높은 메모리 사용량을 보고할 것입니다. 예측이 유효하다고 가정하기 전에 어떤 런타임에 지원이 병합되었는지 확인하십시오.
실제로 작동하는 GPU는 무엇인가요?
구체적으로, 일반 카드의 경우:
• RTX 4090 / 3090 / 5090 (24 GB) — Q4_K_M은 여유롭게, Q6_K는 무리해서라도 짜낼 의향이 있다면. 바로 이 사용자층을 위한 것입니다.
• RTX 3060 / 4060 Ti 16 GB — IQ4 또는 Q3급 퀀트만, 적당한 컨텍스트와 함께. 작동은 하지만, 쾌적하지는 않음.
• 12 GB 카드 — 품질이 낮아진 Q3_K_M. 실험에는 적합하지만 서빙에는 적합하지 않습니다.
• Apple Silicon — 24GB Mac은 MLX나 llama.cpp를 통해 동일한 Q4 파일을 실행한다. 16GB 기본 모델들은 스왑 스래싱이 발생해 Qwen3.6-27B에서 그랬던 것처럼 사실상 제외된다.
• 48 GB 이상 (A6000, L40S, 듀얼 카드 구성) — 실질적인 여유를 확보한 Q8_0 또는 FP8 서빙.

또는 GPU를 아예 건너뛰세요
하드웨어 계산이 당신에게 맞지 않는다면, 모델을 직접 실행할 필요는 없습니다. OrcaRouter는 200개 이상의 모델 — Qwen 패밀리 포함 — 을 아우르는 하나의 API이며, 제공업체의 정가를 마크업 없이 그대로 전달하므로, Qwen3.8-Max는 현재 백만 입력 토큰당 $2.00, 백만 출력 토큰당 $6.00으로, 벤더 자체 가격 페이지와 동일합니다. 27B 자체는 로컬 모델이 될 것이지만, 가중치가 공개되고 신뢰를 얻으면, 동일한 키가 이를 호스팅하는 어떤 제공업체로든 라우팅될 것입니다 — 지금 이 세대를 기준으로 개발하고 GPU 리셀러 시장은 전혀 건드리지 않아도 됩니다.

하드웨어 질문의 핵심 결론은 이렇습니다. 쾌적한 4비트 실행에는 16GB를, 안전하고 컨텍스트와 더 높은 퀀트를 위한 여유까지 고려하려면 24GB를 계획하되, 저장소가 공개되고 첫 실제 측정치가 나오기 전까지는 여기 있는 모든 수치를 잠정적으로 취급하세요. "17GB" 예측치는 합리적인 계획 수치입니다 — 다만 아직 사실은 아닙니다.
이 글에서 비교한 모델1
이 글에서 자동 인식 · 벤치마크: Artificial Analysis · 매일 업데이트
