생성된 타이틀 카드에는 'Hy4 flash는 오픈 웨이트입니다'라고 적혀 있으며, 'Hy4 flash', 'Hy4 flash-FP8', 'Hy4 flash-Base'라는 레이블이 붙은 세 개의 리포지토리 타일, '총 220B / 활성 12B / 1M 컨텍스트 / 이미지 입력, 텍스트 출력'이라고 적힌 사양 스트립, 그리고 '가중치는 2026년 11월 17일 Tencent Hy License v1.0에 따라 공개되었습니다.'라고 적힌 푸터가 있습니다.
Guides & Insights

Hy4 flash, 이제 오픈 웨이트 공개: 다운로드하기 전에 섹션 10을 읽으세요

작성자

jinhao.song

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

Tencent Hy License, Version 1.0은 추가 조항 하나가 포함된 Apache 2.0 파생 라이선스이며, 바로 그 조항 때문에 체크포인트를 그냥 내려받는 대신 이 릴리스의 내용을 주의 깊게 읽어야 합니다. 10.2조에 따르면, 모델 서비스(model-as-a-service) 사업을 운영하면서 전 세계 총매출이 12개월의 어느 기간이든 미화 5,000만 달러를 초과하거나 제품의 월간 활성 사용자 수가 1억 명을 넘는 경우, 가중치를 사용하거나 계속 사용하기 전에 Tencent로부터 별도의 서면 라이선스를 받아야 합니다. 10.3조는 내부 사용을 면제합니다. Apache 라이선스 부여의 2조에 로열티 없는 권리가 규정되어 있으며, 10.2조는 "2조 및 3조에도 불구하고"라는 문구로 시작합니다. 따라서 다운로드는 무료이지만 배포가 무조건 무료인 것은 아니며, 둘 사이의 경계는 외부인이 귀하의 인프라를 통해 모델에 접근할 수 있는지 여부에 따라 그어집니다.

이것이 2026년 11월 17일 03:44 UTC에 텐센트가 공개한 내용의 틀이다. 당시 허깅 페이스에는 90초 간격으로 세 개의 리포지터리가 등장했다: Hy4 flash, 인스트럭션 튜닝된 채팅 모델; Hy4 flash-FP8, 동일한 모델의 FP8 버전; 그리고 Hy4 flash-Base, 사후 학습이 전혀 없는 사전 학습 체크포인트다. 인스트럭션 모델은 총 2,200억 개의 파라미터를 갖추고 있으며 그중 640억 개가 Engram 테이블에 있고, 토큰당 120억 개가 활성화되며, 입력 측에서 네이티브 멀티모달이고, 1,048,576 토큰 컨텍스트로 구성되어 있다. 이는 텐센트가 이틀 전인 11월 16일에 자사 API에 공개한 것과 동일한 모델이며, 차이점은 이제 자신이 보유한 하드웨어에서 실행할 수 있다는 것이다.

세 저장소에는 실제로 무엇이 들어 있나요?

이번 분할은 대부분의 공개 가중치 릴리스보다 더 깔끔한데, 세 체크포인트가 하나의 산출물에 붙은 세 가지 파일명이 아니라 진정으로 서로 다른 것들이기 때문이다.

• Hy4 flash — 인스트럭트 모델, 채팅 템플릿 및 추론 모드 포함. reasoning_effort를 high(기본값, 사고 켜짐)와 no_think(직접 답변)로 지원합니다. Tencent는 temperature 0.9 및 top_p 1.0을 권장합니다.

• Hy4 flash-FP8 — 프로덕션 서빙을 위해 양자화된 동일한 가중치입니다. 공식 vLLM 및 SGLang 레시피가 가리키는 것이며, Tencent가 텐서 병렬 8 노드에서 초당 150토큰을 넘는다고 말하는 것입니다.

• Hy4 flash-Base — 사전 학습 전용. 모델 카드에는 이 모델이 "사전 학습된 베이스 모델이며 인스트럭션 튜닝된 채팅 모델이 아니다"라고 분명히 명시되어 있는데, 이는 릴리스의 모든 벤치마크 표가 베이스 대 베이스 표이기 때문에 중요하다. 인스트럭트 모델의 수치는 공개 평가 스위트가 아니라 벤더의 WorkIndex 및 블라인드 테스트 수치이다.

메타데이터의 두 가지 세부 사항은 겉보기보다 더 중요하다. 첫 번째는 저장소가 파이프라인 수준에서 image-text-to-text로 플래그 지정되어 있어, 비전 인코더가 나중에 덧붙는 것이 아니라 가중치와 함께 제공된다는 점이다. 두 번째는 수치 불일치다: 11월 16일 텐센트의 발표 자료는 이 모델을 224B로 설명했지만, 모델 카드 자체의 표는 합계가 220.3B다 — 155.5B 백본, 63.5B Engram, 0.43B ViT, 0.85B DFly2 드래프터. 문맥상 어느 숫자도 틀리지 않다. 224B 수치는 DFly2 드래프터와 반올림을 다르게 계산한 것으로 보이는 반면, 카드의 표는 자체 155.5B 백본 항목에서 Engram, ViT, DFly2를 제외한 뒤 다시 더한다. 한 모델에 대해 벤더가 두 개의 총계를 내놓을 때는 카드 쪽을 인용해야 한다.

A generated reference card headed 'What the three repositories actually contain', listing the three checkpoints with a one-line description each and a separate outlined panel headed 'Tencent Hy License v1.0, section 10.2' noting the separate written licence above US$50M annual gross revenue or above 100M monthly active users as a service.

그 아키텍처는 아키텍처의 옷을 걸친 비용 논증이다

이 설계는 역량(capability)을 겨냥한 시도로 읽으면 거의 말이 안 된다. KV 캐시와 디코드 단계를 줄이는 방법으로 읽으면 전부 말이 된다.

• 어텐션 — 1:3 비율로 512-token 슬라이딩 윈도우 어텐션과 교차 배치된 sparse IndexPool 어텐션이 multi-head latent attention(MLA) 방식 위에서 동작합니다. 희소 레이어는 그룹 수준 선택을 통해 최대 2,048개의 토큰을 선택합니다. 42개 레이어 백본 전반에 12개의 희소 레이어와 30개의 SWA 레이어가 있습니다.

• 라우팅 — MoE 레이어당 512개의 라우티드 전문가와 1개의 공유 전문가, 토큰당 16개의 라우티드 전문가가 활성화되며, 전체 전문가 폭이 아닌 1,536차원의 LatentMoE 공간에서 동작합니다.

• Engram — 백본 레이어 1, 11, 21, 31에서 다중 헤드 해시 조회로 검색되는 학습된 바이그램 및 트라이그램 표현입니다. 이는 카드가 백본과 별도로 계산하는 63.5B입니다.

• Drafter — DFly2는 자체 KV 캐시를 유지하는 대신 대상 모델의 희소 KV 캐시와 인덱서 선택을 재사용하는 5계층 0.85B 추측 디코딩 모델입니다. Tencent의 주장에 따르면 컨텍스트 길이와 관계없이 드래프트 토큰당 약 2,048개의 키라는 일정한 드래프트 비용이 들며, 추가 KV 메모리는 제로입니다.

• 대표 효율 수치 — KV 캐시가 Hy3의 1/24, Hy4의 1/6 수준이며, 공급업체 보고 값으로 독립적으로 측정된 것은 아님.

• 포스트 트레이닝 — Hy4로부터의 자기 증류와 강화 학습으로, Tencent는 이 방식이 평균 엔드투엔드 출력 토큰을 50% 줄인다고 말합니다. 더 짧은 출력은 실제 비용 절감의 상당 부분이 발생하는 지점이며, 토큰당 가격표에서는 가장 잘 드러나지 않는 부분입니다.

종합하면, 그것은 {{1}}1M 토큰 컨텍스트{{/1}}를 서빙하는 데 일반적인 {{2}}1M 토큰 컨텍스트{{/2}}에 드는 비용이 들지 않도록 설계된 모델이다. 컨텍스트 길이는 마케팅 문구이고, KV 캐시 비율은 그 아래에 깔린 엔지니어링 주장이다.

Screenshot of the Hugging Face model card for tencent/Hy4-flash, showing the three-model release line, the Model Links table and the quickstart snippet.

Tencent가 측정한 것과 측정하지 않은 것

이 섹션의 모든 수치는 Tencent의 것이며 Tencent의 하네스에서 산출되었고, 그중 어느 것도 회사 외부에서 재현된 적이 없습니다. Artificial Analysis에는 Hy4 flash 페이지가 없습니다 — 11월 18일 기준으로 모델 URL이 404를 반환합니다 — 따라서 이 수치들 중 어느 것과도 나란히 비교할 제3자 점수가 없습니다.

베이스 모델 표는 Hy4 flash-Base를 Hy4 Base, Hy3 preview Base, DeepSeek-V4-flash-Base, DeepSeek-V4-Pro-Base와 모두 하나의 파이프라인에서 비교한다. 이 표가 릴리스에서 가장 정직한 표인 이유는 바로 지는 행이 있기 때문이다. MMLU-Pro에서 Hy4 flash-Base는 71.1로, Hy4 Base의 73.9, DeepSeek-V4-Pro-Base의 73.4와 대비된다. SimpleQA는 37.5로, 57.2와 52.1과 대비된다. 이기는 곳에서는 중국어 및 다국어 행에서 크게 이긴다 — C-Eval 92.0, CMMLU 91.6, AGIEval Chinese 90.6, Belebele 93.8, INCLUDE 82.8 — 이는 Tencent 자체 제품을 위해 먼저 만든 모델에서 기대할 수 있는 결과다.

점수를 읽기 전에 카드의 작은 글씨를 먼저 읽으십시오. Tencent는 중간 학습 중 합성 지시 데이터에 과도하게 노출되면 모델이 때때로 "퓨샷 평가에서 기대되는 답변 형식"을 따르지 못하게 되어 "점수가 왜곡될 수 있다"고 밝힙니다. 이는 한 공급업체가 자사 일부 행이 능력 대신 형식 준수를 측정하고 있을 수 있다고 스스로 지적하는 것입니다. 자체 하네스가 일치할 때까지 아래의 모든 숫자를 상한으로 취급하십시오.

instruct 모델에는 공개 벤치마크 표가 전혀 없다. 대신 있는 것은 슬라이드 제작, 슬라이드 편집, 인간-AI 슬라이드 공동 작성, Markdown 공동 작성, 문서 편집, 스프레드시트 복구, 오디오/비디오 처리, 시각 이해의 여덟 가지 작업군으로 구성된 내부 스위트인 WorkIndex다. Hy4 flash는 그곳에서 42.1점을 기록했고, Hy4 preview는 39.7점, Hy4 자체는 51.4점이다. 작업당 평균 비용은 회사가 제시한 기준으로 Hy4 preview의 1/13, Hy4의 1/20, 피크 시간대 요금 기준 DeepSeek-V4.1-Flash-1017의 1/8이다. 또한 27개 범주에 걸친 259개 작업에서 내부 WorkBuddy 사용자 85명을 대상으로 한 블라인드 평가가 있는데, 여기서 Hy4 flash는 만족도 4점 만점에 2.79점을 기록해 Claude Haiku 5.5의 2.81점과 비교된다. 중앙값 기준 작업당 6.7분, 0.26 RMB가 소요된다.

그것들은 실제 모집단에 대한 실제 측정값입니다. 그것들은 또한 Tencent 직원들이 Tencent식 업무를 수행한 것을 Tencent가 작성한 평가 기준으로 채점한 측정값이며, 경쟁사의 만족도 점수와의 0.02점 차이는 그럴듯한 잡음 범위 안에 충분히 들어 있습니다. WorkIndex 순위는 공급업체가 제공하는 방향성 신호로만 간주하고 그 이상으로 해석하지 마세요.

이번 릴리스가 실제로 평가받을 지점은 바로 라이선스다.

오픈 웨이트는 오픈 소스가 아니며, Tencent Hy License는 그 구분을 유난히 구체적으로 드러낸다. 특정 팀이 무엇을 할 수 있는지는 네 개의 조항이 결정한다:

• 기본 허여 — 상업적 사용, 수정 및 재배포를 포함한 Apache 2.0의 권한은 가중치, 매개변수, 구성, 추론 코드 및 문서에 적용됩니다.

• MaaS 트리거 — 제3자에게 추론 또는 미세 조정에 대한 원격 접근을 제공하고, 어느 12개월 기간이든 전 세계 총매출이 US$50 million을 초과하는 경우 별도의 서면 라이선스가 필요합니다. 모델에서 파생된 매출도 포함되며, 모델과 무관한 매출도 마찬가지입니다. 해당 조항은 "해당 매출이 Work에서 파생되는지 여부와 관계없이"라고 규정합니다.

• 규모 트리거 — 해당 역월에 월간 활성 사용자 수가 1억 명을 초과하는 제품에서 가중치를 사용하기 전에도 동일한 요구 사항이 적용되며, 매출 수준과는 무관합니다.

• 두 가지 예외 — 모델 접근이 범용 프롬프트가 아니라 특정 기능에 한정된 최종 사용자 제품은 MaaS 정의 밖이며, "독립적으로 운영되는 제3자 모델 서비스에 요청을 단순히 중계하는 것"도 제외됩니다. 내부 전용 사용은 전면 면제됩니다.

ERNIE 5.5 Flash Base 체크포인트에 적용되는 라이선스와 비교해 보세요. 이 라이선스는 EU, 영국, 한국을 영토에서 완전히 제외합니다. 텐센트는 어떤 영토도 제외하지 않습니다. 대신 규모에 비용을 부과합니다. 가중치 위에 제품을 만드는 스타트업에게 이는 영토별 금지보다 실질적으로 훨씬 우호적인 문서입니다. 중형 추론 제공업체에게는 출시 전에 [email protected]으로 전화 한 통이면 됩니다.

서빙하기: 세 가지 실제 경로, 모두 고정됨

배포 관련 내용은 출시 주간의 API 관련 내용보다 더 완성도가 높지만, 초기 프레임워크 지원이 늘 그렇듯이 지원되는 제품보다 더 취약하기도 하다.

• vLLM — 공식 이미지 vllm/vllm-openai:hy4-flash, 텐서 병렬 8, FP8 체크포인트, --attention-backend FLASHMLA_SPARSE, 5개 토큰의 DFly 추측 디코딩, 그리고 hy_v4 도구 호출 및 추론 파서.

• SGLang — lmsysorg/sglang:hy4-flash, x86 및 Arm 전반에 걸친 멀티 아키텍처, 텐서 병렬 8, 블록 크기 6의 --speculative-algorithm DFLY.

• Transformers — 아직 릴리스에 포함되지 않았습니다. 카드에는 병합이 완료될 때까지 pull-request ref(refs/pull/50903/head)에서 설치하라고 안내되어 있는데, 이는 이 기능이 얼마나 새로운지를 보여주는 가장 명확한 신호입니다.

• 양자화 — AngelSlim 툴킷의 GGUF 빌드가 엔드투엔드 테스트용으로 링크되어 있으며, 저장소에 파인튜닝 가이드가 포함되어 있습니다.

고정된 이미지와 PR ref는 모델이 현재 Tencent가 테스트한 정확한 빌드에서 작동하며 두 프레임워크 중 어느 하나의 다음 마이너 릴리스에서는 작동하지 않을 수 있음을 의미합니다. 이는 프로덕션 엔드포인트 뒤에 두기 전에 알아둘 가치가 있으며, 실제로 배포하는 사람에게는 프레임워크 레시피가 벤치마크 표보다 더 중요한 이유이기도 합니다.

오픈 웨이트가 API 가격에 미치는 영향

텐센트의 중국 본토 기준 Hy4 flash 정가는 입력 토큰 100만 개당 ¥0.5, 출력 100만 개당 ¥2, 캐시 적중 시 ¥0.02이며, 현재 환율로 대략 $0.070, $0.281, $0.003입니다. 이는 벤더가 제시한 가격표일 뿐, 실측값은 아닙니다.

가중치가 배포될 때 바뀌는 것은 그 가격이 아니다. 바뀌는 것은 그 아래의 하한선이다. 다운로드할 수 있는 모델에는 두 번째 가격이 있는데, 그것은 그 모델을 실행하는 GPU의 비용이며, 위에서 설명한 전체 아키텍처는 이 두 번째 가격이 1M 컨텍스트 모델치고 유난히 낮다는 주장이다. Tencent 자체의 작업당 1/8~1/20 비용 비율은 바로 그 주장을 벤더 산술로 표현한 것이다.

OrcaRouter 200개 이상의 모델을 하나의 API 뒤에서 라우팅하며 공급업체의 정가를 0% 마크업으로 그대로 전달하므로 공급업체 가격 변경이 다음 카탈로그 재구축 때가 아니라 같은 날 우리 쪽에 반영됩니다. Hy4 flash 자체는 아직 해당 카탈로그에 없습니다 — 거기 있는 것은 tencent/hy4-preview, 이 모델이 증류된 770B/49B 교사 모델로, 백만 토큰당 입력 $0.834, 출력 $2.501, 캐시 읽기 요율 $0.042입니다. 자체 호스팅 FP8 배포를 확정하기 전에 패밀리를 평가하려면 오늘 호출할 수 있는 모델은 이 프리뷰입니다; 수치가 견고하게 유지될 때 이동할 대상은 가중치입니다. 자동 장애 조치도 이러한 운영 방식의 나머지 절반입니다, PR-ref Transformers 빌드에서 실행되는 이틀 된 체크포인트는 바로 뒤에 두 번째 경로를 두고 싶은 종류의 의존성입니다.

Screenshot of the tencent/hy4-preview model page, showing the per-million-token input, output and cache-read prices the routed preview model is listed at.

무엇을 볼까요?

이번 릴리스가 6개월 후에도 의미가 있을지를 결정할 세 가지가 있으며, 그중 어느 것도 벤치마크 표가 아닙니다.

첫째, 404다. Hy4 flash에는 독립적인 점수가 없다. Artificial Analysis나 이에 준하는 곳이 이를 실행하기 전까지, 이 글의 모든 성능 주장은 Tencent의 것이며, 정직한 입장은 그 모델이 잘 측정된 것이 아니라 측정되지 않았다는 것이다. 둘째, 프레임워크 병합: Transformers 지원이 pull request 50903에서 빠져나오고 vLLM 및 SGLang 이미지가 더 이상 고정되지 않게 되면, 그 모델은 연구 산출물을 멈추고 인프라가 된다. 셋째, 라이선스 해석 — 이 가중치로 6천만 달러 규모의 MaaS 사업을 운영하는 첫 회사가 Section 10.2가 실제로 어떻게 읽히는지를 모두에게 알려줄 것이다.

텐센트는 발표를 "다음은 Hy4입니다, 기대해 주세요"라는 문구로 마무리했는데, 이는 비용 차트에 있는 WorkIndex 51.4 모델도 같은 대우를 받는다는 약속이다. 그렇게 된다면 흥미로운 질문은 텐센트가 저렴한 오픈 웨이트 플래시 모델을 출시할 수 있는지가 아니라, 가격이 아니라 성능으로 경쟁하는 비싼 모델을 출시할 수 있는지가 된다.

이 글에서 비교한 모델2

이 글에서 자동 인식 · 벤치마크: Artificial Analysis · 매일 업데이트