생성된 타이틀 카드에는 'Sage-S2.1-Flash'가 부제 '645GB의 가중치, 21바이트 모델 카드, 공지 없음' 위에 적혀 있고, 그 아래에는 '2026년 11월 15일 업로드', 'MIT 라이선스', '320B-A18B MoE'라고 적힌 세 개의 작은 칩이 있습니다. 흰색 배경, 파란색 및 청록색 그라데이션 액센트, 플랫 라인 아이콘. OrcaRouter 로고는 오른쪽 아래 모서리에 합성되어 있습니다.
Guides & Insights

Sage-S2.1-Flash, 조용히 출시되다: 645GB의 가중치, 21바이트 모델 카드, 그리고 아무도 링크하지 않은 벤치마크 표

작성자

jinhao.song

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

2026년 11월 15일 UTC 02:34에 상하이 AI 연구소 소속 계정이 internlm/Sage-S2.1-Flash라는 저장소를 Hugging Face에 업로드했다. 여기에는 총 약 645기가바이트에 달하는 120개의 safetensors 샤드, 구성 파일, 채팅 템플릿, 그리고 21바이트짜리 README가 들어 있었다. 블로그 게시물은 없었다. 11월 16일에 확인했을 때 연구소 자체 홈페이지에는 그 이름에 대한 언급이 없었다. 우리가 찾을 수 있는 보도자료도 없었고, Artificial Analysis에도 Sage-S2.1-Flash 항목이 없었다.

그 주말이 끝날 무렵 실제로 존재했던 것은 독자가 확인할 수 있는 세 가지였다. 가중치 자체, 이것을 H200 8대에서 서빙하려는 사람들을 위해 작성된 배포 가이드, 그리고 모델 저장소가 전혀 링크하지 않는 GitHub Pages 마이크로사이트에 호스팅된 벤치마크 표다. 이 글은 그 세 가지의 목록이며, 파일이 입증하는 것과 InternLM이 아직 말하지 않은 것 사이에 명확한 경계를 긋는다.

Screenshot of the Hugging Face 'Files and versions' tab for internlm/Sage-S2.1-Flash. The header shows the safetensors and glm5_next tags, the MIT licence, and a repository size of 643 GB. The file list shows .gitattributes, README.md, chat_template.jinja, config.json, deployment_guide.md, generation_config.json, and shards numbered model-00001-of-00120 through model-00013-of-00120 and beyond.

저장소를 파일별로

증거는 놀랄 만큼 깔끔한데, 그 양이 너무 적기 때문이다. 11월 16일의 디렉터리 목록에는 155개의 파일이 나온다. 그중 120개는 각각 약 5.35GB인 가중치 샤드다. 나머지는 멀티모달 모델의 기계 장치들이다: 20메가바이트의 tokenizer.json, 10.5KB의 chat_template.jinja, 5.9KB의 config.json, temperature 1.0과 top_p 0.95로 설정된 생성 구성, deployment_guide.md, 그리고 두 개의 디렉터리 — 하나는 vLLM 패치를 담고 있고, 다른 하나는 동반 지각 모델용 프로젝터를 담고 있다.

README는 곱씹어 볼 가치가 있습니다. 21바이트, 그리고 그 전부가 YAML 프런트매터입니다:

• 가로 구분선, 그다음 license: mit라고 적힌 한 줄, 그다음 또 다른 가로 구분선.

그게 모델 카드의 전부입니다. 설명도, 벤치마크 표도, 사용 예제 코드도, 인용 블록도, 논문 링크도 없습니다. Hugging Face는 이를 제목과 MIT 배지, 빈 본문만 있는 페이지로 렌더링합니다. 이 저장소에는 좋아요가 하나 있고 작성 시점 기준 다운로드 수는 0회인데, 이 정도 크기의 모델에서 이는 품질에 대한 신호라기보다 디스크 공간을 감당할 수 있는 사람이 얼마나 적은지를 보여주는 신호에 가깝습니다.

파일 목록에서 확인되는 두 가지 작은 세부 사항은 기록해 둘 만합니다. 어떤 공지보다도 릴리스 시점을 더 잘 보여주기 때문입니다. FP8로 양자화된 형제 모델인 internlm/Sage-S2.1-Flash-FP8은 11월 13일 15:04 UTC에 생성되었습니다 — 대략 35시간 전에 bfloat16 저장소가 만들어졌습니다. 그리고 bf16 저장소의 마지막 커밋은 11월 16일 03:01 UTC의 "Upload folder using huggingface_hub"이며, 최초 업로드와 동일한 메시지입니다. 이것을 만들어낸 워크플로가 무엇이었든, 그것은 공들여 준비한 출시가 아니었습니다.

연구소가 실제로 작성한 유일한 문서

deployment_guide.md는 InternLM이 저장소 안에 포함해 배포한 유일한 산문 문서이며, 그곳에서 가장 정보가 많은 파일입니다. 그 첫 문장이 곧 전체 명세입니다:

Sage-S2.1-Flash 릴리스는 bfloat16 가중치 형식(약 645GB)으로 저장된 320B-A18B 멀티모달 MoE 모델입니다.

세 가지 숫자 중 두 가지는 Hub 자체 메타데이터로 확인된다. 모델 페이지의 파라미터 수는 3210억으로 표시되는데, 10억 차이는 거의 확실히 불일치라기보다 반올림 관례 때문이다. 저장 용량 수치는 internlm의 저장소 메타데이터와 642.8 GB로 일치한다. "A18B" — 토큰당 180억 개의 활성 파라미터 — 는 InternLM 자체 용어이며 구성에서 독립적으로 도출할 수 없으므로 공급업체 수치로 간주하라.

config.json이 나머지를 채우며, 이는 정말 흥미로운 문서입니다. 모델은 45개 계층을 가지며, 그중 {{1}}11개{{/1}}만 기존의 희소 어텐션을 사용합니다. 나머지 34개는 {{2}}선형 어텐션 계층 유형{{/2}}을 사용하는데, config에서는 이를 kda라고 부르며 linear_attn_config의 계층별 목록으로 키가 지정됩니다. 라우팅은 288개 전문가로, 하나의 공유 전문가와 토큰당 8개가 선택되며, 라우팅 스케일링 계수는 2.5입니다. 위치 상한은 1,048,576 토큰입니다. 비전 타워가 있습니다 — 깊이 24, 448픽셀 이미지, 패치 크기 14 — 그리고 토큰 어휘에는 명시적인 image, video, image-start, image-end, video-start, video-end 토큰이 포함되어 있습니다.

Screenshot of deployment_guide.md rendered in the Hugging Face file viewer for internlm/Sage-S2.1-Flash. The opening sentence reads 'The Sage-S2.1-Flash release is a 320B-A18B multimodal MoE model stored in bfloat16 weight format (about 645 GB).' Below it, the guide states the vLLM and SGLang examples use 8x H200 GPUs and that the model uses the GLM-5.3-Flash architecture, followed by the 'Required for Sage-S2.1-Flash' section on --trust-remote-code and the vLLM patch.

가장 중요한 아키텍처 라인

배포 가이드에는 전체 릴리스의 의미를 새롭게 규정하는 한 문장이 포함되어 있습니다. 이 문장은 Sage-S2.1-Flash가 "GLM-5.3-Flash 아키텍처를 사용한다"고 밝히고, 독자에게 Z.ai의 공식 GLM-5.3-Flash 레시피를 따라 vLLM과 SGLang을 설치 및 튜닝하되 한 저장소 이름을 다른 이름으로 대체하라고 안내합니다.

그 점은 구성에서 확인된다. 아키텍처 클래스는 Glm5NextForConditionalGeneration이고 모델 타입은 glm5_next이다. 따라서 Shanghai AI Laboratory 모델이 Z.ai 아키텍처 위에 공개된 것이며, 연구소는 이를 숨기지 않고 분명히 밝힌다. GLM-5.3-Flash 자체도 3,200억 개 매개변수에 활성 매개변수 180억 개인 멀티모달 MoE로, 100만 토큰 컨텍스트와 128K 출력 상한을 갖는다 — 즉 매개변수 구조 역시 우연이 아니다.

이것을 배포할지 결정하려는 사람에게 그 문장은 이번 릴리스에서 단연 가장 가치 있는 정보입니다. 이는 서빙 관련 내용이 새로운 것이 아니라는 뜻입니다. 레시피, 커널 작업, 알려진 실패 모드가 8월부터 공개되어 온 모델에 대해 이미 문서화된 것들이라는 뜻이기도 합니다. 또한 InternLM이 추가한 패치들은 면밀히 읽어볼 가치가 있는데, 해당 모델이 베이스 모델과 정확히 어디에서 달라지는지를 설명하기 때문입니다.

이 릴리스를 단순하게 서비스하면 깨지는 세 가지 방식

배포 가이드는, 자세히 읽어 보면, 함정들의 목록이다. 각각은 오류가 아니라 조용한 실패이며, 그것이 바로 위험한 종류다.

• --trust-remote-code를 빼면 아무 경고도 없이 도구 호출이 깨집니다. 에이전트 트레이스에는 <|user|>나 <tool_call> 같은 문자열이 일반 텍스트로 들어 있습니다. 이 저장소는 이를 텍스트로 취급하는 자체 토큰화 코드를 제공합니다. 플래그가 없으면 엔진이 기본 토크나이저를 불러와 이 문자열들을 제어 토큰으로 인코딩하므로, 모델이 조기에 멈추거나 도구 호출이 손상될 수 있습니다. 로그에는 아무것도 남지 않습니다.

• vLLM에는 파일 하나짜리 패치가 필요합니다. 그렇지 않으면 이미지가 잘못된 도구 결과에 첨부됩니다. 병렬 도구 호출이 발행된 순서와 다른 순서로 반환되면, 채팅 템플릿은 호출 순서대로 결과를 렌더링하는 반면 vLLM은 메시지 순서대로 이미지를 수집합니다. 각 이미지는 조용히 잘못된 결과에 붙고, 모델은 잘못된 그림에 대해 답합니다. 이 수정은 vllm/renderers/hf.py를 교체합니다. 업스트림 수정은 vllm-project/vllm#67108로 진행 중입니다.

• SGLang은 파일을 직접 전달하지 않는 한 저장소의 채팅 템플릿을 사용하지 않습니다. SGLang은 기본적으로 이 아키텍처용 내장 템플릿을 설치하며, 이는 저장소의 토크나이저를 완전히 우회합니다. chat_template.jinja를 다운로드하여 --chat-template으로 전달해야 합니다.

in non-streaming responses can truncate reasoning or swallow a tool call; streaming is unaffected." Need preserve literal </think> exactly. "transformers between 5.17 and 5.19" maybe transformers package version. Keep names. "open vLLM issue" = 미해결 vLLM 이슈. "literal </think>" = 리터럴 </think>. "swallow a tool call" = 도구 호출을 삼켜버릴 수 있습니다. "streaming is unaffected" = 스트리밍은 영향을 받지 않습니다. Korean: "같은 문서에 제약 조건이 두 가지 더 있습니다. FP8 KV 캐시는 Hopper GPU에서 지원되지 않으므로 H100과 H200에서는 BF16 캐시를 유지합니다. 또한 LMDeploy는 transformers 5.17~5.19가 필요합니다. 5.19에서 레이어 유형 deepseek_sparse_attention의 이름을 indexed_attention으로 바꾸는데 LMDeploy가 새 이름을 거부하기 때문입니다. 이 가이드는 또한 미해결 vLLM 이슈인 vllm-project/vllm#64326도 지적합니다. 이 이슈에서는 비스트리밍 응답에 리터럴 </think>이 있으면 추론이 잘리거나 도구 호출이 삼켜질 수 있으며, 스트리밍은 영향을 받지 않습니다." Need preserve dash maybe. "same document" no markers. Output only translation. Ensure no preamble. Good.같은 문서에 제약 조건이 두 가지 더 있습니다. FP8 KV 캐시는 Hopper GPU에서 지원되지 않으므로 H100과 H200에서는 BF16 캐시를 유지합니다. 또한 LMDeploy에는 transformers 5.17~5.19가 필요합니다. 5.19에서 레이어 유형 deepseek_sparse_attention의 이름을 indexed_attention으로 바꾸는데 LMDeploy가 새 이름을 거부하기 때문입니다. 이 가이드는 또한 미해결 vLLM 이슈인 vllm-project/vllm#64326도 지적합니다. 이 이슈에서는 비스트리밍 응답에 리터럴 </think>이 있으면 추론이 잘리거나 도구 호출이 삼켜질 수 있으며, 스트리밍은 영향을 받지 않습니다.

이 중 어느 것도 모델이 나쁘다고 말하지 않는다. 이는 이번 릴리스가 아직 이를 작성한 사람들만 실행해 본 단계에 있고, 그들이 바로 그 점을 알려 주고 있다는 뜻이다.

리포지토리에 없는 벤치마크 테이블

InternLM은 실제로 평가 수치를 공개했습니다. Terminal-Bench 2.1, DeepSWE, SWE-bench Pro, APEX-Agents, GDPval, OfficeQA Pro V2, Harvey LAB, OSWorld-Verified, BrowseComp, BabyVision 및 24개 더에 걸쳐 35개입니다. 이 수치들은 모델 카드에 없습니다. 모델 카드가 비어 있기 때문입니다. 이 수치들은 별도의 GitHub 리포지토리인 InternLM/Sage-S2.1-Flash에 있으며, 이 리포지토리는 11월 16일 03:34 UTC에 생성되었고 "Sage 2.1 Flash 이중 언어 웹사이트 및 애플리케이션 데모"로 설명되며 internlm.github.io/Sage-S2.1-Flash에 정적 사이트를 빌드합니다. 벤치마크 데이터는 탭으로 구분된 파일과 JSON 파일로 그곳에 커밋되어 있으며, 모델이 3D Slicer, Blender, Fiji를 구동하는 데모 영상도 함께 있습니다.

해당 사이트의 영어 문구는 "Today, we introduce Sage 2.1 Flash, a frontier scientific multimodal agent model"로 시작합니다. 따라서 그 발표는 실제로 존재합니다. 다만 Hugging Face 저장소 어디에서도 링크하지 않는 GitHub Pages 호스트에 있으며, 가중치가 이미 다운로드 가능해진 뒤에 만들어졌을 뿐입니다. 벤더가 직접 내놓은 설명을 원한다면 바로 그 문단입니다. 하나의 모델에서 분자 그래프, 결정 구조, 단백질 서열과 3D 구조, DNA와 RNA, 스펙트럼, 질량 스펙트럼, X선 회절, 심전도, 뇌전도, 광도 곡선 등 열 가지가 넘는 과학적 입력을 처리합니다.

평가 표는 Sage 2.1 Flash를 여덟 개 모델, 즉 GLM-5.3-Flash, DeepSeek-V4.1-Flash-1017, Qwen3.8-Max, GPT-5.6 Sol, Claude Opus 5, GPT-6 Astra, GPT-6.1 Sol, Claude Opus 5.5와 비교한다. 그 안의 모든 수치는 공급업체가 보고한 것이다. 공개된 하네스도, 실행 로그도, 작업별 세부 결과도 없으며, 제3자가 이를 재현한 적도 없다. 이 표는 측정값이 아니라 해당 연구소의 의도 선언으로 읽어야 한다.

공급업체 테이블이 유난히 강한 부분과 유난히 약한 부분

두 가지 패턴이 두드러지는데, 둘 다 헤드라인 점수보다 더 많은 정보를 준다.

첫째는 과학 및 비전 항목에서 격차가 터무니없다는 점입니다. BabyVision에서 Sage는 75.8을 기록한 반면 GLM-5.3-Flash는 51.3, DeepSeek-V4.1-Flash-1017은 58.0, Claude Opus 5는 63.1입니다. OSWorld-G에서 Sage는 84.8을 기록했고 DeepSeek는 61.4였습니다. OfficeQA Pro V2에서 Sage는 72.2를 기록해 해당 표에서 가장 높았고, 67.2의 Claude Opus 5를 앞섰습니다. 한 모델이 특정 항목에서 24점 차로 1위를 차지할 때, 그것은 실제 역량이거나 이 모델에 대해서는 다른 모델들과 다르게 벤치마크를 해석하고 있다는 뜻입니다. 그리고 하네스가 공개되지 않았으므로 어느 쪽인지 판별할 수 없습니다.

두 번째는 코딩 관련 행들이 이번 릴리스에서 가장 자랑스럽지 않은 문서라는 점이다. Terminal-Bench 2.1의 87.9는 강력하지만 선두는 아니다. Qwen3.8-Max는 89.6, Claude Opus 5는 90.2다. SWE-bench Pro의 60.6은 64.7의 DeepSeek-V4.1-Flash-1017과 65.3의 Qwen3.8-Max에 뒤진다. DeepSWE의 67.0은 DeepSeek의 73.9에 거의 7점 뒤진다. 마케팅에서 내세우는 것이 에이전틱인 모델치고는, 저자들이 스스로 공개하기로 선택한 표라는 점 자체가 의미 있는 일이다.

표에 포함되지 않은 점도 눈에 띈다: Claude Haiku 5.5와 Gemini 3.8 Flash가 모두 빠져 있어서, 대부분의 사람이 원할 두 비교는 어느 방향으로도 공급업체 데이터만으로는 전혀 할 수 없다.

A generated infographic titled 'Sage-S2.1-Flash - what the weekend actually established', listing four tiers as cards. 'Confirmed by the files': 120 shards, 645 GB, bfloat16, MIT licence, 45 layers, 1,048,576-token ceiling. 'Confirmed by the vendor guide': 320B total, 18B active, GLM-5.3-Flash architecture, 8xH200 reference. 'Vendor-reported, unreproduced': 35 benchmark rows, harness undocumented. 'Not confirmed': no price, no hosted endpoint, no independent score. Footer: 'Sage-S2.1-Flash figures unaudited; file and licence facts from the Hugging Face repository.' The OrcaRouter logo is composited in the bottom-right corner.

확인된 것과 확인되지 않은 것은 무엇인가?

주말의 증거를 두 무더기로 분류하는 것이 독자가 그것으로 할 수 있는 가장 유용한 일이다.

• 파일로 확인됨 — 가중치가 존재하며 MIT 라이선스로 다운로드 가능; 120개 샤드, 약 645 GB, bfloat16; 45개 레이어에 34/11 선형·희소 어텐션 분할; 288개 라우팅 전문가, top-8; 1,048,576토큰 위치 상한; 비전 타워와 이미지/비디오 토큰; 이틀 전에 공개된 FP8 형제 모델.

• 공급업체 자체 가이드로 확인됨 — 총 320B, 활성 18B; GLM-5.3-Flash 아키텍처; 참조 배포 사양으로 8×H200; 문서화된 다섯 가지 서빙 함정.

• 벤더 보고 기준이며 재현되지 않음 — 24포인트의 BabyVision 격차와 OfficeQA Pro V2의 72.2를 포함한 모든 벤치마크 점수.

• 확인되지 않음 — 비용이 얼마인지. 가격은 어디에도 없습니다. Hub에도, 가이드에도, 마이크로사이트에도 없습니다. "Try the API" 버튼은 discovery.intern-ai.org.cn을 가리키며, 이 주소는 JavaScript를 사용하지 않는 fetch 요청에 거의 비어 있는 껍데기만 반환했습니다. 우리는 외부에서 해당 모델이 그곳에서 호출 가능한지, 어떤 식별자로 호출되는지, 어떤 요율로 호출되는지 확인할 수 없었습니다.

• 또한 확인되지 않음 — 이것이 애초에 '출시'라고 부를 수 있는 것인지, 그 단어가 보통 담고 있는 의미에서조차. 발표도 없고, 이 이름으로 된 논문도 없고, 파트너 접근 권한도 없으며, 스크립트가 생성했을 수 있는 모델 카드뿐이다.

프로덕션 경로를 걸지 않고 그것을 살펴보는 방법

대부분의 팀에게 실질적인 질문은 "이게 우리가 운영하는 것보다 더 나은가"가 아니라 "한 시간을 투자할 가치가 있는가"입니다. bfloat16으로 645GB라면 노트북에서 다운로드할 물건이 아니며, 솔직한 진입점은 임대한 8×H200 노드, 배포 가이드를 보며 보내는 오후 한나절, 그리고 아무도 하니스를 공개하지 않은 모델을 실행하고 있다는 사실을 받아들이는 것입니다.

그 모든 것에 앞서 더 저렴한 실험은 아키텍처 계열을 지름길로 읽는 것입니다. InternLM은 자체 가이드에서 이 모델이 GLM-5.3-Flash 아키텍처를 기반으로 구축되었으며, 한 저장소 이름을 다른 이름으로 대체하면서 Z.ai의 서빙 레시피를 따라야 한다고 밝힙니다. 즉, 기본 아키텍처는 — 동일한 320B/18B 구조, 동일한 하이브리드 희소·선형 어텐션, 동일한 백만 토큰 상한 — 오늘 호스팅 API를 통해 테스트할 수 있습니다 — 먼저 찾아야 하는 여덟 개의 GPU를 통해서가 아니라. 기본 모델이 이미 과학 문서에서 제대로 작동한다면, 파생 모델은 다운로드할 가치가 있는 개선판입니다. 그렇지 않다면 주말을 아낀 셈입니다.

이 지점에서 OrcaRouter가 진짜 제 역할을 하는 곳은 "한번 써보고 싶다"와 "실제로 서비스할 수 있다" 사이의 간극입니다. 자동 페일오버를 사용하면 실험적인 엔드포인트를 정책 뒤에 배치할 수 있습니다그것을 유일한 경로로 만들지 않고서도 말이죠. 새 모델이 잘못된 형식의 도구 호출을 반환하면 — 그리고 배포 가이드는 플래그나 패치를 건너뛸 경우 그것이 정확히 어떻게 일어날지 알려줍니다 — 요청은 이미 신뢰하는 모델로 넘어가고, 트레이스는 그대로 유지됩니다. 이는 일회성 평가 스크립트보다 증거를 수집하는 더 나은 방법입니다. 실제 트래픽에서 증거를 수집하기 때문입니다.

무엇이 그것을 해결할까요?

유용성의 오름차순으로 세 가지 사건이 있다. 모델 카드는 실험실이 그 모델을 무엇에 쓰라고 생각하는지 알려줄 것이고, 아마도 현재 GitHub Pages 호스트에 갇혀 있는 그 표를 그대로 담고 있을 것이다. 독립 리더보드에 항목이 하나 올라가면 누군가가 공통 하네스에서 공급업체의 마진을 빼볼 수 있게 될 것이다. 그리고 가격 — 어떤 가격이든, 어디서든 — 은 Sage-S2.1-Flash를 다운로드에서 결정으로 바꿔 놓을 것이다.

그중 하나가 실제로 출시되기 전까지는, 정확한 설명은 파일들이 뒷받침하는 설명이다. 즉 공개 아키텍처를 기반으로 구축되어 아무런 설명도 없이 공개되었고, 저자들 자신조차 여전히 서빙 스택을 패치하고 있는, 대형 MIT 라이선스의 과학적으로 튜닝된 멀티모달 MoE다. 그것은 결코 사소한 일이 아니다. 그것은 또한 아직 제품이 아니며, 그 차이는 그것을 운영해야 할 사람들에게 가장 크게 중요하다.