
GigaChat3.5-Omni 유출: Sber의 432B 모델이 드래프트 PR에서 눈과 귀를 갖추다
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 185 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 228 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 89 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 98 tok/s
- orcaNEWOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 100만 토큰당 · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
2026년 11월 18일 SGLang 저장소에 열린 초안 풀 리퀘스트는 공개적으로 존재하지 않는 모델을 설명합니다: GigaChat3.5-Omni-432B-A28B는 GigaChat 3.5 Ultra — Sber의 432B 파라미터 전문가 혼합(mixture-of-experts) 언어 모델 — 에 InternViT-300M 비전 타워와 24층 컨포머 오디오 인코더를 결합한 것으로, 이미지, 사운드트랙이 있거나 없는 비디오, 오디오 파일, 그리고 이 세 가지의 혼합을 입력으로 받습니다. 그 문장에서 모델 카드와 대조해 확인할 수 있는 것은 아무것도 없습니다. 공개된 모델 카드가 없기 때문입니다. 해당 PR이 링크한 Hugging Face 저장소는 오늘 조회하면 HTTP 401을 반환하고, Hugging Face에서 이름 검색을 해도 아무 결과가 없으며, Sber 자체 개발자 문서는 여전히 GigaChat 3 Ultra를 최신 세대 모델로 나열하고 있고, 목록 어디에도 멀티모달 항목은 없습니다. 존재하는 것은 추가된 3,290줄의 서빙 코드, 구성 파일, 약 2,000줄의 테스트, 그리고 참조 열을 누군가 비워 둔 벤치마크 표입니다.
그건 결코 사소한 일이 아니다. 이런 형태의 풀 리퀘스트는 체크포인트를 직접 눈앞에 둔 사람만이 작성할 수 있다: 프로세서가 이미지 디코딩, 픽셀 레이아웃, 로그-멜 추출을 체크포인트 자체의 원격 코드로 넘기기 때문이다. --trust-remote-code를 통해서다. 즉 작성자는 그 텐서들이 어떻게 생겼는지 알려면 그것을 실행해 봐야 했다는 뜻이다. 그러므로 유용한 질문은 "Sber가 이걸 발표했는가"가 아니다 — 발표하지 않았다 — 그보다는 지금 비공개 저장소에 있을 가능성이 매우 높은 모델에 관해 코드가 무엇을 말하는지, 그리고 그것이 현재 오디오와 비디오를 이해시키는 데 토큰당 비용을 지불하는 모든 사람에게 무엇을 의미할지다.
풀 리퀘스트가 실제로 설명하는 내용
SGLang PR #51276의 제목은 "[Feat] gigachat35-omni: GigaChat3.5-Omni 이미지, 비디오 및 오디오 지원 추가"입니다. 이 PR은 초안이며 병합되지 않았고, 초안이라는 이유만으로 CI가 건너뛰어졌습니다. 구현은 얇은 래퍼입니다 — GigaChat35OmniForConditionalGeneration가 기존 GigaChat35ForCausalLM를 감싸며 — 그 주변에 세 가지 새로운 요소가 있습니다: InternVisionModel 및 픽셀 셔플 MLP 프로젝터를 통한 비전 경로, 인트리 conformer 오디오 인코더, 그리고 플레이스홀더를 배치하는 프로세서입니다. 아래의 모든 내용은 PR 작성자 본인의 모델 설명이며, 그중 어느 것도 Sber에 의해 확인되지 않았습니다.
• 언어 스택 — GigaChat 3.5에서 변경 없음: 총 432B 파라미터, 활성 28B, 토큰당 8개씩 라우팅되는 256개 전문가, 40개 레이어, MLA와 Gated DeltaNet 선형 어텐션 레이어를 혼합한 하이브리드 어텐션, 2개의 MTP 헤드. 이 수치는 공개된 GigaChat 3.5 Ultra 모델 카드에서 나온 것이므로 이 부분은 검증 가능하다.
• 비전 — InternViT-300M, 이미지를 448×448 크롭으로 분할, 크롭당 256개 토큰.
• 오디오 — 24개 레이어의 컨포머, 너비 1,024, 헤드 16개, 너비 4,096의 피드포워드, 멜 빈 64개, 서브샘플링 계수 4, 어텐션은 각 레이어에서 한 블록의 헤일로를 포함하는 200프레임 청크로 제한됩니다. 오디오는 초당 6.25개 토큰, 즉 160ms당 한 토큰으로 토큰화됩니다.
• 비디오 — 첫 프레임은 256개의 토큰을 모두 유지하고, 이후 프레임은 평균 77개를 유지하며, 어떤 77개를 유지할지는 인코딩 후 이전 프레임의 동일 위치에 대한 각 토큰의 평균 절대 차이를 기준으로 순위를 매겨 결정됩니다. 전체 클립에 걸친 안정 정렬이 이들을 선택하므로, 한 프레임이 77개보다 많거나 적게 유지될 수 있습니다.
• 사운드가 포함된 동영상 — use_audio_in_video는 각 프레임의 사운드트랙 토큰 몫을 해당 프레임 뒤에 인터리브하고, 프레임 사이에 HH:MM:SS 타임스탬프를 넣습니다.
• 긴 오디오 — 32분이 넘는 클립은 할로가 있는 윈도로 인코딩되며, PR에서는 이 방식이 단일 패스와 비트 단위로 동일하다고 말합니다. 주장은 노드 하나에서 오디오 다섯 시간입니다.
• 실패 동작 — 잘못된 형식의 미디어는 스케줄러를 크래시시키는 대신 400을 반환하며, SGLANG_VLM_CACHE_SIZE_MB의 기본값은 이 아키텍처에서 2048입니다. 기본값인 100 MiB로는 긴 영상의 임베딩을 담을 수 없어 모든 프리필 청크가 인코더를 다시 실행했기 때문입니다.
초안은 초안일 뿐이다
오늘날 이것이 얼마나 검증 가능한지에 대해 정확히 짚고 넘어갈 가치가 있습니다. CI가 건너뛰어진 드래프트 PR은 제안일 뿐, 출시된 런타임에 대한 사실이 아니기 때문입니다. gigachat35_omni.py 파일은 SGLang의 메인 브랜치에 존재하지 않으며 — 거기서 가져오면 404가 반환됩니다 — 메인의 멀티모달 지원 모델 페이지에도 GigaChat 항목이 없습니다. 해당 PR에는 커밋이 하나뿐인데, 그 계정의 유일한 SGLang 관여가 이 PR이며, PR에 달린 유일한 댓글은 포크에서 미리보기 승인을 요청하는 문서 봇의 메모입니다.
출처(provenance)는 이 전체 이야기에서 가장 강력한 간접 증거다. 프로세서의 모든 미디어 경로는 “체크포인트의 원격 프로세서”에 위임되어 있으며, 저자는 “모델이 학습 및 평가된 서빙 스택”에 대한 prompt-id 일치성을 보고한다 — 이름도 밝혀지지 않았고 공개되지도 않은 내부 참조 스택이다. 실행해 보지 않은 모델을 상대로는 그중 어느 것도 작성할 수 없다. Sber의 외부에 있는 사람이라면 체크포인트가 필요할 것이고, 내부에 있는 사람이라면 내부 스택을 갖고 있을 것이다. PR에는 어느 쪽인지에 대한 언급이 없으며, 이 글은 추측하지 않을 것이다.

이 코드가 분명히 보여주는 한 가지는 이것이 이름 변경이나 구성 플래그가 아니라는 점입니다. 이 모델은 자체 토큰 ID를 가진 새로운 model_type(gigachat3_5_omni)을 등록합니다 — 이미지는 128004, 비디오 프레임은 128005, 오디오는 128006, 사운드트랙은 128007 — 그리고 새로운 프로세서, mm_schedule.py가 기존 EVS 경로 옆에서 다음에 분기해야 하는 새로운 임베딩 결과 타입, 그리고 청크 단위 프리필에 대한 새로운 처리를 추가합니다. 왜냐하면 프레임이 유지하는 토큰 수는 인코딩된 후에야 알 수 있기 때문입니다. 이것은 커뮤니티 파인튜닝이 텍스트 체크포인트 위에 가설적으로 덧붙여진 모델이 아니라, 그러한 전처리 결정이 내재된 채로 학습된 모델의 특징입니다.
토큰 계산 부분이 읽어볼 가치가 있는 부분이다
잠시 벤치마크 표는 건너뛰자. PR에 담긴 계산이 본질이다. 왜냐하면 그것은 긴 오디오와 비디오를 입력으로 받는 432B 모델을 과연 감당해서 실행할 수 있는지 알려주는 것이고, Sber가 이 모델에 대해 한마디도 하지 않더라도 변하지 않을 부분이기 때문이다.
1시간 분량의 오디오를 생각해 보자. 초당 6.25토큰이면 입력 토큰은 22,500개이고, 여기에 60초마다 타임스탬프와 마지막에 종료 시간 스탬프가 붙는다 — 오디오 자체에 비하면 아주 작은 변화다. 512프레임 비디오를 생각해 보자. 첫 프레임에 256토큰, 이후 프레임마다 77토큰이면, 사운드트랙을 제외하고 클립은 약 39,600토큰이 되며, 이는 30초 분량 영상에 128K 컨텍스트의 약 3분의 1에 해당한다. 사운드트랙을 더하면 각 프레임에 추가 토큰이 붙는다. 이것이 변경 감소 방식에 대한 전체 근거다: 이것이 없다면 256토큰씩인 512프레임은 131,072토큰이 되어, 한 클립에 128K 윈도우 전체를 쓰게 된다.
그것이 돈으로 얼마인지는 오늘 호출할 수 있는 모델들과 비교해 쉽게 확인할 수 있습니다. OrcaRouter의 카탈로그에서 현재 혼합 미디어 목록은 한 시간 분량의 오디오 가격을 다음과 같이 책정합니다:
• Gemini 3.8 Flash — 입력 토큰 100만 개당 $0.75이므로, 오디오 1시간은 약 1.7센트, 512프레임 클립은 약 3센트입니다.
• Qwen3-VL 235B A22B Instruct — 입력 토큰 100만 개당 $0.40, 즉 시간당 약 0.9센트, 클립당 1.6센트입니다.
• DeepSeek V4 Flash Vision Exp — 백만 입력 토큰당 $0.22이지만 이미지 전용 입력이며, 오디오는 전혀 처리할 수 없습니다.
여기에 실제 워크로드를 붙여 보세요. 녹음된 통화 40시간은 900,000토큰입니다. 공급자 정가 기준으로 Google 목록에서는 약 68센트, Qwen 목록에서는 36센트입니다. OrcaRouter는 공급자 요금을 마크업 없이 그대로 전달하므로, 이들 중 어느 것에든 공급자 가격 인하가 있으면 같은 날 저희 쪽에도 반영됩니다. 이는 또한 여기서 저희가 말할 수 있는 것의 정직한 한계이기도 합니다. GigaChat3.5-Omni-432B-A28B는 저희 카탈로그에 없으며, 저희는 이를 호출하는 수단이 아닙니다. 이 모델은 어디에서도 호출할 수 없습니다. 이 계산의 요점은 그와 같은 것이 실제로 등장했을 때 오디오가 비싼 부분이 아니라는 것입니다. 압축할 수 없는 토큰이 비쌉니다.
PR의 32분 윈도와 5시간이라는 주장도 바로 여기에 있습니다. 이 수치는 모델을 H100 8대에서 자체 호스팅하는 사람에게는 중요합니다. 요청이 prefill 청크로 분할될 때 긴 녹음 중 얼마나 다시 인코딩해야 하는지를 결정하기 때문입니다. 토큰당 비용을 지불하는 사람에게는 중요하지 않습니다. 어떤 인코더가 만들었든 오디오 한 시간은 그냥 한 시간이기 때문입니다.
네 개의 벤치마크 수치, 하나의 빈 열
PR은 8개의 H100에서 FP8, 텐서 병렬 8, 그리디 디코딩으로 실행한 네 가지 점수를 보고합니다. MMLU-Pro 73.07, MMAU test-mini 78.50, MMMU validation 64.11, 그리고 사운드트랙이 포함된 512프레임 클립에서의 Video-MME 80.74입니다. 이 점수들은 세 가지 주의사항과 함께 읽어야 하며, 주의사항은 모두 PR 페이지 자체에서 확인할 수 있습니다.
첫 번째는 참조 열이 비어 있다는 점입니다. 이 표에는 모델의 원래 서빙 스택을 위한 열과 이 PR을 위한 열이 있고, 두 번째 열만 채워져 있습니다. 그래서 이 수치들 옆에는 기준선이 표시되어 있지 않으며, 표만으로는 이 포트가 모델이 학습된 스택과 동일한지 아니면 그에 뒤처지는지 알 수 없습니다. 본문에서는 동등성(parity) 주장을 분명히 합니다. 즉, 참조가 처리할 수 있었던 모든 요청에서 동일한 prompt id를, 19개 중 19개에서 일치하는 첫 토큰을 보였다는 것인데, 이는 참조가 고정된 스무 개의 요청 중 하나는 처리할 수 없었다는 것을 암묵적으로 알려 줍니다.
두 번째는 체크리스트입니다. "Test the accuracy에 따라 정확도 및 속도 벤치마크 결과 제공" 항목은 체크되어 있지 않고, batch 1과 batch 16 행에 base decode, MTP decode, speedup, accept length 열로 구성된 속도 표는 완전히 비어 있습니다. 따라서 이 모델에는 처리량 수치가 전혀 없습니다. 공개된 GigaChat 3.5 카드가 언어 스택의 두 MTP 헤드 덕분에 최대 2.2× 생성 속도를 낸다고 평가하고 있음에도 그렇습니다.
세 번째는 맥락인데, 여기서 수치는 단지 빈약한 정도를 넘어 흥미로워진다. MMLU-Pro의 73.07은 GigaChat 3.5 Ultra 자체 모델 카드가 동일한 벤치마크 이름에서 텍스트 모델에 대해 보고한 75.68보다 약 2.6점 낮다. 이는 멀티모달 변형이 텍스트 품질을 일부 포기했기 때문일 수도 있고, 두 실행이 서로 다른 하네스를 사용했기 때문일 수도 있으며, 이 두 설명 중 하나를 선택할 수 있게 해 주는 공개 자료는 없다. MMAU의 78.50은 GigaChat 자체 오디오 모델 카드가 Qwen3-Omni에 대해 기재한 74.7보다 높고, 같은 카드가 Sber 자체의 GigaChat3.1-Audio-10B-A1.8B에 대해 보고한 62.2보다 훨씬 높다. 다만 그 카드는 test-mini 하위 집합이 아니라 전체 MMAU 세트에서 측정된 것이므로, 이 비교는 시사적일 뿐 동등 조건 비교로 받아들여서는 안 된다. MMMU의 64.11은 중간권 이미지 이해 점수다. 오디오가 포함된 512프레임 클립에 대한 Video-MME의 80.74는 누군가 독립적으로 재현한다면 눈썹을 치켜뜨게 할 점수다.

서비스하는 데 필요한 것, 그리고 Sber가 말한 것
배포 현실부터 짚자. GigaChat 3.5 Ultra의 기반이 되는 FP8 텍스트 체크포인트는 39개 파일에 걸쳐 437.9 GB이므로, H100에서 텐서 병렬 8을 적용하면 KV 캐시를 제외하고 카드당 약 55 GB의 가중치가 남는다 — 이 때문에 해당 PR의 테스트 환경이 H100 8대이며, Omni 변형에서도 크게 달라지지 않을 것이다. 두 타워는 432B에 비하면 반올림 오차 수준이다. InternViT-300M에 폭 1,024의 24층 conformer를 더해도 10억 개 파라미터에 한참 못 미치므로, 하드웨어 요구 사항은 사실상 언어 모델의 요구 사항이다. 메타데이터, 실행 플래그와 gigachat35 도구 호출 파서는 9월에 병합된 GigaChat 3.5 작업으로 이미 SGLang main에 들어가 있으며, 프로젝트 쿡북에는 그때부터 GigaChat 3.5 페이지가 있었다. main에 없는 것은 멀티모달 경로뿐이다.
이 기사가 확인할 수 있는 한, Sber 자체는 아무것도 공개하지 않았다. Sber의 개발자 문서에는 GigaChat 3 Ultra가 최신 세대 모델로, GigaChat 2 Max, Pro, Lite 및 임베딩 모델들과 함께 나열되어 있다. 3.5도, Omni도, 멀티모달 항목도 없다. Artificial Analysis에는 오늘 우리가 시도한 어떤 슬러그에서도 GigaChat 3.5 Ultra나 Omni 변형의 페이지가 없었으므로, 기본 모델을 평가할 근거가 될 독립적인 점수도 없다. 공개된 GigaChat 3.5 Ultra 카드는 실재하며 MIT 라이선스이고 러시아어와 영어를 대상으로 하며, TAU2-bench 68.71, SWE-bench Verified 42.6, Terminal-Bench 2 13.48, LiveCodeBench v6 56.2를 포함한 벤더 벤치마크 세트를 보고한다 — 모두 Sber 자체 수치이며 재현되지 않았고, 전부 텍스트 모델에만 해당한다.
오디오 계보는 이것이 우연이 아니라 계획처럼 읽히게 하는 부분이다. Sber는 2026년 7월에 GigaChat3.1-Audio-10B-A1.8B를 출시했다. 컨포머 음성 인코더와 모달리티 어댑터가 10B 전문가 혼합 디코더로 입력을 전달하며, 장시간 오디오용으로 특별히 제작된 데이터셋에서 시간적 그라운딩을 위해 훈련되었고, 타임스탬프가 포함된 설명과 장시간 오디오 요약을 대표 기능으로 내세운다. 이는 바로 Omni PR의 스탬핑 방식이 보존하도록 설계된 역량이다. 즉 각 프레임 앞의 타임스탬프, 오디오 60초마다의 스탬프, 마무리 지속시간이 그것이며, PR 구성에 있는 컨포머 차원은 해당 스택을 432B 모델 옆에 두는 대신 그 모델 안으로 접어 넣는 것과 일치한다.
무엇이 그것을 해결할까요?
네 가지입니다. 여러분에게 알려줄 수 있는 정보량이 커지는 순서로 말씀드리겠습니다. 해당 저장소 ID의 공개 체크포인트는 모델이 존재함을 확인해 주고 누구나 config를 읽을 수 있게 해 주는데, 이는 현재 타워 차원에 대한 전체 사실적 근거입니다. CI가 통과된, 병합된, 초안이 아닌 PR은 포트가 작성자의 고정된 20개 요청보다 더 많은 곳에서 작동함을 알려줄 것입니다. 숫자가 채워진 속도 표는 두 MTP 헤드가 멀티모달 래퍼를 견뎌내는지 알려줄 것입니다. 이는 대화형으로 서비스할 수 있는 모델과 그럴 수 없는 모델의 차이입니다. 독립적인 벤치마크, 즉 test-mini가 아닌 전체 세트에서 누구든 수행한 벤치마크는 78.50과 80.74가 의미가 있는지 알려줄 것입니다.
그때까지 독자에게 내려야 할 결정은 단순하며, 이 유출이 해결되는지 여부에 달려 있지 않다. 오늘날 제품이 오디오나 비디오를 이해해야 한다면 GigaChat3.5-Omni-432B-A28B는 선택지에 없고, 어떤 발표도 그것을 선택지에 올려놓지 않았다. 그 작업을 할 수 있는 모델들은 이미 토큰당 가격이 책정되어 있으며, 위의 계산에 따르면 청구서는 대부분의 팀이 가정하는 것보다 작다. 자체 H100에서 러시아어 멀티모달 스택을 셀프 호스팅할 계획이라면, 이 PR은 그러한 체크포인트가 구축되고 있다는 가장 이른 공개 증거이며, 그 토큰 회계는 지금 읽어볼 가치가 있다 — 메모리 예산을 결정하는 부분은 벤치마크 표가 아니라 압축 방식이다.
![The GitHub pull request page for sgl-project/sglang PR #51276, titled '[Feat] gigachat35-omni: Add GigaChat3.5-Omni image, video and audio support', showing 'Mogreine wants to merge 1 commit into sgl-project:main from Mogreine:gigachat35-omni', the tab strip with Commit 1, Checks 133 and Files changed 26, and the top of the Motivation section describing GigaChat3.5-Omni-432B-A28B as the GigaChat3.5 language model at 432B total and 28B active parameters with hybrid MLA and Gated DeltaNet attention, an InternViT-300M image and video encoder and a 24-layer conformer audio encoder loaded from the checkpoint.](https://cms.orcarouter.ai/api/media/file/4-4177.png)
다음으로 지켜볼 것은 저장소가 공개되는지, PR이 초안 상태에서 벗어나는지, 그리고 그중 어느 일이 일어나기 전에 Sber의 개발자 문서에 멀티모달 항목이 추가되는지입니다. 이 세 가지 중 하나만 일어나도 이 글은 ‘지금까지 확인된 내용’을 정리한 글에서 출시 소식으로 성격이 바뀌게 되며, 이 기사는 업데이트가 아니라 재작성이 필요할 것입니다.
