
Kebocoran GigaChat3.5-Omni: Model 432B Sber Mendapat Mata dan Telinga dalam Draft PR
- OrcaBARUOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 per 1 juta token · 185 tok/s
- tencentBARUTencent: Hy4 Flash2026-11-16$0.02 / $0.07 per 1 juta token · 228 tok/s
- GoogleBARUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 per 1 juta token · 89 tok/s
- AnthropicBARUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 per 1 juta token · 98 tok/s
- orcaBARUOrca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 per 1 juta token · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 per 1 juta token · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 per 1 juta token · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 per 1 juta token · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 per 1 juta token · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 per 1 juta token · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 per 1 juta token · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Kecerdasan
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 per 1 juta token · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Kecerdasan
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 per 1 juta token · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Kecerdasan
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 per 1 juta token · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Kecerdasan
Sebuah draft pull request yang dibuka di repositori SGLang pada 18 November 2026 menjelaskan model yang tidak ada di publik: GigaChat3.5-Omni-432B-A28B, yaitu GigaChat 3.5 Ultra — model bahasa mixture-of-experts 432B parameter milik Sber — dengan menara visi InternViT-300M dan encoder audio conformer 24 lapis yang terpasang, menerima gambar, video dengan atau tanpa soundtrack-nya, file audio, dan campuran ketiganya. Tidak ada dalam kalimat itu yang dapat diperiksa terhadap kartu model, karena tidak ada kartu model publik. Repositori Hugging Face yang ditautkan PR mengembalikan HTTP 401 saat diakses hari ini, pencarian nama di Hugging Face tidak mengembalikan apa pun, dan dokumentasi pengembang Sber sendiri masih mencantumkan GigaChat 3 Ultra sebagai model generasi terbarunya, tanpa entri multimodal di mana pun dalam daftar. Yang ada adalah 3.290 baris kode serving yang ditambahkan, sebuah file konfigurasi, sekitar 2.000 baris pengujian, dan tabel benchmark yang kolom referensinya dibiarkan kosong oleh seseorang.
Itu bukan hal sepele. Pull request dengan bentuk seperti ini hanya bisa ditulis oleh seseorang yang sudah melihat checkpoint-nya langsung: prosesor menyerahkan decoding gambar, tata letak piksel, dan ekstraksi log-mel ke kode jarak jauh milik checkpoint itu sendiri melalui --trust-remote-code, yang berarti penulisnya harus menjalankannya untuk mengetahui seperti apa tensor-tensor tersebut. Jadi pertanyaan yang berguna bukanlah "apakah Sber mengumumkan ini" — tidak — melainkan apa yang dikatakan kode itu tentang model yang sangat mungkin sedang berada di repositori privat saat ini, dan apa artinya bagi siapa pun yang saat ini membayar per token agar audio dan video dapat dipahami.
Apa yang sebenarnya dijelaskan oleh pull request tersebut
SGLang PR #51276 berjudul "[Feat] gigachat35-omni: Menambahkan dukungan gambar, video, dan audio GigaChat3.5-Omni". Ini masih draf, belum digabungkan, dan CI-nya dilewati justru karena masih draf. Implementasinya adalah pembungkus tipis — GigaChat35OmniForConditionalGeneration di sekitar GigaChat35ForCausalLM yang sudah ada — dengan tiga hal baru di sekitarnya: jalur visi melalui InternVisionModel dan proyektor MLP pixel-shuffle, encoder audio conformer in-tree, serta prosesor yang menata placeholder. Semua yang berikut adalah deskripsi model dari penulis PR sendiri, dan tidak satu pun telah dikonfirmasi oleh Sber.
• Stack bahasa — tidak berubah dari GigaChat 3.5: 432B parameter total, 28B aktif, 256 expert yang dirutekan dengan 8 per token, 40 lapisan, atensi hibrida yang memadukan MLA dengan lapisan atensi linier Gated DeltaNet, dua kepala MTP. Angka-angka tersebut berasal dari kartu model publik GigaChat 3.5 Ultra, sehingga bagian ini dapat diverifikasi.
• Visi — InternViT-300M, gambar dibagi menjadi potongan 448×448, 256 token per potongan.
• Audio — conformer 24 lapis, lebar 1.024, 16 kepala, feed-forward selebar 4.096, 64 bin mel, faktor subsampling 4, atensi dibatasi pada potongan 200 frame dengan halo satu blok per lapis. Audio melakukan tokenisasi pada 6,25 token per detik, satu token per 160 ms.
• Video — frame pertama menyimpan semua 256 tokennya; frame berikutnya menyimpan 77 secara rata-rata, dan 77 yang mana ditentukan setelah encoding, dengan memberi peringkat pada rata-rata selisih absolut setiap token dari posisi yang sama di frame sebelumnya. Pengurutan stabil di seluruh klip memilihnya, sehingga suatu frame bisa saja akhirnya menyimpan lebih banyak atau lebih sedikit dari 77.
• Video dengan suara — use_audio_in_video menyisipkan bagian token soundtrack setiap frame setelahnya, dengan HH:MM:SS stempel di antara frame.
• Audio panjang — klip yang lebih dari 32 menit dienkode dalam jendela dengan halo, yang menurut PR identik secara bit dengan satu kali proses. Klaimnya: lima jam audio pada satu node.
• Perilaku kegagalan — media yang formatnya salah mengembalikan 400 alih-alih membuat scheduler crash, dan SGLANG_VLM_CACHE_SIZE_MB secara default bernilai 2048 untuk arsitektur ini, karena 100 MiB bawaan tidak dapat menampung embedding video panjang dan setiap chunk prefill menjalankan ulang encoder.
Draf berarti draf.
Perlu tepat mengenai seberapa banyak dari ini yang dapat diverifikasi hari ini, karena PR draf dengan CI yang dilewati adalah proposal, bukan fakta tentang runtime yang sudah dirilis. File gigachat35_omni.py tidak ada di cabang main SGLang — mengambilnya di sana mengembalikan 404 — dan halaman model yang didukung multimodal di main tidak memiliki entri GigaChat. PR tersebut memiliki satu commit, dari akun yang satu-satunya interaksi SGLang adalah PR ini, dan satu-satunya komentar di dalamnya adalah catatan bot dokumentasi yang meminta persetujuan pratinjau dari fork.
Asal-usulnya adalah bukti tidak langsung terkuat dalam keseluruhan cerita. Seluruh jalur media prosesor didelegasikan ke "prosesor jarak jauh checkpoint", dan penulis melaporkan paritas prompt-id terhadap "stack serving tempat model dilatih dan dievaluasi" — stack referensi internal yang tidak disebutkan namanya dan tidak publik. Anda tidak dapat menulis salah satu dari itu terhadap model yang belum Anda jalankan. Seseorang di luar tembok Sber memerlukan checkpoint; seseorang di dalamnya akan memiliki stack internal. Tidak ada dalam PR yang menyebutkan yang mana, dan tulisan ini tidak akan menebak.

Satu hal yang diperjelas oleh kode ini adalah bahwa ini bukan penggantian nama atau flag konfigurasi. Model ini mendaftarkan sebuah model_type (gigachat3_5_omni) baru dengan id token miliknya sendiri — 128004 untuk gambar, 128005 untuk frame video, 128006 untuk audio, 128007 untuk soundtrack — prosesor baru, tipe hasil penyematan baru yang mm_schedule.py harus melakukan dispatch padanya di samping jalur EVS yang ada, dan penanganan baru untuk chunked prefill, karena jumlah token yang dipertahankan sebuah frame hanya diketahui setelah frame tersebut dienkode. Itu adalah ciri khas model yang dilatih dengan keputusan prapemrosesan tersebut sudah tertanam, bukan fine-tune komunitas yang secara hipotetis ditempelkan ke checkpoint teks.
Matematika token adalah bagian yang layak dibaca
Lewati tabel benchmark untuk sementara. Aritmetika dalam PR adalah intinya, karena itulah yang memberi tahu Anda apakah model 432B yang menyerap audio dan video panjang adalah sesuatu yang mampu Anda jalankan — dan itulah bagian yang tidak akan berubah jika Sber tidak pernah mengatakan sepatah kata pun tentang model ini.
Ambil audio satu jam. Dengan 6.25 token per detik, itu berarti 22,500 token masukan, ditambah stempel waktu setiap 60 detik dan stempel durasi penutup — perubahan kecil dibandingkan audio itu sendiri. Ambil video 512 frame. Dengan 256 token untuk frame pertama dan 77 token per frame setelahnya, klip tersebut menjadi sekitar 39,600 token sebelum soundtrack-nya, yang kira-kira sepertiga dari konteks 128K untuk rekaman berdurasi setengah menit. Tambahkan soundtrack dan setiap frame membawa token tambahan di atasnya. Inilah seluruh alasan untuk skema pengurangan perubahan: tanpanya, 512 frame dengan 256 token per frame akan menjadi 131,072 token, satu jendela 128K penuh untuk satu klip.
Apa artinya dalam hal biaya mudah diperiksa terhadap model yang dapat Anda panggil hari ini. Di katalog OrcaRouter daftar media campuran saat ini mencantumkan harga satu jam audio seperti ini:
• Gemini 3.8 Flash — $0,75 per juta token masukan, jadi satu jam audio sekitar 1,7 sen, dan klip 512 frame sekitar 3 sen.
• Qwen3-VL 235B A22B Instruct — $0,40 per juta token masukan, jadi sekitar 0,9 sen per jam dan 1,6 sen per klip.
• DeepSeek V4 Flash Vision Exp — $0,22 per juta token masukan, tetapi hanya untuk input gambar; sama sekali tidak dapat menerima audio.
Terapkan beban kerja nyata pada ini. Empat puluh jam panggilan terekam adalah 900.000 token: sekitar 68 sen pada daftar Google dan 36 sen pada daftar Qwen, pada harga daftar penyedia. OrcaRouter meneruskan tarif penyedia tanpa markup, sehingga penurunan harga vendor pada salah satu dari ini langsung berlaku di sisi kami pada hari yang sama — yang juga merupakan batas jujur dari apa yang dapat kami katakan di sini: GigaChat3.5-Omni-432B-A28B tidak ada dalam katalog kami dan kami bukan sarana untuk memanggilnya. Model ini tidak dapat dipanggil di mana pun. Inti dari perhitungan ini adalah bahwa ketika sesuatu seperti itu muncul, audio bukanlah bagian yang mahal; token yang tidak dapat Anda kompreslah yang mahal.
Di situlah juga letak klaim jendela 32 menit dan lima jam dari PR tersebut. Angka-angka itu penting bagi siapa pun yang melakukan self-host model pada delapan H100, karena angka tersebut menentukan seberapa banyak rekaman panjang yang harus di-encode ulang saat sebuah permintaan dipecah ke dalam potongan-potongan prefill. Angka-angka itu tidak penting bagi siapa pun yang membayar per token, karena satu jam audio tetaplah satu jam audio, apa pun encoder yang menghasilkannya.
Empat angka benchmark, satu kolom kosong
PR tersebut melaporkan empat skor, yang dijalankan pada delapan H100 dalam FP8 dengan tensor-parallel 8, decoding greedy: MMLU-Pro 73,07, MMAU test-mini 78,50, MMMU validasi 64,11, dan Video-MME 80,74 pada klip 512 frame beserta soundtrack-nya. Bacalah skor-skor itu dengan tiga catatan penting yang menyertainya, semuanya terlihat di halaman PR itu sendiri.
Yang pertama adalah bahwa kolom referensi kosong. Tabel tersebut memiliki kolom untuk serving stack asli model dan kolom untuk PR ini, dan hanya kolom kedua yang terisi, sehingga tidak ada baseline yang dicetak di samping angka-angka ini dan tidak ada cara untuk mengetahui dari tabel apakah port tersebut menyamai atau kalah dari stack tempat model dilatih. Teks prosanya memang membuat klaim paritas — prompt id yang identik pada setiap permintaan yang dapat dilayani oleh referensi, dengan token pertama yang cocok pada 19 dari 19 — yang secara implisit memberi tahu Anda bahwa referensi tidak dapat melayani salah satu dari dua puluh permintaan tetap.
Yang kedua adalah daftar periksa. Butir yang berbunyi "Berikan hasil benchmark akurasi dan kecepatan sesuai dengan Uji akurasi" tidak dicentang, dan tabel kecepatan, yang memiliki baris untuk batch 1 dan batch 16 dengan kolom untuk base decode, MTP decode, speedup, dan accept length, sepenuhnya kosong. Jadi tidak ada angka throughput untuk model ini sama sekali, meskipun ada dua head MTP di stack bahasa yang menurut kartu publik GigaChat 3.5 memberikan kecepatan generasi hingga 2,2×.
Yang ketiga adalah konteks, dan di sinilah angkanya menjadi menarik, bukan sekadar minim. MMLU-Pro pada 73,07 berada sekitar 2,6 poin di bawah 75,68 yang dilaporkan kartu model GigaChat 3.5 Ultra sendiri untuk model teks pada nama benchmark yang sama — ini bisa berarti varian multimodalnya mengorbankan sebagian kualitas teks, atau kedua pengujian menggunakan harness yang berbeda, dan tidak ada yang dipublikasikan yang memungkinkan Anda memilih di antara kedua penjelasan tersebut. MMAU pada 78,50 lebih tinggi daripada 74,7 yang tercantum di kartu model audio GigaChat sendiri untuk Qwen3-Omni, dan jauh di atas 62,2 yang dilaporkan kartu yang sama untuk GigaChat3.1-Audio-10B-A1.8B milik Sber — kartu tersebut diukur pada keseluruhan set MMAU, bukan subset test-mini, jadi anggap perbandingan itu indikatif dan bukan setara. MMMU pada 64,11 adalah skor pemahaman gambar kelas menengah. Video-MME pada 80,74 untuk klip 512 frame dengan audio adalah skor yang akan membuat orang terkejut jika ada pihak independen yang mereproduksinya.

Apa yang diperlukan untuk melayani, dan apa yang dikatakan Sber
Realitas penerapan lebih dulu. Checkpoint teks FP8 di balik GigaChat 3.5 Ultra berukuran 437,9 GB yang tersebar di 39 file, sehingga tensor-parallel 8 pada H100 menyisakan sekitar 55 GB bobot per kartu sebelum cache KV — itulah sebabnya rig uji PR memakai delapan H100 dan mengapa hal itu tidak akan banyak berubah untuk varian Omni. Dua menara tersebut hanyalah galat pembulatan terhadap 432B: InternViT-300M ditambah conformer 24 lapis selebar 1.024 jauh di bawah satu miliar parameter, sehingga kebutuhan perangkat keras pada dasarnya ditentukan oleh model bahasanya. Metadata, flag peluncuran, dan gigachat35 parser pemanggilan alat sudah ada di main SGLang dari pekerjaan GigaChat 3.5 yang di-merge pada September, dan cookbook proyek telah memiliki halaman GigaChat 3.5 sejak saat itu; yang tidak ada di main adalah jalur multimodal apa pun.
Sber sendiri tidak mempublikasikan apa pun yang dapat ditemukan artikel ini. Dokumentasi pengembangnya mencantumkan GigaChat 3 Ultra sebagai model generasi terbaru, bersama GigaChat 2 Max, Pro, dan Lite, plus model embedding — tidak ada 3.5, tidak ada Omni, tidak ada entri multimodal. Artificial Analysis tidak memiliki halaman untuk GigaChat 3.5 Ultra atau untuk varian Omni pada slug apa pun yang kami coba hari ini, jadi tidak ada skor independen untuk model dasar yang bisa dijadikan dasar penalaran juga. Kartu publik GigaChat 3.5 Ultra itu nyata, berlisensi MIT, menyasar bahasa Rusia dan Inggris, dan melaporkan kumpulan benchmark vendor termasuk TAU2-bench 68.71, SWE-bench Verified 42.6, Terminal-Bench 2 pada 13.48, dan LiveCodeBench v6 pada 56.2 — semuanya angka Sber sendiri, belum direproduksi, dan semuanya hanya untuk model teks.
Garis keturunan audio adalah bagian dari ini yang terbaca sebagai rencana, bukan kebetulan. Sber merilis GigaChat3.1-Audio-10B-A1.8B pada Juli 2026: encoder ucapan conformer dan adaptor modalitas yang memberi masukan ke decoder mixture-of-experts 10B, dilatih untuk grounding temporal pada dataset audio panjang yang dibuat khusus, dengan deskripsi berstempel waktu dan peringkasan audio panjang sebagai kemampuan utamanya. Itulah tepatnya kemampuan yang hendak dipertahankan oleh skema penandaan Omni PR — stempel waktu sebelum setiap frame, stempel setiap enam puluh detik audio, durasi penutup — dan dimensi conformer dalam konfigurasi PR konsisten dengan melipat tumpukan itu ke dalam model 432B alih-alih membiarkannya berdampingan.
Apa yang bisa menyelesaikannya
Empat hal, dalam urutan menaik berdasarkan seberapa banyak hal itu akan memberi tahu Anda. Checkpoint publik pada ID repositori itu akan mengonfirmasi bahwa model tersebut ada dan memungkinkan siapa pun membaca konfigurasi, yang saat ini merupakan seluruh dasar faktual untuk dimensi tower. PR non-draf yang sudah di-merge dengan CI hijau akan memberi tahu Anda bahwa port tersebut berfungsi pada lebih dari dua puluh permintaan tetap milik penulis. Tabel kecepatan yang berisi angka akan memberi tahu Anda apakah dua head MTP bertahan melalui wrapper multimodal, yang merupakan perbedaan antara model yang dapat Anda layani secara interaktif dan yang tidak. Benchmark independen — milik siapa pun, pada set lengkap alih-alih test-mini — akan memberi tahu Anda apakah 78.50 dan 80.74 berarti sesuatu.
Sampai saat itu, keputusan bagi pembaca sederhana, dan tidak bergantung pada terselesaikannya kebocoran ini. Jika produk Anda perlu memahami audio atau video hari ini, GigaChat3.5-Omni-432B-A28B bukanlah pilihan yang tersedia dan belum ada pengumuman yang menjadikannya demikian; model yang mampu melakukan pekerjaan itu sudah diberi harga per token, dan perhitungan di atas menunjukkan tagihannya lebih kecil daripada yang diasumsikan sebagian besar tim. Jika Anda berencana melakukan self-host stack multimodal berbahasa Rusia di H100 milik Anda sendiri, PR ini adalah bukti publik paling awal bahwa checkpoint semacam itu sedang dibangun, dan penghitungan tokennya layak dibaca sekarang — skema kompresi, bukan tabel benchmark, adalah bagian yang menentukan anggaran memori Anda.
![The GitHub pull request page for sgl-project/sglang PR #51276, titled '[Feat] gigachat35-omni: Add GigaChat3.5-Omni image, video and audio support', showing 'Mogreine wants to merge 1 commit into sgl-project:main from Mogreine:gigachat35-omni', the tab strip with Commit 1, Checks 133 and Files changed 26, and the top of the Motivation section describing GigaChat3.5-Omni-432B-A28B as the GigaChat3.5 language model at 432B total and 28B active parameters with hybrid MLA and Gated DeltaNet attention, an InternViT-300M image and video encoder and a 24-layer conformer audio encoder loaded from the checkpoint.](https://cms.orcarouter.ai/api/media/file/4-4177.png)
Apa yang akan kami pantau selanjutnya: apakah repositori itu menjadi publik, apakah PR berhenti menjadi draf, dan apakah dokumentasi pengembang Sber menambahkan entri multimodal sebelum salah satu dari keduanya terjadi. Salah satu dari ketiganya akan mengubah ini dari artikel "sejauh yang kita ketahui" menjadi peluncuran, dan artikel ini perlu ditulis ulang, bukan diperbarui.
