Ling-3.1-flash-1019 Kini Open Source: 574 GB, MIT, dan Uji Realitas 256K

Pada 05:46 UTC tanggal 27 Oktober, tim Ling di Ant Group membuat repositori Hugging Face bernama Ling-3.1-flash-1019 dan mengisinya dengan 54 shard safetensors dengan total 573,8 GB di bawah lisensi MIT. Di sampingnya terdapat Ling-3.1-flash-base, checkpoint BF16 1,14 TB yang ditujukan untuk pelatihan lebih lanjut, dan di balik keduanya terdapat Ling-3.1-flash, model yang menjadi dasar revisi pasca-pelatihan build ini. Lima hari sebelumnya, Ant hanya menerbitkan skornya: 44 pada Artificial Analysis Intelligence Index v4.3.2, naik dari 41, dengan bobot dan API yang dijanjikan. Kini janji itu memiliki daftar file, yang menjadikan ini hari pertama siapa pun di luar pipeline evaluasi Ant dapat memeriksa angka tersebut alih-alih membacanya.

Kesenjangan itulah ceritanya, dan itu berlaku dua arah. Lab yang mengumumkan benchmark sebelum merilis artefaknya berarti meminta untuk dipercaya; lab yang kemudian merilis artefak itu lima hari setelahnya, sebesar 574 GB dan dengan lisensi permisif, setidaknya telah memberikan sarana untuk menyanggahnya. Pertanyaan yang menarik bukan lagi soal skor. Pertanyaan sekarang adalah tentang apa yang ada di dalam unduhan, berapa biaya untuk melayaninya, dan apakah konteks 1M token di kartu model adalah konteks yang benar-benar Anda dapatkan.

Apa yang sebenarnya ada di dalam repositori

Repositori 1019 bukanlah adaptor tipis atau delta. Ini adalah checkpoint penuh: 54 file bobot yang masing-masing berukuran sekitar 10,7 GB, sebuah tokenizer, templat chat, dan kode pemodelan khusus (BailingMoeV3ForCausalLM) yang memerlukan trust_remote_code. Konfigurasi yang disertakan mendeklarasikan skema kuantisasi FP8 (E4M3, penskalaan blok 128×128) di atas arsitektur MoE linear-hibrida yang telah digunakan lini Ling sejak 3.1:

• Total dan parameter aktif — total 560B, 25B aktif per token, angka yang sama dengan Ling-3.1-flash.

• Lapisan — total 72: 63 lapisan atensi-linear KDA dan 9 lapisan MLA bergerbang dengan rasio 7:1, ditambah 4 lapisan dense.

• Pakar — 512 dirutekan, 8 diaktifkan per token, 1 dibagikan.

• Kosakata — 157.184 token; ukuran tersembunyi 4.096.

Jejak — 573,8 GB safetensors di 54 shard, menurut hitungan kami dari daftar berkas repositori pada 27 Oktober.

Model dasar adalah jenis artefak yang berbeda. Ling-3.1-flash-base dibuat pada 25 Oktober dan menyimpan 121 file serta 1,14 TB bobot BF16 — sekitar dua kali ukuran checkpoint selaras karena belum dikuantisasi ke FP8. Kartu modelnya mendeskripsikannya sebagai checkpoint dasar Ling-3.1-flash, untuk pra-pelatihan lanjutan, adaptasi domain, dan riset pasca-pelatihan, serta menyatakan secara jelas bahwa model ini tidak ditujukan untuk chat langsung atau penggunaan yang kritis terhadap keselamatan tanpa penyelarasan. Kedua repo membawa tag MIT.

44, dan bagian yang tidak diukur oleh Ant

Artificial Analysis mencantumkan Ling-3.1-flash-1019 pada 44 dalam Intelligence Index miliknya, berperingkat keempat dari 122 model pada halaman yang kami baca hari ini, dan halaman modelnya menyatakan bahwa evaluasi diukur secara independen oleh Artificial Analysis. Itu merupakan bentuk terkuat dari angka tersebut sejauh ini, dan layak dipisahkan dari bagian lain tabel peluncuran.

Delta per tolok ukur berasal dari kartu model Ant sendiri, bukan dari pengujian ulang independen: AA-Briefcase naik dari sekitar 1.400 menjadi 1.524 Elo, AutomationBench-AA dari 62% menjadi 68%, CritPt dari 18% menjadi 26%, dan SciCode dari 54% menjadi 57%. Dua dari tolok ukur tersebut — AA-Briefcase dan AutomationBench-AA — adalah komponen indeks Artificial Analysis, sehingga angka indeks dan tabel vendor bukan bukti independen satu sama lain. Keduanya adalah klaim yang sama pada dua resolusi. Anggap 44 sebagai diukur oleh AA dan pasangan sebelum/sesudah sebagai dilaporkan vendor sampai seseorang menerbitkan harness dan seed.

Ada asimetri kedua. Pada saat pengukuran, Artificial Analysis tidak mencatat adanya API yang tersedia untuk publik untuk build 1019, dan kolom kecepatan keluaran untuk model tersebut masih kosong. Jadi, benchmark itu saat ini hanya dapat diulang dengan mengunduh 574 GB dan menjalankannya sendiri. Itu bukan keluhan tentang rilis ini; itu adalah deskripsi tentang apa yang diubah oleh "open". Sebelum hari ini, tidak ada yang bisa mereproduksi skor tersebut. Setelah hari ini, siapa pun yang memiliki perangkat kerasnya bisa.

Ketiga poin tersebut dibeli dengan token

Indeks ini adalah ukuran kualitas, bukan ukuran efisiensi, dan sisi efisiensi dari rilis ini adalah bagian yang paling tidak memberi kesan baik. Artificial Analysis mengukur 350 juta token keluaran untuk uji 1019 dibandingkan 220 juta untuk Ling-3.1-flash — sekitar 59% lebih banyak token yang dihasilkan untuk menyelesaikan rangkaian yang sama — dan menempatkan build baru ini di peringkat ke-48 dari 48 dalam hal verbositas, dengan model median di 140 juta. Biaya untuk menjalankan indeks ini adalah $1,49 per tugas dibandingkan $1,01 untuk pendahulunya.

Sebagian dari itu adalah aritmetika yang dapat Anda hitung dari daftar tarif Ant sendiri. Pada $0.90 per juta token output, 350M token adalah $315 untuk output dibandingkan $198 untuk 220M — selisih $117 sebelum satu pun token input atau pembacaan cache dihitung. Bagi tim yang menganggarkan per tugas, bukan per token, peningkatan checkpoint yang "gratis" lebih mendekati kenaikan tagihan sebesar 47% untuk kenaikan indeks tiga poin. Apakah pertukaran itu baik sepenuhnya bergantung pada berapa biaya tugas yang gagal bagi Anda, yang merupakan pertanyaan yang tidak dijawab oleh leaderboard mana pun.

Jendela konteks berukuran 256K dalam konfigurasi

Kartu model menyebutkan konteks 1 juta token. Konfigurasi yang disertakan menyatakan hal lain. Di ketiga repositori — 1019, Ling-3.1-flash, dan basis — config.json menetapkan max_position_embeddings ke 262,144 dan rope_scaling ke null, dengan theta RoPE sebesar 6,000,000. Oleh karena itu, pemuatan bobot ini dengan SGLang atau vLLM standar akan melayani 256K posisi, bukan satu juta, kecuali operator menyediakan konfigurasi penskalaan yang tidak terdapat dalam repositori tersebut.

Ini adalah pembacaan kami atas file konfigurasi yang dipublikasikan, bukan pernyataan yang dibuat Ant. Mungkin saja API Ling yang dihosting menerapkan skema penskalaan di sisi server dan benar-benar menyajikan 1M; bobot terbuka tidak menyertakan skema tersebut. Ini juga bukan ketidaksesuaian baru — rilis Ling-3.1-flash 15 Oktober membawa klaim 1M yang sama atas pengaturan 262,144 yang sama. Siapa pun yang menentukan ukuran perangkat keras untuk beban kerja satu juta token harus menguji batas atas pada stack mereka sendiri sebelum berkomitmen, karena angka yang penting adalah angka yang diterima server, bukan angka yang ada di pendahuluan.

Menyajikannya: delapan H200s, empat GB300s, dan satu jebakan salin-tempel.

Ant merekomendasikan SGLang dan menerbitkan image day-0, lmsysorg/sglang:dev-ling-3.1-flash, dengan decoding spekulatif MTP dan optimisasi decode Hopper. Konfigurasi referensi yang didokumentasikan adalah delapan GPU H200 pada TP8 ditambah EP8; pada empat GB300, kartu menyebutkan untuk menggunakan --tp 4 --ep 4. Resep vLLM juga disertakan, dengan paralelisme tensor 8, paralelisme pakar, caching prefiks, dan tiga token spekulatif. Dua flag lingkungan — SGLANG_ENABLE_FP8_BLOCK_GEMV dan SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT — diklaim memberikan decode batch-1 sekitar 10% lebih cepat pada Hopper.

Jejak memorinya menjelaskan daftar perangkat keras tersebut. Dengan bobot FP8 sebesar 573,8 GB, checkpoint tersebut menyisakan sekitar 550 GB ruang cadangan pada delapan H200 (1.128 GB HBM) dan sekitar 578 GB pada empat GB300 (1.152 GB). Itu cukup untuk bobot dan KV cache yang berfungsi, tetapi tidak cukup untuk bersikap ceroboh dengan konteks panjang.

Ada juga jebakan di Quickstart yang layak ditandai karena akan menghabiskan waktu seseorang selama sehari. Perintah SGLang pada kartu model 1019 sendiri meneruskan --model-path inclusionAI/Ling-3.1-flash, dan contoh kliennya mengirim "model": "Ling-3.1-flash". Jika diikuti secara verbatim, resep tersebut akan memuat pendahulu bernilai 41 poin, bukan build bernilai 44 poin. Arahkan path secara eksplisit ke inclusionAI/Ling-3.1-flash-1019 dan pin nama model yang disajikan, atau benchmark pertama Anda untuk "1019" akan menjadi benchmark checkpoint lama.

Untuk apa Ling-3.1-flash-base — dan apa yang bukan

Rilis base adalah yang lebih berdampak di antara keduanya bagi siapa pun yang melatih model, bukan memanggilnya. Checkpoint BF16 1,14 TB di bawah lisensi MIT, dengan arsitektur 560B/25B yang sama, memberi laboratorium titik awal yang sah untuk pra-pelatihan lanjutan, adaptasi domain, penyempurnaan terawasi, optimasi preferensi, eksperimen distilasi, dan riset MoE konteks panjang tanpa harus memulai dari model yang selaras dengan chat yang perilaku penolakannya harus dibatalkan.

Apa yang tidak diberikannya kepada Anda adalah resep untuk 44. Kartu tersebut mendeskripsikan base sebagai checkpoint base dari Ling-3.1-flash, bukan snapshot sebelum post-training dari build 1019, dan tidak ada data post-training, set preferensi, atau konfigurasi RL yang disertakan dalam salah satu repositori. Jika Anda menginginkan model yang telah diukur, unduh model yang telah diukur. Jika Anda ingin membangun model sendiri, base menghemat biaya pre-training tetapi bukan pekerjaan alignment — dan selisih antara base yang disetel dengan baik dan checkpoint pasca-pelatihan terbaik vendor biasanya lebih lebar daripada yang disiratkan oleh delta indeks tiga poin.

Haruskah Anda mengambil 574 GB itu?

• Unduh jika Anda sudah mengoperasikan delapan H200 atau empat GB300, beban kerja Anda bersifat agentik atau multi-langkah, dan lisensi MIT menghilangkan hambatan hukum yang benar-benar Anda hadapi.

• Unduhlah jika Anda perlu mereproduksi 44 itu sendiri — hal itu sekarang mungkin, dan tidak demikian pada 22 Oktober.

• Lewati saja jika Anda mengandalkan konteks 1M langsung tanpa konfigurasi; uji dulu konfigurasi 256K.

• Lewati saja jika model ekonomi Anda dihitung per tugas dan sensitif terhadap latensi. Kenaikan token sebesar 59% merupakan biaya throughput yang nyata, dan belum ada angka kecepatan keluaran independen untuk 1019.

• Mulailah dari base hanya jika Anda memiliki pipeline pasca-pelatihan. Ini adalah fondasi, bukan jalan pintas.

Cara jujur memposisikan peran OrcaRouter di sini: kami tidak menyediakan Ling-3.1-flash-1019. Yang kami jual adalah sisi lain dari keputusan — satu kunci untuk 200+ model yang dihosting dengan harga daftar penyedia dan markup 0%, sehingga pertanyaan "apakah 1019 mengalahkan yang sudah saya jalankan" dapat dijawab tanpa menandatangani kontrak terpisah untuk setiap baseline. Failover otomatis dan DSL perutean baru penting setelah Anda memilih pemenang; keduanya tidak membantu Anda memilih satu.

Tontonan Berikutnya

Tiga hal akan menentukan apakah rilis ini akan bertahan baik. Yang pertama adalah throughput independen: Artificial Analysis tidak memiliki angka kecepatan keluaran untuk 1019, dan penyedia pihak ketiga pertama yang menerbitkan token per detik akan memberi tahu Anda lebih banyak tentang kesiapan produksi daripada satu poin indeks lagi. Yang kedua adalah apakah konfigurasi penskalaan konteks 1M muncul di repositori atau di cookbook SGLang; sampai itu terjadi, angka utama di kartu tersebut hanyalah klaim dengan implementasi 256K di baliknya. Yang ketiga adalah apa yang dilakukan komunitas dengan model dasarnya — fine-tune yang mengalahkan 44 pada domain sempit akan menjadi bukti terkuat bahwa membuka bobot ini lebih bernilai daripada skor yang dibawanya saat dirilis.