Menyajikan Beam 1.0 pada Hari Pertama: Apa yang Sebenarnya Ditetapkan oleh Resep SGLang

Checkpoint yang dapat Anda unduh bukanlah model yang dapat Anda deploy, dan jarak antara keduanya biasanya diukur dalam hitungan minggu kerja framework yang dilakukan oleh siapa pun yang cukup tidak sabar untuk melakukannya. Reflection Beam 1.0 adalah kasus langka ketika pekerjaan itu tiba bersama bobotnya. Reflection mengumumkan model tersebut pada 5 Oktober 2026; pada 16 Oktober 2026 bobotnya, lisensi Apache 2.0, endpoint first-party, dan dukungan day-zero di tujuh stack inferensi semuanya hadir bersamaan, dan salah satu stack tersebut — {{1}}SGLang, yang akun proyeknya sendiri mengatakan pada tanggal 16 bahwa ia menyajikan Beam di produksi di Reflection{{/1}} — merilis resep yang cukup rinci untuk diperdebatkan.

Resep itu adalah artefak yang menarik, lebih daripada tabel benchmark. Postingan peluncuran memberi tahu Anda bahwa sebuah model itu bagus. Matriks penerapan memberi tahu Anda berapa biaya untuk mengetahuinya, dan di mana pilihan yang Anda buat akan diam-diam menentukan latensi Anda. Dokumentasi SGLang milik Reflection Beam 1.0 adalah generator: Anda memilih platform perangkat keras dan sebuah strategi, lalu generator itu mengeluarkan perintah Docker yang dipin. Pilihan-pilihan yang harus Anda lalui adalah kabar yang sebenarnya bagi siapa pun yang berniat menjalankannya alih-alih memanggilnya.

Tiga sumbu yang resep itu menolak untuk menyembunyikan

Halaman ini menanyakan platform perangkat keras, strategi, dan kuantisasi, lalu menyusun perintah. Itu adalah ruang keputusan yang lebih kecil daripada yang diakui sebagian besar rilis model, dan setiap sumbu memiliki konsekuensi nyata:

• Platform perangkat keras — B300, GB300 atau H200. Bagian Blackwell menjalankan build NVFP4 secara native; H200 adalah jalur FP8 dan BF16. Ini adalah dasar yang sama yang dijelaskan dalam catatan rilis Reflection, dinyatakan ulang sebagai dropdown.

• Strategi — latensi rendah atau throughput tinggi, dan inilah sumbu yang paling sering salah diterapkan secara default oleh sebagian besar deployment. Latensi rendah menjalankan paralelisme tensor dengan drafter DFlash2 yang diaktifkan pada ukuran blok 8. Throughput tinggi menonaktifkan DFlash2 sepenuhnya.

• Kuantisasi — NVFP4, FP8, atau BF16, yang harus selaras dengan platform dan strategi, bukan dapat dikombinasikan secara bebas.

Dua prasetel strategi ini bukanlah tombol pengatur performa, melainkan perubahan algoritma. Decoding spekulatif menukar latensi dekode dengan kerja model draf tambahan per langkah; pada ukuran blok 8 dengan drafter berparameter 1,93B, pertukaran itu layak diambil ketika Anda melayani satu pengguna dalam satu waktu dan layak ditolak ketika Anda melakukan batching secara agresif. Menonaktifkan DFlash2 untuk resep throughput tinggi bukanlah penurunan versi, melainkan jawaban yang benar untuk pertanyaan yang berbeda.

Ketika resep-resep tidak lagi dapat dipertukarkan

Bacalah lebih jauh dari prasetelnya, dan halaman ini mendokumentasikan sejumlah pemisahan konfigurasi yang ada karena alasan perangkat keras yang konkret, dan hal-hal itu layak diketahui sebelum Anda menyalin perintah Docker pertama yang Anda lihat:

• H200 BF16 menjalankan TP8 dengan fraksi memori statis otomatis. Checkpoint BF16 933,81 GiB tidak muat pada perangkat yang lebih sedikit, dan fraksi memori dihitung, bukan diekspos — yang berarti ini adalah satu-satunya resep yang tidak dapat Anda setel manual tanpa meninggalkan jalur yang didukung.

• Setiap resep lainnya menggunakan paralelisme tensor plus DPA. DPA di sini adalah susunan attention paralel-data yang memisahkan attention dari pembagian expert-paralel, dan itulah sebabnya resep non-BF16 dapat menoleransi jumlah perangkat yang tidak dapat ditoleransi oleh resep BF16.

• Blackwell NVFP4 juga memungkinkan paralelisme ahli dan FlashInfer MegaMoE. Ini adalah kombinasi yang dituju oleh panduan Reflection sendiri, dan baru tersedia setelah checkpoint-nya berupa build 4-bit terpaket pada 273 GiB, bukan FP8 pada 468,72 GiB.

Hasil praktisnya: "kami menjalankan Beam 1.0 di SGLang" bukanlah pernyataan tentang perangkat keras. Dua tim bisa sama-sama mengatakannya sambil menjalankan presisi yang berbeda, tata letak paralelisme yang berbeda, dan algoritme decoding yang berbeda, dan satu-satunya cara untuk membandingkan catatan adalah dengan menyebutkan ketiganya.

Apa nilainya "day zero", dan apa yang bukan.

Dukungan framework pada hari bobot dirilis adalah sinyal nyata, dan ini adalah jenis sinyal yang spesifik. Dukungan SGLang untuk Beam 1.0 ada karena para engineer Reflection bekerja dengan komunitas SGLang sebelum rilis — itulah yang dikatakan secara publik oleh proyek SGLang pada 16 Oktober, dan itu konsisten dengan Reflection yang menyebut SGLang di antara mitra day-zero-nya bersama Transformers, vLLM, Unsloth, Axolotl, TokenSpeed, dan NVIDIA Dynamo, dengan resep tertulis untuk SGLang, vLLM, dan TokenSpeed serta Helm chart untuk Kubernetes.

• Apa yang ditetapkannya — jalur terdokumentasi dan terpelihara dari checkpoint yang dipublikasikan hingga ke endpoint yang dilayani, pada perangkat keras yang disebutkan, dengan varian kuantisasi yang diperhitungkan. Itu benar-benar melampaui apa yang mampu dilakukan sebagian besar rilis terbuka pada minggu pertama.

• Apa yang tidak dibuktikannya — bahwa konfigurasi ini optimal, atau bahwa angka throughput yang akan Anda peroleh sama dengan yang diperoleh orang lain. Klaim production-at-Reflection adalah milik vendor dan framework, yang dilaporkan oleh orang-orang yang menjalankan layanan tersebut. Kami belum melihat reproduksi independen atas klaim itu, dan belum ada tolok ukur pihak ketiga untuk deployment Beam yang di-host sendiri yang telah dipublikasikan.

Perbedaan itu lebih penting di sini daripada biasanya, karena ini adalah sparse mixture of experts dengan 501.3 miliar parameter dan 23.4 miliar parameter aktif per token, dan seluruh nilai arsitektur ini adalah bahwa biaya penyajian Anda hanya sebagian kecil dari nama model. Dukungan framework-lah yang mengubah klaim itu dari diagram arsitektur menjadi anggaran memori. Dukungan itu tidak mengubahnya menjadi angka throughput yang terukur, dan tidak ada materi first-party yang dapat kami temukan yang menerbitkannya untuk inferensi — satu-satunya angka token per detik yang konkret dalam rilis ini menggambarkan supervised fine-tuning LoRA pada satu node dengan 8 GPU B300, yang merupakan langkah pelatihan, bukan laju penyajian.

Mode kegagalan yang sebenarnya dimiliki oleh stack day-zero yang dihosting sendiri

Ada cara spesifik hal ini menjadi salah, dan itu bukan modelnya. Itu adalah minggu kedua. Image Docker yang dipin dan dibangun untuk satu kuantisasi dan satu tata letak paralelisme bukanlah cadangan bagi dirinya sendiri: jika drafter berinteraksi buruk dengan pola lalu lintas Anda, jika pembaruan driver mengubah apa yang dialokasikan oleh fraksi memori, atau jika kapasitas Anda mengantre di belakang tenant lain, Anda tidak lagi punya konfigurasi untuk menjadi cadangan — yang Anda punya adalah gangguan layanan dengan model yang sangat mumpuni berada di dalamnya.

Beam 1.0 bukan salah satu rute kami, jadi kami tidak dapat melayaninya untuk Anda, dan tidak ada apa pun di sini yang boleh dibaca sebagai klaim ketersediaan dari kami. Yang bisa kami lakukan adalah menempatkan fallback di tempat yang berguna. OrcaRouter menjalankan satu kunci yang kompatibel dengan OpenAI di lebih dari 200 model dengan harga daftar penyedia diteruskan apa adanya dan tanpa tambahan, serta failover otomatis antar penyedia, sehingga pilot Beam yang dihosting sendiri yang berhenti merespons adalah perubahan rute, bukan insiden. Model yang paling sering digantikan oleh deployment Beam, dan yang dapat dijangkau dengan cara itu, disertai kartu tarif yang dipublikasikan:

• GLM-5.2 — $1,40 per juta token masukan dan $4,40 per juta keluaran dengan konteks 1.000.000 token. Model yang menjadi tolok ukur klaim efisiensi Reflection sendiri, dan pengganti paling langsung untuk pekerjaan pengodean konteks panjang Beam.

• Kimi K3 — $3.00 per juta input, $0.30 di-cache, $15.00 output dengan jendela 1,048,576 token. Post peluncuran Reflection mengakui K3 masih unggul dalam kemampuan mentah.

• Qwen3.8-Max — $2.00 per juta input dan $6.00 output pada jendela 1.000.000 token, opsi proprietary kelas flagship untuk tim yang menginginkan kemampuan tersebut tanpa perlu rak.

Apa yang masih belum diberitahukan resep itu kepada Anda

Ada tiga celah yang perlu disebutkan, karena masing-masing merupakan keputusan yang pada akhirnya harus Anda ambil dengan informasi yang lebih sedikit daripada yang Anda inginkan.

Yang pertama adalah harga. Endpoint Reflection didokumentasikan dan kompatibel dengan OpenAI, dengan upaya penalaran max, xhigh, high, medium, dan low, penalaran wajib yang dipandu oleh default max, serta batas per organisasi yang dibagikan di setiap kunci. Tidak ada tarif per juta token yang dipublikasikan, sehingga argumen efisiensi untuk Beam 1.0 tidak dapat diselesaikan sebagai latihan aritmetika. Model yang selalu bernalar dan default ke upaya maksimum merupakan proposisi komersial yang berbeda, bergantung pada apakah token output dihargai satu dolar atau sepuluh.

Yang kedua adalah pengukuran independen. Artificial Analysis mencantumkan model tersebut dengan Intelligence Index 30, tanpa angka kecepatan dan tanpa harga, serta tidak mencatat adanya API yang tersedia untuk publik untuk model itu — yang merupakan pernyataan pihak ketiga bahwa permukaan yang dihosting belum terlihat oleh orang-orang yang mengukur hal-hal semacam ini. Satu-satunya titik data efisiensi yang dihitung secara independen memang nyata: Beam menghasilkan 79M token keluaran di seluruh Intelligence Index milik AA, dibandingkan dengan median 130M untuk kumpulan pembanding. Itu mendukung klaim "token penalaran lebih sedikit". Itu tidak memberi tahu Anda seberapa cepat token tersebut keluar.

Yang ketiga adalah pergeseran versi. Resep yang dipublikasikan ditulis terhadap checkpoint tertentu dan build SGLang tertentu, dan drafter adalah repositori tersendiri. Ketika salah satunya berubah, resep yang Anda sematkan pada Oktober adalah konfigurasi yang belum diuji siapa pun pada November. Perlakukan perintah Docker sebagai titik awal dengan tanggal kedaluwarsa, bukan sebagai deployment.

Siapa yang harus bertindak atas ini sekarang, dan siapa yang harus menunggu

Jika Anda sudah memiliki kapasitas Blackwell, resep SGLang benar-benar cukup untuk memulai: empat B300 adalah konfigurasi referensi NVFP4, perhitungan memorinya sudah dipublikasikan, rangkaian uji kesesuaian sudah tersedia, dan risiko kerugiannya terbatas pada waktu rekayasa. Jika Anda tidak memiliki perangkat kerasnya, perhitungannya tetap tidak bisa ditutup, karena opsi hosting tidak memiliki daftar tarif untuk dibandingkan dengan pembelian modal — dan dukungan framework sejak hari pertama, sebaik apa pun itu, bukanlah pengganti harga.

Yang perlu diperhatikan bukanlah kerangka kerja lain yang mengumumkan dukungan. Melainkan angka pertama yang diterbitkan yang tidak berasal dari Reflection atau dari proyek kerangka kerja: pengukuran throughput independen pada konfigurasi yang disebutkan, atau daftar tarif pada endpoint pihak pertama. Salah satu saja akan mengubah ini dari eksperimen yang terdokumentasi dengan baik menjadi item baris. Sampai saat itu, tafsiran yang tepat atas 16 Oktober adalah bahwa rekayasa sulitnya sudah dirilis sesuai jadwal — dan kasus komersialnya adalah bagian yang masih dalam pembangunan.

Tidak ada satu pun dari itu yang hipotetis: kegagalan AI dan insiden agen yang terdokumentasi di balik rilis seperti ini dikumpulkan dalam OrcaRouter AI Incident Archive, di mana setiap entri membawa sumbernya sendiri, tingkat keparahan, peringkat keyakinan, dan penanda status diperdebatkan.