Đêm ra mắt Step 5 Preview của StepFun: Năm nhà phát triển đã nói gì về một mô hình được phát hành sớm hơn sáu tuần

Trời mưa trên đường đến, và đó là phần duy nhất trong buổi tối ở San Francisco ngày 22 tháng 10 năm 2026 mà StepFun không thể kiểm soát. Công ty thuê một căn phòng, đồng tổ chức với Together AI, và lấp đầy nó — khoảng 277 người đã đăng ký trên trang sự kiện công khai trước khi mở cửa — cho sự kiện mà thiệp mời gọi là Step 5 Preview Launch Night và lịch gọi là thứ Năm. Mô hình được ra mắt đã có API từ ngày 20 tháng 9 và trọng số có thể tải xuống từ ngày 15 tháng 10. Không ngày nào trong số đó bị dời vì buổi tiệc. Điều buổi tiệc làm được là đặt những người xây dựng trên nền các mô hình vào cùng một căn phòng với những người đã huấn luyện mô hình này, và để họ nói về những phần của công việc mà một bảng benchmark không bao giờ nắm bắt được.

Phiên thảo luận nhỏ và cụ thể một cách bất thường: Hongyu Zhou, nhà nghiên cứu pretraining tại StepFun; Dan Fu, người phụ trách kernels tại Together AI; Mar Hershenson từ Pear VC; Saoud Rizwan từ Cline; và Joey Wang từ Harvey. Họ cùng nhau bao quát bốn điều quyết định xem một mô hình có được dùng hay không — cách nó được huấn luyện, cách nó được phục vụ, liệu có ai chịu tài trợ cho thứ được xây dựng dựa trên nó không, và liệu một vòng lặp agent có thể tin rằng nó không sụp đổ ở bước thứ bốn mươi hay không.

Đầu tiên, vấn đề về buổi hẹn, vì nó giải thích toàn bộ buổi tối.

Step 5 Preview không phải là bản mới. StepFun đã mở API thương mại vào ngày 20 tháng 9 năm 2026, và buổi ra mắt đã chạy ở dạng preview ngay từ đầu — step-5-preview là ID của mô hình, không phải một hậu tố mà ai đó thêm vào sau này. Artificial Analysis ghi ngày phát hành là "tháng 9 năm 2026" mà không kèm ngày cụ thể, và trang mô hình cũ hơn của họ ghi ngày 18 tháng 9; sự khác biệt so với ngày do chính StepFun công bố chưa bao giờ được bên nào giải thích, và bài viết này dùng ngày 20 tháng 9 của StepFun kèm theo lưu ý đó.

Vào ngày 22 tháng 10, ngày đáng nói lại là ngày 15 tháng 10. Đó là khi các checkpoint BF16 và FP8 được đưa lên Hugging Face và ModelScope, cùng với một bài blog kỹ thuật mô tả một ngăn xếp "hẹp-sâu" 92 lớp và một kiểu attention GQA thưa xen kẽ các lớp cửa sổ trượt có cổng với các lớp full-attention thưa. Theo cách hiểu đơn giản nhất, sự kiện này là một đêm ra mắt bản phát hành weights: buổi tối mà mô hình không còn là thứ bạn gọi đến nữa mà trở thành thứ bạn cũng có thể chạy.

Cách hiểu đó đáng được nói rõ, vì cách hiểu thay thế — rằng đây là một mô hình mới — đã lan truyền suốt cả buổi tối, và nó sai. Ai ra về với suy nghĩ rằng StepFun đã phát hành một mô hình vào cuối tháng 10 sẽ chậm sáu tuần so với một quyết định mà lẽ ra họ đã có thể đưa ra từ trước.

Căn phòng thực sự đã được cho thấy điều gì

Nội dung kỹ thuật nhẹ hơn phần tiếp thị, điều này là bình thường với định dạng này. Những gì StepFun trình bày trên màn hình là cấu trúc của mô hình chứ không phải một lần chạy benchmark mới: một hỗn hợp chuyên gia thưa với tổng cộng 600 tỷ tham số và 27 tỷ tham số hoạt động trên mỗi token, định tuyến 8 trong số 352 chuyên gia cộng thêm một chuyên gia chia sẻ, ba lớp dự đoán đa token cho giải mã suy đoán, và cửa sổ ngữ cảnh 1M token. Nó chấp nhận văn bản, hình ảnh và video và chỉ trả về văn bản. Giới hạn đầu ra trong tài liệu của chính StepFun là 64k token.

Phần của Zhou là phần tiến gần nhất tới một tuyên bố thực sự về lý do vì sao kiến trúc lại trông như thế này: một chồng sâu gồm các lớp hẹp, dựa trên lập luận rằng độ sâu mang lại khả năng suy luận đa bước ngầm mà một mô hình nông hơn, rộng hơn phải tiêu tốn token để nói ra thành lời. Lập luận đó có đúng hay không không phải là điều một đêm ra mắt có thể phân xử. Tuy nhiên, đó lại là loại tuyên bố mà một checkpoint có thể tải xuống cho phép người khác kiểm nghiệm, và đó chính xác là điều không thể làm trước ngày 15 tháng 10.

Gọi công cụ là chủ đề. Các bài kiểm chuẩn thì không.

Phần hữu ích nhất của phiên thảo luận là về độ tin cậy trong các vòng lặp tác nhân, và nó đến từ hai người trong phòng dành cả ngày làm việc bên trong những vòng lặp đó thay vì huấn luyện mô hình. Sản phẩm của Rizwan, Cline, là một tác nhân biên tập phải tiếp tục hoạt động khi mô hình trả về JSON không đúng định dạng ở bước thứ mười một của một nhiệm vụ hai mươi bước. Nhà tuyển dụng của Wang, Harvey, vận hành những vòng lặp tương tự cho công việc pháp lý, nơi một lệnh gọi công cụ sai không phải là một bản demo tồi mà là một sự kiện phát sinh trách nhiệm pháp lý.

Điều mà cả hai đã mô tả là một dạng lỗi không xuất hiện trong điểm trung bình của bài đánh giá: mô hình làm rất tốt trong mười lượt rồi âm thầm thay đổi cấu trúc các đối số của nó. Bằng chứng công bố của StepFun cho khía cạnh đó là do chính họ đưa ra, và đáng được ghi nhãn đúng như vậy. Trên Terminal-Bench 4.0, nhà cung cấp báo cáo 33,3 so với 12,6 của Kimi K3; trên DeepSWE v1.1, 67,7 so với 67,5. Đó là những con số do nhà cung cấp tự chạy trên bộ khung đánh giá do nhà cung cấp lựa chọn, và khoảng cách trong công việc liên quan đến terminal đặc biệt đủ lớn để cần một ý kiến thứ hai trước khi ai đó lên kế hoạch chuyển đổi dựa trên đó. Bên đánh giá độc lập chưa công bố so sánh trực tiếp với cùng bộ khung đánh giá cho mô hình này, và chỉ số mà họ công bố đã được xây dựng lại kể từ đó — xem bên dưới.

Chi phí suy luận, được bàn đến như một bài toán phục vụ thay vì một bảng giá

Phần của Fu là phần sẽ quan trọng nhất với bất kỳ ai định tự vận hành, và nó cụ thể theo cách mà các bài nói khi ra mắt thường không có. Checkpoint FP8 cần khoảng 773 GB VRAM và tối thiểu bốn GPU, với B300 là mục tiêu mặc định; lối Hopper cần tám H200 vì mô hình không vừa trên bốn. Biến thể NVFP4 giảm dung lượng xuống khoảng 473 GB và giới hạn ngữ cảnh khả dụng ở 320k token, đây là một đánh đổi thực sự chứ không phải lỗi làm tròn. vLLM và SGLang đều đã có công thức vào ngày 15 tháng 10, và lối SGLang phải trả chi phí biên dịch FlashInfer khoảng mười lăm phút khi khởi động nguội.

So với điều đó, phương án thuê đơn giản hơn: $1.00 mỗi triệu token đầu vào và $2.70 mỗi triệu token đầu ra trên thẻ USD của StepFun, với đầu vào được lưu đệm tính mức chiết khấu 90%. Thẻ nhân dân tệ của StepFun ghi ¥7 cho đầu vào, ¥20 cho đầu ra và ¥0.70 cho lượt trúng bộ nhớ đệm — con số lượt trúng bộ nhớ đệm đã tăng gấp đôi từ ¥0.35 lúc 00:30 giờ Bắc Kinh ngày 14 tháng 10, tám ngày trước sự kiện, kèm điều khoản bảo lưu quyền lợi cũ cho những người gọi API trả theo mức sử dụng trước đó. Không ai trên sân khấu nhắc đến thay đổi đó. Đây là dữ kiện về giá có tác động lớn nhất đối với mô hình này trong tháng này, và nó nằm trong tài liệu của chính nhà cung cấp chứ không phải trong bộ slide thuyết trình.

Artificial Analysis ước tính chi phí kết hợp ở mức 0,54 USD trên một triệu token với tỷ lệ trúng bộ nhớ đệm 7:2:1, và chi phí cho một lần chạy toàn bộ Intelligence Index là 2,35 USD.

Câu hỏi mấu chốt, chính là lúc buổi tối trở nên thật lòng.

Đóng góp của Hershenson là ít kỹ thuật nhất và hữu ích nhất: một lời nhắc rằng lý do để quan tâm đến một mô hình rẻ, mở, có ngữ cảnh dài là nó thay đổi những gì một công ty ở giai đoạn hạt giống có thể thử làm. Một startup mà trước đây không thể chi trả cho một mô hình tiên phong ở mỗi bước của vòng lặp agent giờ đây có thể chi trả để chạy vòng lặp đó nhiều hơn một lần. Phiên bản của Wang về cùng luận điểm đó, từ góc nhìn bên trong một người mua doanh nghiệp, là câu hỏi mua sắm không phải là "đây có phải là mô hình tốt nhất không" mà là "điều gì sẽ xảy ra với chi phí và độ trễ của chúng ta nếu nó tốt gấp đôi so với kỳ vọng và chúng ta định tuyến mọi thứ đến nó".

Đó là một câu hỏi về định tuyến, và đây chính là điểm mà ở đó kinh tế học của việc tự lưu trữ và kinh tế học của API không còn là những cuộc trò chuyện tách biệt. Lập trường của OrcaRouter về vấn đề này rất rõ ràng: nền tảng cung cấp 214 mô hình đằng sau một khóa và một hóa đơn, với cấu hình định tuyến cho phép bạn khai báo một mô hình chính và một chuỗi dự phòng thay vì gán cứng ID mô hình vào ứng dụng, cùng với tính năng tự động chuyển đổi dự phòng khi một nhà cung cấp bị suy giảm. Step 5 Preview không nằm trong số 214 mô hình đó — tính đến ngày 29 tháng 10 năm 2026, không có mục StepFun nào trong danh mục trực tuyến, và không có nội dung nào trong bài viết này nên được hiểu là tuyên bố rằng chúng tôi cung cấp nó. Bất kỳ ai muốn đánh giá nó ngay hôm nay đều đang lựa chọn giữa API của chính StepFun và việc tự lưu trữ các checkpoint đã ra mắt vào ngày 15 tháng 10.

Điều gì thực sự đã thay đổi sau khi mô hình được phát hành

Ba điều, theo thứ tự mức độ chúng nên ảnh hưởng đến một quyết định.

Đầu tiên là chỉ số. Vào ngày 27 và 28 tháng 10, Artificial Analysis đã thay thế Intelligence Index của mình bằng phiên bản 5, trong đó 60% điểm tổng hợp được tính từ các bộ kiểm thử riêng tư hoặc giữ kín, đồng thời xây dựng lại chín đánh giá thành phần. Họ đã loại bỏ ba trong số các đánh giá mà tài liệu ra mắt của StepFun dựa vào — GDPval-AA, SciCode và AA-LCR — và thêm FrontierCode 2.0 cùng Terminal-Bench-Science. Điểm của Step 5 Preview trên chỉ số mới là 29. Điểm của nó trên chỉ số cũ là 44. Đó là hai phép đo khác nhau của cùng một mô hình theo hai bộ tiêu chí khác nhau, không phải một mô hình đã trở nên kém hơn, và con số 44 được lan truyền trong tháng 9 và tháng 10 không nên bị trừ khỏi bất kỳ điểm nào được chấm theo v5. Để so sánh, Kimi K3.1 Pro đã chuyển từ 55 xuống 46 qua cùng đợt tái cấu trúc — mức giảm chín điểm ở một mô hình vừa mới ra mắt.

Thứ hai là giấy phép. Các trọng số được mở theo nghĩa bạn có thể tải chúng xuống, và chúng không mở theo nghĩa OSI. StepFun Model License 1.0 giữ điều kiện ghi công đối với các đầu ra được sử dụng một cách trọng yếu, yêu cầu các nhà sản xuất phần cứng — điện thoại, xe cộ, thiết bị đeo, robot — phải đàm phán riêng, và yêu cầu giấy phép thương mại đối với các nhà vận hành mô hình dưới dạng dịch vụ có doanh thu hằng năm trên 20 triệu đô la. Nếu bạn là một nhóm hai người, không điều nào trong số đó ảnh hưởng đến bạn. Nếu bạn dự định bán lại dịch vụ suy luận chạy trên nền nó, nó sẽ ảnh hưởng ngay lập tức, và đáng để đọc trước giờ GPU đầu tiên thay vì sau đó.

Điều thứ ba là sự thay đổi giá đã được mô tả, vốn xảy ra trước sự kiện và không được đề cập đến tại đó.

Một người xây dựng nên rút ra điều gì từ buổi tối này

Tín hiệu hữu ích từ ngày 22 tháng 10 không phải là việc StepFun có một mô hình mới. Mà là việc một công ty với sản phẩm chủ lực ra mắt hồi tháng 9 đã dành một buổi tối tháng 10 để nói chuyện với những người xây dựng agent về độ tin cậy của việc gọi công cụ và chi phí phục vụ ở cấp kernel, trong một căn phòng nơi những người sẽ chịu ảnh hưởng từ cả hai điều đó đang ngồi ở hàng ghế đầu. Đó là một công ty đang hành xử như thể sáu tháng ứng dụng tiếp theo phụ thuộc vào khả năng vận hành chứ không phải vào một dòng benchmark khác.

Phiên bản cụ thể của điều đó: nếu bạn đang chờ trọng số trước khi xem xét Step 5 Preview một cách nghiêm túc, thì việc chờ đợi đã kết thúc vào ngày 15 tháng 10. Nếu bạn đang chờ một điểm số độc lập để có thể so sánh với mọi thứ khác, thì con số đó giờ đã tồn tại, là 29, và nó được đo theo một bộ tiêu chí vừa được xây dựng lại từ nền tảng dưới chân tất cả mọi người. Cả hai điều đó đều là lý do để hình thành quan điểm ngay bây giờ thay vì sau đêm ra mắt tiếp theo.