Một thẻ tiêu đề được tạo có tiêu đề 'Nanbeige4.3-33B' với phụ đề '33B dense, Apache 2.0, không có bài đăng ra mắt', một bảng có tiêu đề 'Kho lưu trữ, 24 tháng 10 năm 2026' liệt kê 'Được tạo lúc 02:49 UTC', '14 phân mảnh BF16, 66.3 GB' và '304 lượt thích', và bảng thứ hai có tiêu đề 'Bảng benchmark của nhà cung cấp' liệt kê '20 benchmark', 'Dẫn đầu 17 trong số đó', 'Vượt Qwen3.8-27B ở 18' và '0 lượt chạy độc lập'. Phần chân trang ghi 'Số liệu được đọc từ thẻ mô hình Hugging Face và config.json.' Biểu trưng OrcaRouter được ghép vào dải trắng bên dưới hình minh họa.
Engineering & Research

Nanbeige4.3-33B: 17 trong 20 chiến thắng, ngữ cảnh 512K và không có gì được kiểm chứng độc lập

Tác giả

Alistair Wren

Ngày đăng

Mô hình mới nhất · 20Xem tất cả mô hình →
Benchmark: Artificial Analysis · cập nhật hằng ngày
Quay lại tất cả bài viết

Vào lúc 02:49 UTC ngày 24 tháng 10 năm 2026, một kho lưu trữ Hugging Face có tên Nanbeige/Nanbeige4.3-33B đã được công khai, bốn phút sau checkpoint nền có cùng tên. Không có bài đăng ra mắt nào xuất hiện. Không có mục blog, không có thông báo từ nhà cung cấp, không có thông cáo báo chí — model card chính là toàn bộ hồ sơ chính chủ về một bản phát hành trọng số mở 33,1 tỷ tham số, với tuyên bố nổi bật rằng nó đánh bại Qwen3.8-27B trên 18 trong số 20 benchmark. Tuyên bố đó không sai. Nhưng nó cũng chưa thể kiểm chứng, và các bài đưa tin kể từ đó phần lớn chỉ lặp lại bảng số liệu mà không đọc phần chú thích bên dưới.

Vậy là các con số nói lên hai điều cùng lúc. Nanbeige4.3-33B dẫn đầu 17 trong số 20 hàng trong bảng của chính nó, và nó đánh bại Qwen3.8-27B ở 18 trong số đó. Đó là hai cách đếm khác nhau và cả hai đều chính xác: ba hàng mà nó không dẫn đầu là SWE-Bench Pro, nơi Qwen3.8-27B thắng 61,7 so với 60,3; GDPval, nơi Qwen3.8-27B thắng 86,4 so với 84,8; và GPQA Diamond, nơi 91,3 của Gemma4-31B đánh bại cả hai. Thua hai hàng trước Qwen3.8-27B và một hàng trước Gemma4-31B cho bạn 18/20 trước mô hình Qwen và 17/20 trước toàn bộ các đối thủ. Hầu hết các bài viết chọn một con số và bỏ sót con số còn lại, một chi tiết nhỏ cho thấy phần còn lại đã được đọc kỹ đến mức nào.

Kho lưu trữ xác lập được gì và không xác lập được gì

Hãy bắt đầu bằng những gì có thể xác minh bằng cách mở tệp thay vì trích dẫn văn xuôi, vì khoảng cách giữa hai điều đó chính là câu chuyện ở đây.

• Đã xác nhận: các trọng số tồn tại. Mười bốn phân mảnh safetensors với tổng cộng 66.259.989.086 byte, bfloat16, trong một kho lưu trữ được tạo lúc 02:49:18Z ngày 24 tháng 10 năm 2026 và được chỉnh sửa lần cuối lúc 11:11Z ngày 25 tháng 10. Một checkpoint cơ sở riêng, Nanbeige4.3-33B-Base, được tạo sớm hơn ba phút lúc 02:46:52Z.

• Đã xác nhận: giấy phép là Apache 2.0, được khai báo trong siêu dữ liệu của kho lưu trữ và trong phần mở đầu của card. Không có tệp LICENSE trong tám tệp không phải trọng số, đây là lỗ hổng về thủ tục giấy tờ chứ không phải về pháp lý — trường siêu dữ liệu là thứ Hub và hầu hết các trình quét đọc.

• Đã xác nhận: kiến trúc là một stack Llama thông thường, không phải mixture of experts và cũng không phải thiết kế looped-transformer mà các mô hình nhỏ của dòng này từng sử dụng. Thông tin thêm về cấu hình ở bên dưới.

• Đã xác nhận: không có endpoint nào do nhà cung cấp lưu trữ. Ánh xạ nhà cung cấp suy luận của Hub cho kho lưu trữ này đang trống, và thẻ này cung cấp vLLM, SGLang và Transformers, theo tinh thần đó: hãy tự mang GPU của bạn.

• Chưa được xác nhận: bất cứ điều gì về cách nó được huấn luyện. Không có số token tiền huấn luyện, không có hỗn hợp dữ liệu, không có số liệu tính toán, không có công thức hậu huấn luyện, và không có phần giới hạn hay an toàn. Khối trích dẫn của thẻ dài bốn dòng.

• Chưa được xác nhận:rằng bất kỳ con số nào được công bố đều có thể tái lập được. Không có bộ khung đánh giá nào trong kho lưu trữ — không có tập lệnh, không có cấu hình tác vụ, không có nhật ký — và tính đến ngày 26 tháng 10, chưa có bên thứ ba nào công bố điểm số, xếp hạng đấu trường hay vị trí trên bảng xếp hạng cho mô hình này.

• Chưa xác nhận: rằng bản phát hành diễn ra kín đáo. Không phải vậy. Nó đã không được phòng thí nghiệm công bố, đây là một mô tả hẹp hơn và chính xác hơn: thẻ này là một tài liệu ra mắt đầy đủ với bảng benchmark hai mươi dòng, và các trang tổng hợp đã nắm được nó trong vòng một ngày. Điều còn thiếu là một bài đăng chính chủ giải thích Nanbeige nghĩ mình đã tạo ra cái gì.

A screenshot of the Hugging Face model page for Nanbeige/Nanbeige4.3-33B showing 304 likes, tags for Text Generation, Transformers, Safetensors, English, Chinese, llama and Apache 2.0 licensing, a model size of 33B params in BF16, a panel reading "This model isn't deployed by any Inference Provider", a model tree listing Nanbeige4.3-33B-Base with 3 finetunes and 37 quantizations, and benchmark bar charts for Terminal-Bench 2.1, Terminal-Bench 4.0, DeepSWE, SWE-Atlas-QnA, NL2Repo, Automation, JobBench and Toolathlon-Verified.

Sự phân biệt đó quan trọng với bất kỳ ai đang quyết định xem nên làm gì với bản phát hành. Một phòng thí nghiệm không nói gì thì chẳng cho bạn biết gì về ý định, hỗ trợ hay mốc kiểm tra tiếp theo. Một phòng thí nghiệm công bố một model card nhưng không có bài đăng thì đã cho bạn biết rất nhiều về mô hình và để chiến lược ở dạng ngầm hiểu — và trong trường hợp này, chiến lược được nêu rõ ràng ngay trong đoạn thứ hai của model card, một khi bạn để ý thấy.

Lá bài gọi nó là một người thầy, và điều đó diễn giải lại toàn bộ bản phát hành.

Nanbeige4.3-33B được mô tả là “mô hình giáo viên chủ lực” của dòng Nanbeige4.3, được xây dựng trước tiên để phòng thí nghiệm có thể chưng cất hành vi agentic vào các mô hình nhỏ hơn, “ví dụ: cho Nanbeige4.3-3B”. Thẻ mô hình liệt kê “hiệu năng agentic tiên tiến nhất trong số các mô hình mở thuộc lớp ~30B tham số” là mục tiêu, rồi ngay lập tức mô tả 33B là nền tảng cho một quy trình chưng cất chứ không phải sản phẩm cuối cùng.

Đọc theo nghĩa đen, bản phát hành này là một sản phẩm phụ của quá trình huấn luyện mà tình cờ lại có thể phát hành được. Đây là mô hình bạn dùng để tạo quỹ đạo cho một học trò 3B, và lý do bộ benchmark của nó nặng về các tác vụ agent dài hạn — Terminal-Bench, DeepSWE, JobBench, Toolathlon — là vì đó chính là những hành vi mà người ta muốn chuyển giao. Nanbeige4.3-3B chưa ra mắt. Khi nó xuất hiện, nó sẽ là mô hình mà hầu hết mọi người thực sự chạy, và 33B này sẽ là thứ giải thích điểm số của nó.

Có một tác dụng phụ đáng gọi tên: một mô hình giáo viên được tối ưu để tạo ra các quỹ đạo tốt trong một ngân sách token hào phóng, chứ không phải để rẻ khi suy luận. Các cài đặt được khuyến nghị trên card xác nhận điều đó — 65,536 token mới tối đa cho công việc tác tử và 262,144 cho suy luận và trò chuyện, với chế độ suy nghĩ bật theo mặc định. Một mô hình được nhắc phát ra một phần tư triệu token không phải là mô hình bạn đặt phía sau khung chat mà không có ngân sách.

33B mà tệp cấu hình mô tả

Đọc config.json và cấu trúc này mang tính thông thường theo cách mà phần marketing thì không. Năm mươi hai lớp, kích thước ẩn 7,168, 56 head truy vấn so với 8 head key-value — tỷ lệ grouped-query 7:1 — chiều head 128, độ rộng FFN 22,016 và bộ từ vựng 166,912 token. Cơ sở RoPE là 120,000,000 mà không áp dụng bất kỳ scaling nào, và max_position_embeddings được đặt thành 524,288. Phiên bản transformers được ghi trong tệp là 4.51.1.

Số lượng tham số suy ra từ những con số đó. Các phép chiếu attention là 117,4 triệu tham số mỗi lớp, MLP ba lớp là 473,4 triệu, tức 590,9 triệu mỗi khối trên 52 khối: 30,7 tỷ. Hai ma trận embedding không buộc chung ở 166.912 x 7.168 thêm 2,4 tỷ. Tổng cộng là 33,1 tỷ, đúng như tên gọi hứa hẹn và tương đương 66,3 GB bfloat16.

So với mô hình mà nó dành cả bàn để công kích, những khác biệt còn sắc nét hơn những gì điểm số gợi ý.

• Kích thước — 33,1B dense cho Nanbeige4.3-33B so với 27,78B dense cho Qwen3.8-27B. Cả hai đều là dense; không cái nào là mixture of experts.

• Phương thức — chỉ văn bản, tiếng Anh và tiếng Trung, cho Nanbeige4.3-33B so với đầu vào văn bản, hình ảnh và video gốc cho Qwen3.8-27B. Nếu pipeline của bạn đọc ảnh chụp màn hình, thì so sánh đã kết thúc trước khi các benchmark bắt đầu.

• Cơ chế chú ý — cơ chế chú ý đầy đủ đồng nhất trên 52 lớp cho Nanbeige4.3-33B so với một ngăn xếp lai cho Qwen3.8-27B, vốn chạy 48 lớp tuyến tính DeltaNet có cổng so với 16 lớp chú ý đầy đủ theo mô hình 3:1. Đó là lý do mô hình Qwen rẻ ở ngữ cảnh dài còn mô hình này thì không.

• Ngữ cảnh — 524.288 token gốc cho Nanbeige4.3-33B so với 262.144 token gốc, có thể mở rộng lên khoảng 1M với YaRN, đối với Qwen3.8-27B.

• Giấy phép — Apache 2.0 trên cả hai, điều này loại bỏ lý do thông thường để ưu tiên một bên.

Sự khác biệt về mức độ chú ý không phải là một chú thích nhỏ. Đó chính là toàn bộ lý do khiến phần tiếp theo tồn tại.

512K là một giá trị trong tệp cấu hình, không phải là ngữ cảnh làm việc

Mọi bản tóm tắt về bản phát hành này đều mở đầu bằng cửa sổ nửa triệu token. Gần như không bản nào trong số đó làm phép tính, và phép tính thì thật khắc nghiệt.

Với 52 lớp, 8 đầu khóa-giá trị có 128 chiều và lưu trữ bfloat16, mỗi token trong bộ nhớ đệm tốn 2 × 52 × 8 × 128 × 2 byte — 212.992 byte, tức 208 KiB. Ba hệ quả rút ra trực tiếp.

• Ở độ dài đầy đủ 524.288 token, chỉ riêng KV cache đã là 111,7 GB, tức khoảng 104 GiB. Con số đó lớn hơn 66,3 GB trọng số, và nó không vừa trên bất kỳ bộ tăng tốc đơn lẻ nào được bán ra hiện nay.

Ở 131.072 token — một phần tư cửa sổ được quảng cáo — bộ nhớ đệm là 27,9 GB, xấp xỉ 26 GiB. Cộng thêm trọng số và bạn đang ở mức 92 GB trước khi tính đến hoạt hóa, đó là lý do các ví dụ của chính card sử dụng song song tensor bốn chiều.

Ở 32.768 token, bộ nhớ đệm là 6,98 GB, khoảng 6,5 GiB. Đây là con số quan trọng trong thực tế và cũng chính là độ dài ngữ cảnh mà ví dụ llama.cpp của kho lưu trữ GGUF cộng đồng thực sự đặt.

Không điều nào trong số này khiến tuyên bố 512K trở nên không trung thực. Cửa sổ này là nguyên bản — không YaRN, không hệ số tỷ lệ, rope base 120 triệu — và trên một node bốn GPU với đủ bộ nhớ, bạn có thể chạy nó. Điều đó có nghĩa con số trên tiêu đề là một mức trần mà bạn sẽ không đạt tới trên phần cứng mình sở hữu, và rằng bất kỳ ai trích dẫn "ngữ cảnh 512K" như một lý do mua thì chưa tính đến giá của cache. So sánh điều đó với thiết kế Qwen3.8-27B, nơi ba phần tư số lớp giữ trạng thái hồi quy có kích thước không đổi thay vì cache ngày càng tăng, và khoảng cách về chi phí trên mỗi token ngữ cảnh dài là mang tính cấu trúc chứ không phải vấn đề tinh chỉnh.

Một điều nữa từ config, và đây là kiểu chi tiết có thể khiến bạn mất cả một buổi chiều: use_cache được đặt thành false, trong cả config.json và generation_config.json. Tải mô hình qua đoạn mã Transformers trên card và gọi generate mà không ghi đè giá trị đó sẽ khiến prefix được tính lại ở mọi bước. Các đường dẫn vLLM và SGLang tự quản lý cache và không bị ảnh hưởng. Nếu lần chạy benchmark đầu tiên có vẻ chậm một cách khó hiểu, hãy kiểm tra điều này trước khi đổ lỗi cho trọng số.

Đọc bảng điểm chuẩn theo đúng cách mà phần chú thích của bảng yêu cầu bạn.

Bảng này được ghi chú kỹ hơn hầu hết các bảng của nhà cung cấp, và chính phần ghi chú là nơi chứa những lưu ý. Mười hai chú thích nằm dưới hai mươi hàng, và chúng nói nhiều hơn về khả năng so sánh so với chính các điểm số.

Terminal-Bench 2.1 được chạy với Terminus 2. Terminal-Bench 4.0 và DeepSWE được chạy với mini-swe-agent v2.4.6.

• NL2Repo được chạy bằng harness Claude Code; JobBench bằng Claude Code cùng với một công cụ tìm kiếm.

• Câu trả lời của SWE-Atlas-QnA đã được chấm điểm dựa trên 1.304 tiêu chí đánh giá riêng cho từng nhiệm vụ, sử dụng GPT-6 Sol làm giám khảo ở mức nỗ lực suy luận trung bình. Giám khảo theo tiêu chí là một mô hình thứ hai trong vòng lặp, và nó không phải là mô hình đang được kiểm thử.

• Toolathlon-Verified không đặt giới hạn max_tokens cho từng yêu cầu riêng lẻ. Claw-Eval chỉ được tính điểm trên tập con General, 157 tác vụ một lượt. YC-bench chỉ giữ mười lượt hội thoại gần nhất làm lịch sử trước mỗi lần gọi. GDPval sử dụng các tiêu chí đánh giá đã chỉnh sửa.

• Bản thân Nanbeige4.3-33B đã được đánh giá với preserve_thinking=true, tức là giữ lại phần lập luận trước đó của trợ lý qua các lượt. Thẻ mô hình khuyến nghị đúng điều đó cho việc sử dụng công cụ trong nhiều lượt, và hoàn toàn ngược lại đối với trò chuyện thông thường.

Khi đọc cùng nhau, những ghi chú đó mô tả một bộ đánh giá được xây dựng để đo hành vi tác nhân trong tầm dài hạn với ngân sách hào phóng. Đó là một thứ có thể biện minh để đo — đó chính là mục đích của mô hình — nhưng đó cũng là chế độ mà việc lựa chọn harness làm thay đổi điểm số nhiều nhất. Khoảng cách lớn nhất trong bảng, DeepSWE ở 65.5 so với 42.5 của Qwen3.8-27B, là mức chênh 23 điểm trên một benchmark được dẫn dắt bởi scaffold tác nhân. Những khoảng cách nhỏ nhất nằm ở các hàng mà scaffold ít quan trọng nhất: AIME 2026 ở 95.2 so với 94.5, Tau3-Bench ở 48.8 so với 48.5, EnterpriseOps-Gym ở 41.0 so với 40.2.

A generated single-model scoreboard titled 'Nanbeige4.3-33B — the scoreboard' listing six rows: Parameters 33.1B dense, Context 524,288 tokens, Benchmarks led 17 of 20, vs Qwen3.8-27B 18 of 20, Independent evaluations 0, Hosted API none. A footer reads 'All figures vendor-reported from the Hugging Face model card; no independent scores exist.' The OrcaRouter logo is composited in the white strip below the artwork.

Mẫu hình đó phù hợp với hai cách giải thích. Hoặc là mô hình thực sự giỏi hơn hẳn các mô hình ngang hàng về lập trình tác tử, hoặc là các hàng tác tử chính là nơi một phòng thí nghiệm tinh chỉnh scaffold của riêng mình dựa trên mô hình của riêng mình thu được nhiều lợi thế nhất. Không có gì trong kho mã phân biệt được hai cách giải thích này, và lập trường trung thực cho đến khi ai đó chạy lại bộ kiểm thử là cả hai đều còn hiệu lực. Những hàng mà mô hình thắng chỉ một điểm hoặc ít hơn — Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval với 78,3 so với 75,2 — là những hàng ít có khả năng nhất đứng vững qua một harness độc lập.

Tính đến ngày 26 tháng 10, điều không hề tồn tại là bất kỳ con số bên ngoài nào. Không có mục nhập nào trên chỉ số Artificial Analysis, không có xếp hạng arena, không có ai tái lập. Con số AA-LCR 84.0 của chính tấm card là do Nanbeige chạy một benchmark của Artificial Analysis, chứ không phải Artificial Analysis chạy Nanbeige.

Bài kiểm tra thực hành duy nhất cho đến nay, và những gì nó cho thấy

Chỉ có một người đã công bố bất cứ điều gì từ việc thực sự chạy các trọng số, và kết quả này đáng được báo cáo chính vì nó quá ít ỏi. Một nhà phát triển Nhật Bản đã nạp checkpoint bfloat16 đầy đủ trên Colab A100 80 GB, dùng Transformers thuần với dtype và device mapping tự động, và đo được khoảng 63 GB VRAM đang dùng. Phản hồi đầu tiên, bị giới hạn ở 1.024 token mới, mất khoảng mười một giây. Không có con số token/giây nào được đưa ra; ấn tượng là một mô hình dense 33B ở bfloat16 chậm, đúng như phép tính dự đoán.

Ba lời nhắc đã được đưa ra. Phép so sánh 9.11 với 9.8 cho kết quả đúng, với lời giải thích rõ ràng về số thập phân. Một câu hỏi về các nhân vật anime cho ra kết quả ổn về mặt chủ quan nhưng tên bị lộn xộn. Một câu hỏi về thủ tướng Nhật Bản đưa ra câu trả lời sai, tuyên bố ngày cắt kiến thức là tháng 6 năm 2024, và một cái tên bị bịa ra. Chuỗi suy luận tiếng Anh bị rò rỉ trước thẻ đóng think.

Ba lời nhắc thông thường không phải là một đánh giá và không nên bị đọc như vậy. Điều chúng là một điểm dữ liệu khớp với hình dạng của bảng nhà cung cấp: một mô hình được tinh chỉnh mạnh cho công việc tác nhân bằng tiếng Anh, kiến thức thế giới đã cũ hai năm, và không có gì nổi bật ở ngôn ngữ thứ hai. Thẻ mô hình tuyên bố hỗ trợ tiếng Anh và tiếng Trung; cũng chưa ai công bố một bài kiểm tra tiếng Trung.

Nơi phiên bản lượng tử hóa không còn là cùng một mô hình

Hầu hết những người chạy mô hình này sẽ không chạy bfloat16 66 GB. Họ sẽ chạy một bản quant 4-bit trên một card, và các báo cáo về lượng tử hóa xuất hiện trong vòng một ngày sau khi phát hành cho thấy đó là một bước sụt giảm lớn hơn bình thường.

Kho GGUF của cộng đồng công bố phân kỳ KL và độ đồng thuận top-1 so với mô hình bfloat16, được đo trên một bộ kiểm thử văn bản chuẩn, và README của chính kho này cảnh báo rằng mô hình "nhạy cảm bất thường với lượng tử hóa".

• Q8_0, 35.2 GB — KL 0.0032, tỷ lệ đồng thuận top-1 98.0%.

• Ma trận độ quan trọng Q5_K_M, 24,7 GB — KL 0,0213, top-1 94,7%.

• Ma trận tầm quan trọng Q4_K_M, 21.2 GB — KL 0.0380, 92.6% top-1.

• llama.cpp Q4_K_M thuần, 20,1 GB — KL 0,0693, 89,9% top-1. Cùng độ rộng bit với hàng trên, độ lệch gần gấp đôi.

• Ma trận độ quan trọng IQ3_S, 17,1 GB — KL 0,1019, top-1 87,5%. README lưu ý rằng các tệp dưới 4-bit mất độ chính xác nhiều hơn đáng kể.

Một bản chuyển đổi MLX 8-bit báo cáo top-1 98,6% với KL 0,015, và so sánh một nhánh AWQ 4-bit đạt top-1 92,1% với KL 0,181 — mức sụt giảm dốc hơn nhiều so với GGUF ma trận tầm quan trọng ở cùng độ rộng danh nghĩa.

Cách hiểu thực tế: nếu bạn đánh giá mô hình này ở 4-bit trên một thẻ 40 hoặc 48 GB và nó thất bại trong các tác vụ agent của bạn, thì bạn đã đánh giá một mô hình khớp với mô hình đã công bố ở khoảng chín token trên mười. Với văn xuôi, điều đó là vô hình. Với các lệnh gọi công cụ, nơi một đối số sai định dạng sẽ kết thúc lượt, tỷ lệ sai lệch 7% là một sản phẩm khác. Nếu các tuyên bố về năng lực agent là lý do bạn quan tâm, mức tối thiểu trung thực là Q5 với ma trận quan trọng, hoặc bfloat16 trên phần cứng thuê cho lượt đánh giá.

Chi phí để dùng thử là bao nhiêu và cách dùng thử mà không cần đặt cược vào nó

Nanbeige chưa công bố giá, vì chẳng có gì để định giá: mô hình là trọng số, không phải một dịch vụ, và Hub không liệt kê nhà cung cấp suy luận nào cho nó. Điều đó để lại ba hướng — bốn GPU 80 GB cho bfloat16, một card 48 GB ở Q5, hoặc chờ một nhà cung cấp niêm yết nó.

Để so sánh, mô hình mà nó tuyên bố đánh bại thì có sẵn theo yêu cầu. Qwen3.8-27B chạy trên OrcaRouter với giá $0.33 mỗi triệu token đầu vào và $2.40 mỗi triệu token đầu ra, với cửa sổ 262K và thời gian p50 đến token đầu tiên khoảng 2,95 giây. Một prompt agentic 65.536 token cộng với 8.000 token đầu ra tốn khoảng bốn xu. Đó là con số mà một mô hình 33B tự vận hành phải vượt qua, và nó phải vượt qua trong khi gánh thời gian GPU nhàn rỗi, rủi ro lượng tử hóa và việc không có đường dự phòng.

Chúng tôi không lưu trữ Nanbeige4.3-33B, và không có nội dung nào ở đây nên được hiểu là tuyên bố rằng chúng tôi có lưu trữ mô hình đó. Điều chúng tôi có thể làm là khiến việc so sánh trở nên rẻ hơn theo chiều ngược lại: Orca Connect đặt GPU của bạn phía sau cùng một khóa như danh mục được lưu trữ, để một endpoint Nanbeige tự lưu trữ và Qwen3.8-27B có thể nằm sau một endpoint và một quy tắc định tuyến trong khi bạn quyết định. Định tuyến một phần lưu lượng đến checkpoint mới, giữ mô hình được lưu trữ làm phương án dự phòng, và để nhật ký yêu cầu — điểm chất lượng, độ trễ, chi phí mỗi lần gọi — phân xử một cuộc tranh luận mà bảng của nhà cung cấp không thể. Mức đánh dấu 0% có ý nghĩa ở đây theo một cách cụ thể: giá niêm yết của nhà cung cấp được chuyển qua nguyên vẹn, vì vậy khi một nhà cung cấp giảm giá, phép so sánh bạn thiết lập tuần trước vẫn trung thực.

A screenshot of the OrcaRouter model page for Qwen3.8-27B showing a FEATURED badge, modality tags for Vision, Tools, JSON and Reasoning, a 262K token context, text plus image and video input with text output, p50 time-to-first-token of 2.95 seconds, an input price of $0.33 per 1M tokens, an output price of $2.40 per 1M tokens, p95 TTFT of 10.00 seconds and traffic of 158.3M tokens over 7 days.

Ai nên hành động về việc này, và ai nên chờ đợi?

Nếu bạn đang xây dựng một pipeline chưng cất, đây là checkpoint mở thú vị nhất trong tháng. Một teacher dense 33B với giấy phép thoáng, các thiết lập lấy mẫu được tài liệu hóa, và một bộ benchmark được chọn để đo chính xác hành vi bạn muốn chuyển giao là một tài sản hữu ích, và việc phòng thí nghiệm nói rằng họ đang xây dựng một teacher trước tiên là tín hiệu về hướng đi của dòng sản phẩm này. Hãy tải nó xuống, chạy đánh giá của riêng bạn, và giữ ghi chú harness của thẻ mô hình bên cạnh kết quả của bạn.

Nếu bạn cần một mô hình chạy trong môi trường production ngay tuần này, hãy chờ đã. Chưa có điểm số độc lập nào, chưa có endpoint được lưu trữ sẵn, chỉ có một báo cáo thực nghiệm với vỏn vẹn ba prompt, và một cấu hình lượng tử hóa suy giảm nhanh hơn mức thông thường ở những độ rộng bit mà phần lớn mọi người có thể chi trả. Không điều nào trong số đó là lý do để loại trừ — đơn giản là nó vẫn chưa phải bằng chứng.

Nếu bạn cần khả năng thị giác, cuộc so sánh đã được định đoạt: Qwen3.8-27B đọc được hình ảnh và video, còn mô hình này đọc văn bản bằng hai ngôn ngữ.

Những điều cần chú ý thì rất cụ thể. Nanbeige4.3-3B, mục tiêu chưng cất, sẽ cho bạn biết liệu giáo viên có đáng để xây dựng hay không. Lần chạy độc lập đầu tiên của Terminal-Bench 4.0, dòng có khoảng cách lớn nhất và nhạy cảm nhất với scaffold. Và liệu một nhà cung cấp có niêm yết 33B hay không — bởi ngay khi ai đó làm vậy, ngữ cảnh 512K không còn là một giá trị cấu hình mà trở thành một mục chi phí, và phép tính trong bài này trở thành hóa đơn của ai đó.