Mercury 3 đã tăng trưởng hơn 40 lần và vẫn duy trì 1.000 token mỗi giây — câu chuyện nằm ở khả năng mở rộng quy mô

Inception Labs đã phát hành Mercury 3 vào ngày 19 tháng 10 năm 2026, và con số đáng để bạn dừng lại không phải là 1.068 token mỗi giây. Mà là bốn mươi. Theo chính lời Inception, Mercury 3 có tổng số tham số lớn hơn Mercury 1 hơn 40 lần, vậy mà nó vẫn chạy ở mức hơn 1.000 token mỗi giây — cùng đẳng cấp thông lượng mà công ty đã bán từ mô hình đầu tiên. Tất cả những người đưa tin về buổi ra mắt đều mở đầu bằng con số tốc độ. Con số tốc độ vốn đã là điểm chào bán của Mercury từ hai thế hệ trước. Điều mới mẻ là Mercury 3 là một mô hình ngôn ngữ khuếch tán được đẩy quy mô lên hai bậc độ lớn mà không bị sụp đổ tốc độ giải mã như thường thấy, và đó là tuyên bố đáng để kiểm chứng. Bài viết này nói về việc mở rộng quy mô, những gì Inception nói rằng họ đã thu được, và những gì một người xây dựng có thể và không thể kết luận từ đó một ngày sau khi ra mắt. Những thất bại AI và sự cố agent được ghi nhận đằng sau những bản phát hành như thế này được tập hợp trong OrcaRouter AI Incident Archive trong đó mỗi mục đều mang nguồn riêng, mức độ nghiêm trọng, cấp độ tin cậy và cờ tranh chấp.

So sánh mà Inception đưa ra là với phân khúc nhanh, rẻ: Mercury 3 "vượt trội GPT-6 Luna và Claude Haiku 5.5", cả hai đều là mô hình tối ưu tốc độ, trong khi chạy nhanh hơn cả hai. Nó không được định vị để so với GPT-6 Astra hay Claude Sonnet 5.5, và đọc thông báo như một tuyên bố về mô hình tiên phong sẽ là sai lầm mà Inception không mắc phải.

Vì sao 40x là một tuyên bố khó hơn đối với mô hình khuếch tán so với transformer

Một mô hình tự hồi quy phát ra một token mỗi lượt truyền xuôi qua mạng. Một mô hình ngôn ngữ khuếch tán phát ra cả một khối mỗi lượt, lặp đi lặp lại việc khử nhiễu một khung các vị trí cho đến khi khối đó được hoàn tất. Đó chính là nguồn gốc của thông lượng, và cũng là lý do vì sao việc mở rộng quy mô mô hình này là một bài toán kỹ thuật khác với việc mở rộng quy mô mô hình kia.

Trong một mô hình diffusion nhỏ, mỗi bước khử nhiễu có thể chốt nhiều vị trí cùng lúc vì các vị trí còn lại dễ điền vào. Khi mô hình lớn lên, ngưỡng chất lượng cho mỗi vị trí tăng lên, và số bước cần để đạt ngưỡng đó có xu hướng tăng theo — chính sự song song đã tạo ra lợi thế tốc độ lại là thứ ngày càng khó duy trì. Vì vậy, việc tăng số tham số gấp 40 lần mà vẫn giữ được 1.000 token mỗi giây hàm ý hoặc là số bước trên mỗi khối tăng mạnh và được bù đắp bằng mức tăng lớn hơn nhiều về hiệu quả tính toán mỗi bước, hoặc là một thay đổi về kiến trúc hoặc lấy mẫu mà Inception chưa mô tả. Thông báo không nói rõ là trường hợp nào, và đó là câu hỏi chưa có lời đáp thú vị nhất trong bản công bố.

Điều Inception công bố là kết quả chứ không phải cơ chế: hơn 40 lần số tham số của Mercury 1, và mức tăng khoảng gấp ba lần về trí thông minh đo được từ Mercury 1 (mini) đến Mercury 3 trên bộ đánh giá của chính hãng. Cả hai con số đều do nhà cung cấp báo cáo, không con số nào đi kèm tổng số tham số tuyệt đối, và chưa có bộ đánh giá độc lập nào chạy mô hình. Hãy coi chúng là một tuyên bố mang tính định hướng — lớn hơn và tốt hơn trong cùng một dòng mô hình — chứ không phải là các phép đo.

Việc mở rộng quy mô đã thay đổi gì và không thay đổi gì trên bảng thông số kỹ thuật

Bước nhảy vọt giữa các thế hệ thể hiện rõ hơn ở những con số nhàm chán so với những con số tiếp thị. So với Mercury 2.5, mô hình mà nó thay thế:

• Cửa sổ ngữ cảnh — 1.000.000 token trên Mercury 3 so với 260.000 trên Mercury 2.5, với đầu ra tối đa 131.072 token.

• Tham số — gấp hơn 40 lần Mercury 1, không có con số tuyệt đối nào được công bố; số lượng tham số của Mercury 2.5 cũng chưa từng được công bố.

• Thông lượng — 1.068 token mỗi giây, do nhà cung cấp đo trên các GPU NVIDIA không được nêu rõ, so với khoảng 706 token mỗi giây mà Artificial Analysis đo được cho Mercury 2.5 bằng bộ khung đo của chính họ.

• Giá — $0,20 mỗi triệu đầu vào và $0,70 mỗi triệu đầu ra theo giá niêm yết, giảm 50% xuống $0,10 và $0,35 trong giai đoạn ra mắt, không có ngày kết thúc được nêu.

• Mức nỗ lực suy luận — bốn cài đặt (tức thì, thấp, trung bình, cao), mặc định là thấp; Mercury 2.5 và Mercury 2 mặc định là trung bình.

• Phương thức — văn bản vào, văn bản ra. Không thay đổi. Không có đầu vào hình ảnh, âm thanh hay video, trong khi Gemini 4 Argon và GPT-6 Astra đều nhận đầu vào đa phương thức.

Cửa sổ ngữ cảnh là thay đổi có hệ quả thực tiễn lớn nhất và được báo chí nhắc đến ít nhất. Việc tăng gấp bốn lần đưa Mercury ra khỏi nhóm tài liệu ngắn và vào phạm vi mà một toàn bộ kho mã, một bản ghi hỗ trợ dài hay một hợp đồng dài hàng trăm trang vừa trong một lần gọi. Giải mã khuếch tán trên ngữ cảnh dài không hề miễn phí — canvas lớn hơn và chi phí attention tăng lên — nên việc ngữ cảnh tăng 4 lần trong khi thông lượng vẫn ở mức trên 1.000, nếu có gì, lại là một tuyên bố mạnh mẽ hơn về khâu kỹ thuật so với con số hàng tiêu đề.

Kết quả chất lượng duy nhất có bộ khung đánh giá phía sau

Inception đã thực sự chạy một đánh giá hữu ích hơn cả một bảng benchmark, và nó bị chôn vùi bên dưới những tuyên bố về tốc độ. Công ty đã đưa Mercury 3 vào chính bộ khung web-agent production của mình, đặt cạnh các mô hình tiên phong, trên 50 tác vụ điều hướng Mind2Web trực tiếp — trang web thật, không phải ảnh chụp đóng băng — và báo cáo tỷ lệ hoàn thành 50%, "cao hơn đáng kể so với GPT-6.1-Sol", với cùng lượng token và cùng số bước agent. Cùng khối lượng công việc, chi phí mỗi token thấp hơn, tỷ lệ hoàn thành tốt hơn.

Năm mươi tác vụ là một mẫu nhỏ và bộ khung kiểm thử thuộc về nhà cung cấp, nên mức chênh lệch không phải là con số bạn có thể dựa vào để lập kế hoạch. Nhưng điều hướng web dạng tác tử là khối lượng công việc ít dễ bị nhiễm bẩn benchmark nhất và nhạy cảm nhất với hai thứ Mercury bán: độ trễ và chi phí mỗi bước. Một mô hình hoàn thành một nửa trong số năm mươi tác vụ trực tiếp là đang làm được điều gì đó thật. Đồng thời, ở mức 50%, nó đang thất bại một nửa trong số đó, và đây là khung đánh giá đúng cho lớp mô hình này trong môi trường sản xuất — một tác tử hoàn thành một nửa số tác vụ với lộ trình chuyển sang con người là có thể triển khai; một tác tử được giới thiệu là đáng tin cậy thì không.

Chiết khấu ra mắt nằm ở đâu trong ngân sách thực tế

Giá niêm yết là 0,20 USD cho đầu vào và 0,70 USD cho đầu ra trên mỗi triệu token. Giá ra mắt bằng một nửa mức đó. Cả hai đều không phải là sai số làm tròn so với phân khúc mà Mercury hướng tới: Claude Haiku 5.5 niêm yết ở mức 1,00 USD và 5,00 USD, còn GPT-6 Luna là 0,10 USD và 0,50 USD. Vì vậy, Mercury 3 khi ra mắt được định giá ở mức thấp nhất của thị trường mà nó đang cạnh tranh, và ở giá niêm yết thì vẫn chỉ bằng khoảng một phần bảy mức giá đầu ra của Haiku 5.5.

Hãy tính toán trên khối lượng công việc giảm tải hỗ trợ là 20 triệu token đầu vào và 10 triệu token đầu ra mỗi ngày, tức một triển khai quy mô vừa chứ không phải thử nghiệm. Theo giá niêm yết, đó là $4 cho đầu vào và $7 cho đầu ra — $11 một ngày, khoảng $330 một tháng. Theo mức giá ra mắt thì là $5,50 một ngày. Khoản giảm giá đáng giá khoảng $165 một tháng ở khối lượng đó, và nó biến mất vào một ngày chưa ai công bố. Hãy xây dựng luận cứ dựa trên $330.

Đầu vào được lưu trong bộ nhớ đệm chính là phần thực sự tạo ra khác biệt trong bài toán chi phí của agent. Với giá niêm yết 0,02 đô-la cho mỗi triệu token, một phần mở đầu dài 20.000 token gồm prompt hệ thống và định nghĩa công cụ chỉ tốn 0,04 xu mỗi lần gọi thay vì 0,4 xu. Trong một lượt chạy agent gồm bốn mươi bước, đó là một xu rưỡi tiền phần mở đầu thay vì mười sáu xu — tự nó không mang tính đột phá, nhưng đó là khác biệt giữa một vòng lặp agent có chi phí bị chi phối bởi công việc của mô hình và một vòng lặp có chi phí bị chi phối bởi việc đọc lại hướng dẫn của chính nó.

Diffusion ở quy mô này vẫn chưa giải quyết được điều gì

Có ba điều đáng nói thẳng, vì cách trình bày khi ra mắt thì không.

Đầu tiên, không có phép đo độc lập nào. Tính đến ngày 20 tháng 10 năm 2026, Artificial Analysis — bộ khung đánh giá trung lập mà blog này dùng để so sánh giữa các mô hình — hoàn toàn không có trang nào cho Mercury 3. Các mục Mercury mới nhất của nó là 2.5 và 2, được đo ở khoảng 706 và 684 token mỗi giây. Mọi con số Mercury 3 đang lưu hành, bao gồm mọi con số trong bài viết này, đều bắt nguồn từ Inception.

Thứ hai, việc chỉ hỗ trợ văn bản giờ đây là một giới hạn thực sự chứ không còn thuần túy mang tính phong cách. Các đối thủ mà Mercury 3 được định giá để cạnh tranh trong phân khúc giá rẻ ngày càng đa phương thức, và cửa sổ ngữ cảnh dài mà nó vừa có được lại hữu ích nhất với những tài liệu đến dưới dạng PDF và ảnh chụp màn hình. Một cửa sổ 1 triệu token mà bạn chỉ có thể lấp đầy bằng văn bản được trích xuất thì có giá trị thấp hơn so với những gì bảng thông số gợi ý.

Thứ ba, thiết lập mức nỗ lực mặc định là thấp. Một mô hình trả lời ở mức nỗ lực thấp theo mặc định sẽ trông nhanh hơn và đạt điểm thấp hơn so với chính mô hình đó ở mức cao, và các tuyên bố so sánh của Inception không nêu rõ thiết lập nào đã tạo ra chúng. Bất kỳ ai đánh giá chuẩn Mercury 3 với bất cứ thứ gì cũng nên cố định rõ ràng tham số nỗ lực, nếu không thì phép so sánh không thể tái lập — kể cả khi so với chính các con số của Inception.

Làm thế nào để duy trì mô hình này mà không đặt cược lộ trình sản xuất vào nó

Mercury 3 không có trong danh mục của OrcaRouter. API mô hình của chúng tôi không trả về gì cho bất kỳ mô hình Inception nào — 209 mô hình chúng tôi định tuyến không bao gồm mô hình đó — vì vậy muốn gọi Mercury 3 thì phải đến nền tảng riêng của Inception, nơi tài khoản mới được nhận 100 triệu token miễn phí, hoặc đến một trong các nền tảng suy luận mà Inception liệt kê. Nói thẳng như vậy hữu ích hơn là ngụ ý về một tuyến mà chúng tôi không có.

Điều mà một router thực sự hữu ích ở đây là cấu trúc của việc triển khai chứ không phải mô hình. Mẫu hình phù hợp với một bản phát hành chưa được kiểm chứng nhưng nhanh bất thường là mẫu hai nhánh: gửi công việc nhạy cảm với độ trễ đến Mercury 3 bằng khóa của Inception, và giữ phần dự phòng cùng các trường hợp khó trên những mô hình mà chúng tôi thực sự cung cấp — hơn 200 mô hình trong số đó sau một endpoint tương thích OpenAI, ở giá niêm yết của nhà cung cấp với mức chênh lệch 0%, với tự động chuyển đổi dự phòng khi một nhà cung cấp suy giảm. Giá chuyển thẳng có ý nghĩa vì lý do giống như ưu đãi ra mắt: khi Inception kết thúc mức giảm 50%, mức giá của một mô hình được định tuyến sẽ thay đổi ngay ngày nhà cung cấp thay đổi nó, mà không cần đàm phán lại.

Lời tóm tắt trung thực sau một ngày là Mercury 3 là một kết quả mở rộng quy mô thực sự khoác lên mình một tiêu đề về tốc độ. Tuyên bố 40x là không thể kiểm chứng, tuyên bố về thông lượng không có bản tái lập trung lập, và tuyên bố về chất lượng mang tính so sánh với phân khúc nhanh chứ không phải định lượng. Nhưng hướng đi là rõ ràng: các mô hình ngôn ngữ khuếch tán từng là một sự tò mò về độ trễ ở ngữ cảnh 260K và một mô hình thế hệ 2.5, còn ở ngữ cảnh 1M và 40x số tham số, giờ đây chúng đã nằm trong khoảng giá mà phân khúc nhanh thực sự ngự trị. Con số cần theo dõi không phải là liệu 1.068 có tái lập được hay không. Mà là liệu chỉ số độc lập tiếp theo có đưa Mercury 3 vào cách GPT-6 Luna và Claude Haiku 5.5 vài điểm hay không — bởi nếu có, phân khúc rẻ sẽ thôi không còn là một phân khúc nữa mà trở thành một quyết định.