Mercury 3 vs GPT-6 Astra: Giá đầu ra gấp 28 lần, mua từng mức nỗ lực một

Mercury 3 và GPT-6 Astra chênh nhau 28 lần về giá đầu ra — $0.35 mỗi triệu trong cửa sổ ra mắt của Inception so với $50.00 từ OpenAI — và chênh khoảng 18 lần về thông lượng theo chiều ngược lại. Hai con số đó dễ trích dẫn và gần như vô dụng nếu đứng một mình, vì Astra không phải một mô hình với một mức giá. Nó là một thang bậc suy luận: năm mức nỗ lực, điểm chỉ số tăng từ 46 ở đáy lên 53 ở đỉnh, và hóa đơn cũng tăng theo. Mercury 3 cũng có một kiểu thang bậc — bốn thiết lập nỗ lực và một mặc định ở đáy — nhưng không có điểm độc lập ở bất kỳ mức nào. Vậy câu hỏi thực sự trong màn so tài này không phải liệu Astra có đáng gấp 28 lần Mercury 3 hay không. Mà là bạn thực sự cần leo bao xa trên thang của Astra, và liệu công việc bạn đang làm có cần đến một thang bậc hay không. Các sự cố AI và sự cố agent đã được ghi nhận đằng sau những bản phát hành như bản này được tập hợp trong OrcaRouter AI Incident Archive trong đó mỗi mục đều có nguồn riêng, mức độ nghiêm trọng, cấp độ tin cậy và cờ tranh chấp.

Con số quyết định điều này, và đó không phải là giá cả.

Artificial Analysis đo GPT-6 Astra đạt 53 trên Intelligence Index của mình ở thiết lập nỗ lực tối đa của mô hình, xếp thứ bảy trong số 216 mô hình trong chỉ số, với khoảng 3,26 USD chi phí tính toán cho mỗi tác vụ chỉ số. Chạy cùng bộ kiểm thử ở thiết lập nỗ lực thấp nhất thì điểm là 46. Năm bậc, theo thứ tự, là 46, 50, 51, 52 và 53.

Hãy đọc lại cái thang đó hai lần. Cách đọc thứ nhất là bậc trên cùng chỉ cao hơn bậc dưới cùng bảy điểm, trong một bộ đánh giá mà bảy điểm là con số lớn — các mô hình dưới Astra và các mô hình trên nó được phân tách bởi những khoảng cách nhỏ hơn thế. Cách đọc thứ hai là bậc thứ tư, ở mức 52, chỉ cách đỉnh trong vòng một điểm và có lẽ rẻ hơn. Nếu tác vụ của bạn không cần điểm cuối cùng, bạn không phải đang chọn giữa Mercury 3 và một mô hình 53 điểm; bạn đang chọn giữa Mercury 3 và một mô hình 52 điểm, và cái giá để đạt tới đó là một tham số chứ không phải một mô hình khác.

Mercury 3 không đưa ra lựa chọn như vậy, vì không có gì để hướng tới. Không có điểm chỉ số ở mức tức thời, thấp, trung bình hay cao. Tuyên bố so sánh của chính Inception — rằng Mercury 3 vượt trội GPT-6 Luna và Claude Haiku 5.5 — là một tuyên bố về tầng nhanh, được đưa ra mà không có biên độ, và kết quả chất lượng có cấu trúc duy nhất của nó là 50% hoàn thành trên 50 tác vụ điều hướng Mind2Web trực tiếp bên trong bộ khung tác tử của chính nó. Đó là một kết quả thật và là một mẫu nhỏ, và nó không cho bạn biết Mercury 3 sẽ đứng ở đâu trên một chỉ số gồm 216 mô hình nếu nó được đưa vào ngày mai.

Một token đầu ra giá $50 thực sự chứa những gì

GPT-6 Astra nhận văn bản, hình ảnh và tệp, có cửa sổ ngữ cảnh 1.05M token và trả về tối đa 128K token. Bảng giá tiêu chuẩn của nó là $10.00 mỗi triệu token đầu vào và $50.00 mỗi triệu token đầu ra, với đầu vào đã cache ở mức $1.00. Khi vượt 272.000 token đầu vào, toàn bộ yêu cầu được tính lại giá ở mức $20.00 và $75.00, đầu vào đã cache ở mức $2.00 — ranh giới này không phải một bậc biên, mà là một công tắc nhân đôi toàn bộ hóa đơn. Xử lý theo lô và flex giảm một nửa mức giá; chế độ nhanh tăng gấp đôi. Suy luận luôn bật và chạy từ mức thấp đến tối đa.

Đoạn văn đó chứa hai cái bẫy. Ranh giới 272.000 token nghĩa là một yêu cầu 280.000 token tốn gấp đôi chi phí của một yêu cầu 270.000 token, mà không có bất kỳ khoản bù trừ một phần nào — vì vậy việc cắt gọt ngữ cảnh gần ranh giới đáng được đầu tư nhiều công sức kỹ thuật hơn mức mà hầu hết các nhóm dành cho nó. Và thứ mà OpenAI tiếp thị là “GPT-6 Astra Pro” không phải một mô hình riêng hay một SKU riêng; đó là thiết lập pro của núm điều chỉnh suy luận, nghĩa là có thể truy cập từ cùng endpoint với cùng mức giá và không phải thứ bạn cần một hợp đồng mới để sử dụng.

Mercury 3, để so sánh, có giá niêm yết là $0.20 và $0.70, giảm một nửa trong giai đoạn ra mắt xuống còn $0.10 và $0.35, với đầu vào được lưu trong bộ nhớ đệm ở mức $0.02 và $0.01. Một cửa sổ ngữ cảnh 1M token, một đầu ra tối đa 131,072, không có bậc, không có ranh giới, không có hệ số nhân theo lô. Bảng giá chỉ dài bốn dòng. Sự đơn giản đó tự nó đã có giá trị — một mô hình chi phí bạn có thể nắm gọn trong đầu sẽ không bị trôi lệch.

Mô hình chi phí không ai áp dụng: token cho mỗi tác vụ, chứ không phải giá mỗi token

Giá mỗi token của Astra là con số ít thú vị nhất về chi phí của Astra. Artificial Analysis báo cáo rằng một lần chạy Intelligence Index đầy đủ trên Astra tiêu thụ tổng cộng khoảng 60 triệu token đầu ra, và một tác vụ chỉ mục tốn khoảng $3,26. Chia cái này cho cái kia và bạn sẽ có tỷ lệ đáng quan tâm: Astra chi rất nhiều cho việc suy nghĩ trước khi chi bất cứ thứ gì cho việc trả lời.

Mercury 3 có giá thấp hơn Astra 14 lần khi ra mắt và thấp hơn 71 lần theo giá niêm yết của Mercury so với mức giá tiêu chuẩn của Astra. Nhưng việc so sánh giá trên mỗi token giả định hai mô hình phát ra số lượng token tương đương cho cùng một tác vụ, và mọi điều đã biết về giải mã khuếch tán đều cho thấy chúng không như vậy. Một mô hình khuếch tán giải quyết một khối vị trí qua một số lượt khử nhiễu cố định; độ dài đầu ra của nó là thuộc tính của câu trả lời, không phải của một đoạn độc thoại nội bộ trải ra trước câu trả lời. Độ dài đầu ra của Astra bị chi phối bởi đoạn độc thoại.

Điều đó cắt theo cả hai hướng, và cả hai nhát cắt đều đáng được nêu rõ. Trong một tác vụ nặng về lý luận, nơi Astra tiêu tốn 100.000 token lý luận để có câu trả lời đúng, lợi thế của Mercury 3 lớn hơn nhiều so với 14 lần, vì Mercury 3 không phải trả giá cho màn độc thoại đó chút nào — dù liệu nó có đạt được cùng câu trả lời mà không cần độc thoại hay không lại chính là câu hỏi mở. Trong một tác vụ trả lời ngắn, nơi Astra trả lời trong ba trăm token với nỗ lực thấp, màn độc thoại không hề xảy ra, và phép so sánh thu gọn về bảng giá: 14 lần khi ra mắt, 71 lần theo giá niêm yết của Mercury.

Hãy đặt một khối lượng công việc thực tế lên đó. Mười triệu token đầu vào và hai triệu token đầu ra mỗi ngày, một hỗn hợp hỗ trợ và tóm tắt. Với Astra theo giá tiêu chuẩn, đó là 100 đô la đầu vào và 100 đô la đầu ra — 200 đô la một ngày, khoảng 6.000 đô la một tháng. Với Mercury 3 theo giá niêm yết, đó là 2 đô la và 1,40 đô la — 3,40 đô la một ngày, khoảng 102 đô la một tháng. Với giá ra mắt, lại chỉ bằng một nửa. Cùng lưu lượng, chi phí gấp 59 lần, và câu hỏi liệu câu trả lời của Astra có tốt hơn 59 lần hay không là điều hiện chưa ai có thể trả lời bằng một con số.

Router thực sự phát huy tác dụng ở đâu trong cuộc đối đầu này

GPT-6 Astra có trong danh mục OrcaRouter. Có thể truy cập nó qua cùng endpoint tương thích OpenAI như các mô hình còn lại mà chúng tôi định tuyến, theo giá niêm yết của OpenAI mà phía chúng tôi không cộng thêm gì — $10.00 đầu vào, $50.00 đầu ra, $1.00 cho bộ nhớ đệm, và bậc ngữ cảnh dài ở mức $20.00 và $75.00 khi vượt ngưỡng 272.000 token — với cả chat completions và Responses API đều có sẵn, tùy thuộc vào dạng mà mã của bạn đang dùng.

Mercury 3 không có trong danh mục. API mô hình của chúng tôi không trả về gì cho bất kỳ mô hình Inception nào, nên gọi nó đồng nghĩa với việc phải đến nền tảng riêng của Inception, nơi tài khoản mới hiện nhận 100 triệu token miễn phí, hoặc đến một trong các nền tảng suy luận mà Inception liệt kê. Chúng tôi thà nói vậy còn hơn để một bài so sánh ngụ ý một lối đi mà chúng tôi không có.

Thứ mà lớp định tuyến mang lại cho bạn ở đây là một nút điều chỉnh thứ hai, khác loại so với các mức nỗ lực của Astra. Năm mức nỗ lực là nút điều chỉnh của riêng Astra, và leo lên nấc nào cũng tốn tiền. Định tuyến cho phép bạn chọn mức độ hiếm khi bạn phải trả tiền cho Astra: gửi phần lớn lưu lượng đến một mô hình trong tầng nhanh mà chúng tôi có định tuyến — GPT-6 Luna với giá $0.10 và $0.50, hoặc Claude Haiku 5.5 với giá $1.00 và $5.00 — và dành Astra ở mức high hoặc max cho phần nhỏ các yêu cầu thực sự khó, với chuyển đổi dự phòng tự động nếu một nhà cung cấp bị suy giảm và DSL định tuyến để diễn đạt việc phân tách thành một quy tắc thay vì một nhánh mã. Khoản tiết kiệm không nằm ở mức giá của Astra; mà nằm ở việc bạn tránh được nó thường xuyên đến đâu.

Nhân đây, đó cũng là cách trung thực để đánh giá Mercury 3. Hãy đặt nó vào lộ trình hạng nhanh cùng với Luna và Haiku 5.5, đúng vị trí mà so sánh của chính Inception dành cho nó, rồi xem liệu nó có thắng trên các tác vụ của bạn hay không. So sánh trực tiếp nó với Astra là so sánh một mô hình không có điểm chỉ số với một mô hình ở bậc thứ bảy của một chỉ số gồm 216 mô hình, và kết quả sẽ cho bạn biết nhiều hơn về sự lệch pha ấy hơn là về bản thân mỗi mô hình.

Một chi tiết mà lớp định tuyến không nên làm tròn — và chúng tôi thì không: bảng giá của Astra có ranh giới ở 272.000 token đầu vào, khiến toàn bộ yêu cầu được định giá lại, cùng một chế độ theo lô giúp giảm một nửa chi phí. Đó không phải những điều chỉnh nhỏ nhặt, và một cơ chế chuyển tiếp theo giá niêm yết chỉ đáng có nếu nó cũng chuyển tiếp cả những phần khó xử.

Sự so sánh có thể giải quyết điều đó

Điều có thể phân xử Mercury 3 vs GPT-6 Astra không phải là một bài đăng ra mắt và cũng không phải bài viết này. Đó là một con số: vị trí của Mercury 3 trên chính chỉ số mà Astra có mặt, ở một thiết lập effort được nêu rõ, trên cùng bộ đánh giá, được đo bởi một người không phải Inception. Cho đến khi điều đó tồn tại, mọi so sánh giữa hai bên đều là so sánh giữa một mô hình đã được đo và một mô hình chưa được đo, và mô hình đã được đo theo mặc định nên được ưu tiên tin tưởng — không phải vì nể phục O​penAI, mà vì một điểm số bạn có thể kiểm chứng đáng giá hơn một con số thông lượng bạn không thể.

Trong lúc này, cách tiếp cận hữu ích chính là cách mà chiếc thang của chính Astra gợi ý. Hầu hết công việc không cần đến nấc cao nhất của bất cứ thứ gì. Hãy dồn phần lớn lưu lượng của bạn vào mô hình rẻ nhất đáp ứng được ngưỡng chất lượng của bạn, giữ nấc đắt tiền cho những yêu cầu không đạt ngưỡng đó, và coi Mercury 3 là ứng viên cho con đường rẻ chứ không phải phương án thay thế cho con đường đắt. Nếu hóa ra nó đáp ứng được ngưỡng với mức giá chỉ bằng một phần mười bốn, bạn sẽ phát hiện điều đó trên chính các tác vụ của mình — bộ tác vụ duy nhất mà bạn thực sự có thể hành động dựa trên kết quả.