Cách sử dụng Gemini 4 Carbon: Thiết lập API, tham số và chi phí

Gemini 4 Carbon là mô hình đa phương thức của Google trong dòng Gemini 4, và trên OrcaRouter có thể truy cập nó chỉ với một khóa: id mô hình là google/gemini-4-carbon, giá niêm yết là $2.00 trên một triệu token đầu vào và $10.00 trên một triệu token đầu ra, và trang Gemini 4 Carbon API chứa các con số trực tiếp. Phần tiếp theo là thiết lập thực sự hiệu quả, theo thứ tự bạn sẽ gặp: endpoint, cấu trúc yêu cầu, bộ tham số, chi phí, rồi đến các con số độ trễ mà bạn nên dự phòng trước khi đưa nó ra trước người dùng.

Những gì mô hình chấp nhận

Cửa sổ ngữ cảnh là 1.048.576 token và giới hạn đầu ra là 65K token mỗi phản hồi, đây là điều đầu tiên cần ghi nhớ: một tài liệu rất lớn vẫn vừa trong lời nhắc, nhưng câu trả lời bị giới hạn thấp hơn nhiều so với đầu vào. Các phương thức đầu vào là văn bản, hình ảnh, âm thanh, video và tài liệu; đầu ra là văn bản. Sử dụng công cụ gốc và gọi hàm được hỗ trợ, cũng như đầu ra JSON có cấu trúc, đây là điều khiến nó có thể dùng được bên trong vòng lặp tác nhân chứ không chỉ như một hộp trò chuyện.

Zero Data Retention có sẵn trên mô hình này. Khi bật ZDR, các yêu cầu chỉ được gửi đến các nhà cung cấp thượng nguồn có thỏa thuận không lưu giữ dữ liệu, vì vậy nếu nhóm mua sắm của bạn cần điều đó bằng văn bản, thì đó là một cài đặt định tuyến chứ không phải một hợp đồng riêng.

Điểm cuối một: đường dẫn tương thích OpenAI

Đây là hướng đi nếu bạn đã có mã đang chạy với bất kỳ ứng dụng khách OpenAI nào. Trỏ SDK đến OrcaRouter, giữ nguyên model id và không có gì khác trong yêu cầu của bạn thay đổi. Ví dụ bên dưới là toàn bộ chương trình:

Đặt URL cơ sở thành https://api.orcarouter.ai/v1, đọc khóa từ biến môi trường thay vì giá trị literal, và truyền google/gemini-4-carbon làm model. Ba dòng đó hoạt động với SDK Python, TypeScript và Go, vì định dạng truyền tải là Chat Completions.

Điểm cuối thứ hai: generateContent gốc

Nếu ngăn xếp của bạn được xây dựng trên Gemini SDK thay vì một ứng dụng khách OpenAI, Carbon vẫn phản hồi theo cách gốc tại /v1beta/models/{model}:generateContent trên cùng máy chủ. Hệ quả thú vị là bạn có thể di chuyển một khối lượng công việc từng yêu cầu một: chạy đường dẫn tương thích OpenAI cho các dịch vụ dùng chung mã với các nhà cung cấp khác, và chạy đường dẫn gốc ở nơi bạn đã phụ thuộc vào các trường đặc thù của Gemini. Cả hai đều tính phí vào cùng một khóa và cùng một số dư, đó chính là lý do nên dùng một cổng thay vì một tập tài khoản nhà cung cấp.

Các tham số được tuân thủ

Trang mô hình liệt kê rõ ràng tập hợp được hỗ trợ: include_reasoning, max_tokens, reasoning, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools và top_p. Danh sách đó chính là hợp đồng. Nếu bạn đang chuyển một yêu cầu từ nhà cung cấp khác, hãy kiểm tra nó trước khi gửi đi, vì những tham số bạn theo thói quen hay dùng — các số hạng phạt, độ lệch logit, cả tá núm điều chỉnh lấy mẫu — không có trong đó.

Hai trong số đó quan trọng hơn những cái còn lại. structured_outputs cộng với response_format chính là thứ biến một tài liệu 200.000 token thành một bản ghi mà mã hạ nguồn của bạn có thể đọc mà không cần trình phân tích cú pháp do chính bạn viết. Và include_reasoning là cách bạn tìm ra mô hình đã làm gì trước khi trả lời; hãy tắt nó trong môi trường sản xuất, nếu không bạn đang giao lược đồ của mình cho một bước không minh bạch.

Chi phí của một yêu cầu là bao nhiêu

Đầu vào là $2.00 mỗi triệu token và đầu ra là $10.00 mỗi triệu token, với lượt đọc từ bộ nhớ đệm ở mức $0.100 mỗi triệu. Một ví dụ cụ thể: một hợp đồng 40.000 token cộng với một lần trích xuất có cấu trúc 2.000 token tính phí $0.08 cho đầu vào và $0.02 cho đầu ra, tức mười xu một tài liệu. Thay vào đó, cùng 40.000 token đó nếu đọc từ bộ nhớ đệm chỉ tính phí $0.004, đó là lý do mục bộ nhớ đệm quan trọng với bất kỳ quy trình làm việc nào đọc lại cùng một kho ngữ liệu.

Để dễ hình dung quy mô, cùng một tài liệu 40.000 token với Gemini 3.1 Pro tốn chi phí đầu vào như nhau nhưng đầu ra cao hơn 20 phần trăm, còn với Gemini 3 Flash thì tốn bằng một phần tư cho cả hai — lựa chọn giữa chúng là về phương thức và ngữ cảnh chứ không phải về giá đầu vào, vốn giống hệt nhau giữa Carbon và 3.1 Pro. Bảng phân tích API LLM miễn phí là nơi để so sánh điều đó với phần còn lại của danh mục.

Hai con số độ trễ mang ý nghĩa khác nhau

Trang mô hình riêng của OrcaRouter báo cáo bảy ngày gần nhất của lưu lượng trực tiếp: thời gian đến token đầu tiên ở p50 là 6,89 giây, p95 là 10,00 giây, và tốc độ đầu ra 226 token mỗi giây, với hơn 9,6 triệu token được phục vụ. Đó là những gì một bên gọi tương tác trải nghiệm qua cổng.

Artificial Analysis báo cáo 64,7 giây để có token đầu tiên và 28,4 phút thời gian thực cho mỗi tác vụ đối với cùng một mô hình. Hai con số này không xung đột; chúng là những phép đo khác nhau. AA chạy một bộ khung đánh giá cố định yêu cầu mô hình suy nghĩ bao lâu tùy thích trên chín benchmark khó, nên đồng hồ bao gồm cả phần suy luận, không chỉ mạng và prefill. Nếu bạn trích một con số mà không có con số kia, bạn sẽ hoặc hứa hẹn quá mức về khả năng tương tác, hoặc làm một người mua lẽ ra vẫn ổn lại sợ bỏ đi.

Lưu ý vận hành trung thực là tỷ lệ lỗi: 39,7 phần trăm yêu cầu trả về trạng thái non-2xx trên tất cả nhà cung cấp upstream trong cửa sổ bảy ngày đó, so với 10,8 phần trăm của Claude Fable 5.2 trong cùng kỳ. Hãy xây dựng luồng thử lại và dự phòng trước khi ra mắt, không phải sau sự cố đầu tiên, và đọc ghi chú phát hành Gemini 4 Carbon để biết những gì đã thay đổi khi nó ra mắt.

Carbon phù hợp ở đâu khi nó đang chạy

Những khối lượng công việc biện minh cho nó là những khối cần cửa sổ 1M và nhiều hơn một phương thức: toàn bộ cơ sở mã, bản ghi dài có nhiều người nói, PDF quét cùng với văn bản trích xuất của chúng. Nếu bạn đang cân nhắc giữa các mô hình Google, Gemini 4 Carbon vs Gemini 3.1 Pro là so sánh trực tiếp; nếu phương án thay thế là một nhà cung cấp hoàn toàn khác, GPT-6.1 Sol vs Gemini 4 Carbon bao quát cùng quyết định đó từ phía ngược lại.

Nếu bạn vẫn đang lắp ghép một stack thay vì di chuyển một khối lượng công việc, thì danh sách mô hình LLM có danh mục hiện tại với id và giá, và trang mô hình được liên kết ở trên là trang cần kiểm tra trước khi bạn mã hóa cứng bất cứ thứ gì — giá và endpoint thay đổi.

Danh sách kiểm tra

Lưu khóa trong biến môi trường, không lưu trong kho lưu trữ. Chọn endpoint khớp với SDK bạn đã phát hành. Chỉ gửi các tham số trong danh sách được hỗ trợ, và dùng response_format cùng structured_outputs khi đầu ra được đưa vào mã. Đặt ngân sách đầu ra ở 65K token và lưu đệm mọi thứ trên 20K mà bạn đọc hơn hai lần. Kỳ vọng p50 gần bảy giây và lên kế hoạch cho số ít lệnh gọi trả về lỗi. Sau đó đo trên lưu lượng của chính bạn, vì biểu đồ benchmark chỉ là điểm khởi đầu và phân phối yêu cầu của bạn là thứ duy nhất quyết định liệu đó có phải lựa chọn đúng.