Gemma 4 31B Instruct là mô hình đa phương thức 30.7B dày đặc của Google DeepMind, hỗ trợ đầu vào văn bản và hình ảnh với đầu ra văn bản. Tích hợp cửa sổ ngữ cảnh 256K token, chế độ suy nghĩ/lý luận có thể cấu hình, chức năng gốc...
Google Gemma 4 31B là một biến thể được tinh chỉnh theo hướng dẫn của họ Gemma 4, được phát triển bởi Google. Nó có khoảng 31 tỷ tham số và được tối ưu hóa cho các tác vụ trò chuyện và làm theo hướng…
Gemma 4 31B được thiết kế để tuân theo chỉ dẫn, tạo văn bản và suy luận. Mô hình có thể hiểu các lời nhắc phức tạp, hội thoại nhiều lượt và các nhiệm vụ yêu cầu logic từng bước. Mô hình được tinh chỉnh theo hướng dẫn (instruction-tuned), nghĩa là nó đã được tinh chỉnh để tuân theo chỉ dẫn của người dùng và tạo ra các phản hồi hữu ích, mạch lạc. Nó hỗ trợ cả tương tác một lượt và nhiều lượt. Với 31 tỷ tham số, mô hình cân bằng giữa khả năng và tốc độ suy luận, phù hợp cho các ứng dụng thời gian thực nơi độ trễ là quan trọng.
Thông qua benchmark GPQA Diamond, chúng tôi biết mô hình hoạt động tốt trong các tác vụ suy luận chuyên môn cao về khoa học. Mô hình cũng có khả năng mạnh về sinh mã, tóm tắt và viết sáng tạo, mặc dù không có benchmark cụ thể nào cho các tác vụ đó trong các dữ kiện được cung cấp. Mô hình hoạt động hiệu quả nhất khi nhận được các hướng dẫn rõ ràng, có cấu trúc. Đối với các tác vụ yêu cầu ngữ cảnh rất dài hoặc sinh tăng cường truy xuất, người dùng nên kiểm tra giới hạn cửa sổ ngữ cảnh của mô hình, vì độ dài ngữ cảnh chính xác không được chỉ định trong dữ liệu được cung cấp.
Nếu tác vụ của bạn đơn giản—chẳng hạn như phân loại cơ bản, tạo văn bản ngắn hoặc phản hồi một câu—bạn có thể ưu tiên một mô hình nhỏ hơn, ít tốn kém hơn như Gemma 4 2B hoặc 9B. Phiên bản 31B có chi phí token cao hơn, mặc dù vẫn còn khiêm tốn. Đối với các ứng dụng thông lượng cao, nơi độ trễ là yếu tố quan trọng, một mô hình nhỏ hơn cũng có thể nhanh hơn. Ngoài ra, nếu trường hợp sử dụng của bạn không yêu cầu khả năng suy luận chặt chẽ như được đo lường bởi GPQA Diamond, một mô hình đa năng rẻ hơn có thể cung cấp hiệu suất đầy đủ với chi phí thấp hơn.
Không có giới hạn cụ thể nào được liệt kê trong các dữ kiện được cung cấp. Tuy nhiên, như nhiều mô hình open-weight được tinh chỉnh theo hướng dẫn, Gemma 4 31B có thể tạo ra kết quả đầu ra không chính xác hoặc thiên lệch, đặc biệt là về các chủ đề mơ hồ hoặc gây tranh cãi. Mô hình này cũng có thể gặp khó khăn với các tác vụ yêu cầu thông tin thời gian thực hoặc các sự kiện rất gần đây do giới hạn về dữ liệu huấn luyện. Kích thước cửa sổ ngữ cảnh của mô hình không được tiết lộ; nếu nó bị giới hạn (ví dụ: 8K-32K), mô hình có thể không phù hợp với các tài liệu rất dài. Người dùng luôn nên xác minh kết quả đầu ra trong các ứng dụng có rủi ro cao.
GPQA Diamond là một tập dữ liệu gồm các câu hỏi trắc nghiệm ở cấp độ sau đại học, bao gồm sinh học, vật lý và hóa học. Điểm số 85.7% có nghĩa là Gemma 4 31B đã trả lời đúng hơn 85% số câu hỏi này. Đây là một kết quả ấn tượng, cho thấy mô hình có kiến thức chuyên sâu và khả năng suy luận mạnh mẽ. Cần lưu ý rằng benchmark này là dạng trắc nghiệm, do đó không đánh giá trực tiếp khả năng sinh văn bản, nhưng nó tương quan với khả năng ghi nhớ và suy luận về nội dung cấp độ chuyên gia của mô hình.
Không có điểm số benchmark bổ sung nào được cung cấp trong các dữ kiện đã cho. Chỉ có một điểm số benchmark định lượng được chia sẻ là điểm GPQA Diamond là 85.7. Để hiểu đầy đủ hơn về khả năng của mô hình, người dùng nên tham khảo báo cáo kỹ thuật chính thức của Google hoặc thẻ mô hình. OrcaRouter không tự xác minh hoặc thêm các benchmark. Mô hình có thể hoạt động khác trên các bài đánh giá khác như MMLU, HumanEval hoặc GSM8K, nhưng các con số đó không được bao gồm ở đây.
Các số liệu cụ thể về tốc độ suy luận hoặc độ trễ không được cung cấp trong các dữ kiện đã cho. Là một mô hình 31B tham số, nó lớn hơn các biến thể 9B và 2B của Gemma 4, vì vậy nó thường sẽ chậm hơn trên mỗi token và yêu cầu nhiều bộ nhớ GPU hơn. Độ trễ thực tế phụ thuộc vào phần cứng (ví dụ: loại GPU, kích thước batch) và cơ sở hạ tầng của nhà cung cấp. Khi truy cập qua OrcaRouter, bạn phải tuân theo cơ sở hạ tầng phục vụ của Google. Đối với các ứng dụng yêu cầu độ trễ thấp, chúng tôi khuyến nghị kiểm tra thời gian phản hồi của mô hình với khối lượng công việc dự kiến của bạn.
Điểm GPQA Diamond đạt 85,7% cho thấy hiệu suất mạnh mẽ, nhưng chưa hoàn hảo—mô hình vẫn bỏ lỡ 14,3% câu hỏi, nghĩa là có thể không đáng tin cậy cho tất cả các truy vấn chuyên gia. Benchmark này không đo lường khả năng suy luận ngữ cảnh dài, hiệu suất đa ngôn ngữ, hay tính an toàn. Do đó, mặc dù điểm số rất ấn tượng, nhưng không nên hiểu đó là sự đảm bảo về khả năng suy luận hoàn hảo trên mọi nhiệm vụ. Người dùng cần cân nhắc hiệu suất của mô hình trong lĩnh vực cụ thể mà họ dự định áp dụng.
Giá là $0.13 cho mỗi 1 triệu token đầu vào và $0.38 cho mỗi 1 triệu token đầu ra. Đây là tỷ lệ của nhà cung cấp được OrcaRouter tính phí mà không thêm phụ phí. Token được đếm theo bộ token hóa của Google; token đầu vào bao gồm toàn bộ prompt và bất kỳ tin nhắn hệ thống nào, trong khi token đầu ra là văn bản được tạo ra. Không có phí bổ sung cho mỗi yêu cầu hoặc cam kết hàng tháng. Cách định giá trực tiếp theo token này giúp dễ dàng ước tính chi phí dựa trên khối lượng sử dụng của bạn.
Các sự kiện được cung cấp không đề cập đến bất kỳ giảm giá bộ nhớ đệm hoặc giá theo khối lượng nào. OrcaRouter có thể cung cấp bộ nhớ đệm cho các token đầu vào lặp lại để giảm chi phí, nhưng điều đó không được chỉ định ở đây. Bạn nên kiểm tra tài liệu của OrcaRouter hoặc liên hệ với bộ phận hỗ trợ của họ để biết chi tiết về các tính năng tối ưu hóa chi phí. Giá cơ bản là $0,13/$0,38 trên một triệu token được áp dụng theo mặc định. Đối với mức sử dụng rất cao, bạn có thể hỏi về các thỏa thuận doanh nghiệp tiềm năng, nhưng không có điều khoản nào như vậy được bao gồm trong dữ liệu này.
Nếu bạn sử dụng Gemma 4 2B hoặc 9B, chi phí cho mỗi token sẽ thấp hơn, thường trong khoảng $0,02–$0,10 cho mỗi triệu token. Mô hình 31B đắt hơn nhưng cung cấp khả năng suy luận cao hơn như được chỉ ra bởi điểm GPQA Diamond. Đối với các tác vụ không yêu cầu suy luận ở cấp độ chuyên gia, chi phí thêm có thể không được biện minh. Ngược lại, đối với các ứng dụng yêu cầu độ chính xác cao, việc đầu tư vào mô hình 31B có thể giảm nhu cầu kiểm tra thủ công, từ đó có thể hạ thấp tổng chi phí.
OrcaRouter chuyển tiếp trực tiếp mức giá chính xác của nhà cung cấp mà không có bất kỳ khoản chênh lệch nào. Đối với Gemma 4 31B của Google, điều đó có nghĩa là bạn trả trực tiếp 0,13 USD cho mỗi triệu token đầu vào và 0,38 USD cho mỗi triệu token đầu ra. Không có thêm phí dịch vụ hay biên lợi nhuận nền tảng nào. OrcaRouter kiếm tiền thông qua các cách khác (ví dụ: đăng ký doanh nghiệp hoặc vượt mức sử dụng), nhưng đối với mô hình này, mức giá bạn thấy chính là số tiền Google tính. Sự minh bạch này cho phép bạn so sánh chi phí trực tiếp với các nhà cung cấp khác.
Bạn sử dụng một thư viện client tương thích với OpenAI với URL cơ sở https://api.orcarouter.ai/v1 và ID mô hình "google/gemma-4-31b-it". Ví dụ, sử dụng OpenAI Python SDK, đặt `openai.api_base = "https://api.orcarouter.ai/v1"` và `openai.api_key = "your-orcarouter-api-key"`. Sau đó gọi `openai.ChatCompletion.create(model="google/gemma-4-31b-it", messages=[{"role":"user","content":"Hello"}])`. API hỗ trợ các tham số giống như endpoint chat của OpenAI, chẳng hạn như temperature, max_tokens, và top_p.
API của OrcaRouter hỗ trợ các tham số tương thích OpenAI tiêu chuẩn: `model`, `messages`, `temperature` (0–2, mặc định 1), `max_tokens` (số nguyên, lên đến giới hạn của mô hình), `top_p` (0–1, mặc định 1), `frequency_penalty`, `presence_penalty`, chuỗi `stop` và `stream` (boolean). Tham số `n` (số lượng completions) cũng có thể được hỗ trợ nhưng có giới hạn sử dụng. Lưu ý rằng các tham số cụ thể của Gemma 4 như `repetition_penalty` có thể được hỗ trợ thông qua các khóa body bổ sung; hãy tham khảo tài liệu OrcaRouter để biết các tham số tùy chỉnh của nhà cung cấp.
Vâng, việc di chuyển rất đơn giản nếu bạn đã sử dụng API tương thích với OpenAI. Bạn chỉ cần thay đổi tham số `model` thành "google/gemma-4-31b-it" và trỏ đến URL gốc của OrcaRouter. Lưu ý rằng token hóa và định dạng đầu ra có thể khác một chút so với các mô hình khác. Bạn nên kiểm tra phản hồi của mô hình trên một mẫu các prompt của mình để đảm bảo chất lượng. Cũng lưu ý rằng cấu trúc giá khác với các mô hình của OpenAI, và bạn có thể cần điều chỉnh kỳ vọng chi phí cho phù hợp.
OrcaRouter yêu cầu một khóa API được gửi trong header `Authorization` dưới dạng `Bearer <your-api-key>`. Bạn có thể lấy khóa bằng cách đăng ký tại trang web của OrcaRouter. Khóa này dùng để xác thực các yêu cầu của bạn và định tuyến chúng đến nhà cung cấp phù hợp. Đảm bảo giữ khóa của bạn an toàn. API không hỗ trợ các phương thức xác thực khác. Đối với các yêu cầu streaming, cùng một khóa được sử dụng. Không có hạn chế IP bổ sung nào trừ khi được chỉ định trong tài khoản OrcaRouter của bạn.
Gemma 4 9B là một mô hình nhỏ hơn, rẻ hơn—thường được định giá khoảng $0.02–$0.10 mỗi triệu token—và có thể có điểm chuẩn thấp hơn. Biến thể 31B, với số lượng tham số gấp 3.4 lần, đạt 85.7% trên GPQA Diamond; điểm số của 9B không được cung cấp nhưng được cho là thấp hơn. Mô hình 31B cung cấp khả năng suy luận tốt hơn nhưng với chi phí cao hơn và độ trễ có thể cao hơn. Đối với các tác vụ đơn giản, 9B có thể đủ dùng; đối với các câu hỏi cấp chuyên gia, 31B là lựa chọn tốt hơn. Cả hai đều được truy cập qua cùng một API OrcaRouter.
Các điểm chuẩn so sánh trực tiếp không được cung cấp. Tuy nhiên, Llama 3.1 70B là một mô hình lớn hơn (70B tham số) và thường có hiệu suất cao hơn trên các điểm chuẩn chung, nhưng cũng có chi phí cao hơn trên mỗi token. Gemma 4 31B hiệu quả hơn và có thể cạnh tranh trong các suy luận theo lĩnh vực cụ thể như GPQA. Kích thước 31B khiến nó hấp dẫn để triển khai trên GPU cấp tiêu dùng. Người dùng nên đánh giá trên các tác vụ của riêng họ. OrcaRouter có thể cung cấp cả hai mô hình để so sánh trực tiếp.
Gemma 4 31B là một mô hình trọng số mở theo giấy phép Gemma của Google, cho phép sử dụng miễn phí cho hầu hết các ứng dụng. Tuy nhiên, khi truy cập thông qua OrcaRouter, bạn phải tuân theo các điều khoản dịch vụ của OrcaRouter và trả phí theo token. Bạn cũng có thể tự chạy mô hình trên phần cứng của riêng mình nếu có đủ tài nguyên. OrcaRouter cung cấp giải pháp lưu trữ thay thế, tránh được chi phí hạ tầng. Sự lựa chọn giữa tự lưu trữ và sử dụng OrcaRouter phụ thuộc vào ngân sách, yêu cầu về độ trễ và sở thích vận hành của bạn.
OrcaRouter cung cấp một điểm cuối API thống nhất cho nhiều nhà cung cấp, bao gồm Google. Nếu bạn sử dụng Vertex AI hoặc AI Platform của riêng Google, bạn có thể nhận được mức giá khác, có thể thấp hơn cho khối lượng lớn. Mức markup bằng 0 của OrcaRouter có tính cạnh tranh cho mức sử dụng vừa phải. Lợi thế chính của OrcaRouter là API tương thích OpenAI duy nhất cho nhiều mô hình, giúp đơn giản hóa việc tích hợp. Đối với người dùng đã sử dụng Google Cloud, truy cập trực tiếp có thể cung cấp tích hợp tốt hơn với các dịch vụ khác. OrcaRouter không lưu trữ dữ liệu của bạn ngoài việc ghi nhật ký API tiêu chuẩn; hãy kiểm tra chính sách bảo mật của họ để biết chi tiết.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="google/gemma-4-31b-it",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)| Đầu vào / 1M tokens | $0.130 |
| Đầu ra / 1M tokens | $0.380 |
| Đọc cache / 1M | $0.020 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/google/gemma-4-31b-itMở @misc{orcarouter_gemma_4_31b_it,
title = {Gemma 4 31B API},
author = {Google},
year = {2026},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/google/gemma-4-31b-it}
}Google. (2026). Gemma 4 31B API. OrcaRouter. https://www.orcarouter.ai/models/google/gemma-4-31b-it