Gemini Pro đa phương thức mới nhất của Google thông qua API của OrcaRouter với giá nhà cung cấp, không tăng giá.
Google Gemini Pro Latest là phiên bản mới nhất của mô hình Gemini Pro của Google, có thể truy cập thông qua API tương thích với OpenAI của OrcaRouter. Đây là mô hình đa phương thức, chấp nhận đầu vào…
Mô hình có thể xử lý và suy luận trên văn bản, hình ảnh, âm thanh, video và tệp trong một yêu cầu duy nhất. Ví dụ: bạn có thể cung cấp một hình ảnh biểu đồ, một bản ghi âm cuộc họp và một câu hỏi dạng văn bản, và mô hình sẽ tổng hợp thông tin từ tất cả các nguồn để tạo ra câu trả lời mạch lạc. Mô hình cũng có khả năng tạo phản hồi văn bản dài lên đến 65.536 token, phù hợp cho các tác vụ như viết báo cáo chi tiết, tạo mẫu mã code hoặc sản xuất tài liệu mở rộng. So với các mô hình nhỏ hơn, rẻ hơn, Gemini Pro Latest cung cấp khả năng nền tảng đa phương thức vượt trội và dung lượng đầu ra lớn hơn, nhưng chi phí cao hơn đồng nghĩa với việc chỉ nên dành cho các tác vụ thực sự cần đến khả năng tiên tiến của nó.
Đối với các tác vụ chỉ liên quan đến văn bản và không yêu cầu đầu ra dài, một mô hình nhỏ hơn như Gemini 1.5 Flash hoặc biến thể chỉ văn bản từ Google có thể tiết kiệm chi phí hơn. Nếu trường hợp sử dụng của bạn là phân loại cơ bản, hỏi đáp đơn giản hoặc sinh văn bản ngắn (dưới vài trăm token), chi phí trên mỗi token cao hơn của Gemini Pro Latest ($4/$18 trên 1M token) có thể không hợp lý. Tương tự, nếu bạn không cần đầu vào đa phương thức ngoài văn bản, một mô hình rẻ hơn không hỗ trợ hình ảnh, âm thanh hoặc video sẽ đủ dùng. OrcaRouter cung cấp nhiều mô hình để bạn có thể chọn sự cân bằng phù hợp giữa khả năng và chi phí. Sử dụng Gemini Pro Latest khi prompt hoặc đầu ra dự kiến của bạn lớn, đa phương thức hoặc yêu cầu các cải tiến suy luận mới nhất.
Mô hình này hoạt động xuất sắc trong các tình huống kết hợp nhiều phương thức đầu vào và yêu cầu đầu ra dài. Các trường hợp sử dụng điển hình bao gồm: suy luận đa phương thức (ví dụ: giải thích sơ đồ kèm âm thanh), phiên âm và tóm tắt âm thanh/video với các câu hỏi tiếp theo, tạo mã từ ảnh chụp màn hình giao diện người dùng, tạo báo cáo chi tiết tích hợp dữ liệu từ hình ảnh và tệp văn bản, và các ứng dụng tương tác nơi mô hình phải xử lý các tệp do người dùng tải lên. Giới hạn token đầu ra cao cũng giúp mô hình phù hợp để tạo toàn bộ các chương sách, tài liệu kỹ thuật dài hoặc các codebase toàn diện. Đối với bất kỳ tác vụ nào được hưởng lợi từ kiến trúc Gemini Pro mới nhất và tính linh hoạt đầu vào rộng, mô hình này là một lựa chọn mạnh mẽ.
Mặc dù danh mục sản phẩm không cung cấp điểm chuẩn cụ thể cho mẫu máy này, Gemini Pro Latest được hiểu là tích hợp dữ liệu huấn luyện mới nhất và các cải tiến thuật toán từ Google DeepMind. So với các bản phát hành Gemini Pro trước đó, phiên bản này có khả năng suy luận tốt hơn, hiểu đa phương thức được cải thiện và giảm hiện tượng "hallucination". Cửa sổ đầu ra lớn 65.536 token là một nâng cấp đáng kể so với nhiều mô hình tiền nhiệm vốn bị giới hạn kích thước sinh nhỏ hơn. Lưu ý rằng "Latest" đề cập đến phiên bản ổn định mới nhất của Gemini Pro, không phải một số phiên bản cụ thể. Để biết sự khác biệt chính xác, bạn nên tham khảo ghi chú phát hành của Google, nhưng trên thực tế người dùng thường báo cáo chất lượng và tính nhất quán cao hơn so với Gemini 1.0 Pro.
Các thông tin catalog cho google/gemini-pro-latest không bao gồm bất kỳ số liệu benchmark cụ thể nào. Do đó, chúng tôi không thể khẳng định hiệu suất trên MMLU, GSM8K, HumanEval, hoặc các đánh giá tiêu chuẩn tương tự. Tuy nhiên, Gemini Pro với tư cách là một dòng sản phẩm đã được Google đánh giá trên nhiều benchmark khác nhau, và phiên bản “Latest” được kỳ vọng sẽ cạnh tranh với các mô hình như GPT‑4. Không có số liệu chính thức cho phiên bản chính xác này, tốt nhất là bạn nên đánh giá mô hình trên dữ liệu của riêng mình. OrcaRouter cho phép bạn kiểm tra prompt dễ dàng thông qua API của nó với mức giá của nhà cung cấp, vì vậy bạn có thể đánh giá thực nghiệm chất lượng và tốc độ cho trường hợp sử dụng cụ thể của mình trước khi đưa vào sản xuất.
Số liệu về độ trễ không được cung cấp trong danh mục sản phẩm. Nhìn chung, tốc độ tạo đầu ra phụ thuộc vào độ dài phản hồi và tải hiện tại trên cơ sở hạ tầng của Google. Vì Gemini Pro Latest có thể tạo tới 65.536 token, các đầu ra dài hơn có thể mất hàng chục giây đến vài phút. Tốc độ xử lý đầu vào cũng thay đổi tùy theo kích thước và số lượng tệp đa phương thức. Đối với các ứng dụng thời gian thực, bạn có thể muốn thử nghiệm với các đầu ra nhỏ hơn. OrcaRouter không làm tăng độ trễ đáng kể so với điểm cuối Google bên dưới; proxy API được thiết kế để minh bạch. Nếu độ trễ thấp là yếu tố quan trọng, hãy cân nhắc sử dụng một mô hình nhanh hơn như Gemini Flash, mặc dù mô hình này có thể có ít khả năng hơn.
Mặc dù mạnh mẽ, mô hình này có những hạn chế. Thứ nhất, chi phí của nó tương đối cao: $18 cho mỗi 1 triệu token đầu ra có thể tích lũy nhanh chóng khi sinh văn bản dài. Thứ hai, nó vẫn có thể đưa ra những phản hồi không chính xác hoặc ảo giác, đặc biệt là về các chủ đề chuyên ngành hoặc thay đổi nhanh chóng. Thứ ba, xử lý các đầu vào đa phương thức rất lớn (ví dụ: video dài hoặc ảnh độ phân giải cao) có thể làm tăng thời gian xử lý và chi phí. Thứ tư, vì đây là mô hình "mới nhất" không có phiên bản rõ ràng, hành vi có thể thay đổi theo thời gian khi Google cập nhật mô hình nền. Đối với các tác vụ yêu cầu mô hình ổn định, bất biến, bạn có thể thích một phiên bản cố định như Gemini 1.5 Pro. Cuối cùng, mô hình này không có sẵn qua tất cả các nhà cung cấp; chỉ có OrcaRouter cung cấp giao diện tương thích với OpenAI cho nó ở thời điểm hiện tại.
Với tối đa 65,536 token đầu ra, Gemini Pro Latest có thể tạo ra các phản hồi rất dài trong một lần sinh. Điều này hữu ích cho việc tạo các báo cáo toàn diện, mã nguồn mở rộng hoặc duy trì các cuộc trò chuyện dài mà không bị cắt ngắn. Tuy nhiên, điều này không nhất thiết có nghĩa là mô hình sẽ luôn sử dụng nhiều token như vậy; các đầu ra điển hình thường ngắn hơn. Giới hạn lớn này đi kèm với một sự đánh đổi: việc tạo ra 65K token có thể chậm và tốn kém. Đối với hầu hết các ứng dụng thực tế, bạn có thể đặt tham số max_tokens thấp hơn để kiểm soát chi phí và tốc độ. Khả năng của mô hình trong việc xử lý các đầu ra dài cũng ngụ ý một cơ chế chú ý sâu tương ứng, điều này thường cải thiện tính nhất quán trong suy luận trên các văn bản dài.
Giá cả chính xác bằng mức giá của nhà cung cấp Google, không có phụ phí: $4.00 cho mỗi 1 triệu token đầu vào và $18.00 cho mỗi 1 triệu token đầu ra. Token đầu vào bao gồm phần văn bản của lời nhắc cộng với bất kỳ hình ảnh, âm thanh, video hoặc tệp nào được mã hóa trong yêu cầu. Token đầu ra được tính cho mỗi token được tạo ra trong phản hồi. OrcaRouter không thêm bất kỳ phí nền tảng, gói đăng ký hoặc chi phí ẩn nào. Bạn bị tính phí dựa trên mức sử dụng token như được báo cáo bởi Google. Mức giá minh bạch này giúp dễ dàng ước tính chi phí: ví dụ, một lời nhắc 1.000 token với phản hồi 5.000 token sẽ tốn ($4 * 0.001) + ($18 * 0.005) = $0.004 + $0.09 = $0.094.
So với các mô hình nhỏ hơn như Gemini 1.5 Flash (thường có giá $0.50/$2.00 cho mỗi 1 triệu token), Gemini Pro Latest có chi phí trên mỗi token cao hơn. Nếu khối lượng công việc của bạn liên quan đến đầu ra ngắn và đầu vào chỉ văn bản, bạn có thể giảm đáng kể chi phí bằng cách sử dụng mô hình rẻ hơn. Ngược lại, đối với các tác vụ thực sự cần đầu vào đa phương thức hoặc đầu ra rất dài, chi phí trên mỗi token cao hơn có thể được biện minh bởi khả năng vượt trội của mô hình. Không có chương trình giảm giá bộ nhớ đệm nào được quảng cáo; mỗi token được tính phí theo mức tiêu chuẩn. Tuy nhiên, nếu bạn sử dụng nhiều lần cùng một prompt dài, hãy coi chúng là token đầu vào mỗi lần. OrcaRouter truyền qua giá của nhà cung cấp, vì vậy bạn trả chính xác số tiền bạn sẽ trả nếu sử dụng trực tiếp Google, mà không có bất kỳ khoản phụ phí tiện lợi nào.
Các dữ kiện trong danh mục không đề cập đến bất kỳ khoản giảm giá, bộ nhớ đệm hoặc định giá theo khối lượng nào cho google/gemini-pro-latest. OrcaRouter tuyên bố rằng giá được tính theo giá của nhà cung cấp với tỷ lệ chênh lệch bằng không, ngụ ý rằng giá niêm yết là chi phí duy nhất. Không có đề cập đến bộ nhớ đệm lời nhắc (prompt caching), vì vậy mỗi yêu cầu bị tính phí cho toàn bộ token đầu vào, ngay cả khi các phản hồi trước đó đã sử dụng văn bản tương tự. Đối với người dùng có khối lượng lớn, có thể đáng để liên hệ trực tiếp với OrcaRouter để hỏi về các thỏa thuận doanh nghiệp tiềm năng, nhưng không có khoản giảm giá chính thức nào được chỉ định. Trong trường hợp không có bộ nhớ đệm, bạn nên tối ưu hóa lời nhắc (prompts) của mình để giảm thiểu việc sử dụng token khi có thể, ví dụ bằng cách giảm kích thước tệp đa phương thức hoặc cắt bớt lịch sử hội thoại.
... Xuất ra.Bạn có thể gọi model bằng bất kỳ thư viện client nào tương thích với OpenAI (Python, Node.js, cURL, v.v.) bằng cách đặt base URL thành https://api.orcarouter.ai/v1 và tham số model thành "google/gemini-pro-latest". Ví dụ, trong Python với gói openai: client = OpenAI(api_key='your_orcarouter_key', base_url='https://api.orcarouter.ai/v1') sau đó response = client.chat.completions.create(model='google/gemini-pro-latest', messages=[{...}], max_tokens=10000). Orcarouter yêu cầu một khóa API, bạn có thể lấy bằng cách đăng ký trên nền tảng của họ. Định dạng phản hồi giống với của OpenAI, bao gồm choices, usage, và finish_reason.
Các tham số tiêu chuẩn của OpenAI chat completion được hỗ trợ, bao gồm messages, max_tokens, temperature, top_p, frequency_penalty, presence_penalty, stop và stream. Mảng messages có thể bao gồm các role system, user và assistant. Đối với đầu vào đa phương thức (hình ảnh, âm thanh, v.v.), bạn có thể sử dụng định dạng content parts (nếu được OrcaRouter hỗ trợ) hoặc truyền dữ liệu mã hóa base64 một cách có cấu trúc. Tham khảo tài liệu của OrcaRouter để biết cách gửi các loại tệp và phương tiện chính xác. Model cũng tuân theo tham số max_tokens lên đến 65,536. Lưu ý rằng không phải tất cả các tham số OpenAI đều được triển khai; hãy kiểm tra kỹ lưỡng. API sẽ trả về mức sử dụng token trong phản hồi dưới dạng usage.prompt_tokens và usage.completion_tokens.
Nếu bạn hiện đang sử dụng trực tiếp Vertex AI hoặc Gemini API của Google, việc chuyển đổi sang OrcaRouter rất đơn giản. Bạn thay thế điểm cuối (endpoint) và phương thức xác thực của mình bằng của OrcaRouter. Thay vì sử dụng thư viện client của Google, bạn sử dụng mã tương thích với OpenAI. Thay đổi URL cơ sở thành https://api.orcarouter.ai/v1 và ID mô hình thành "google/gemini-pro-latest". Bạn sẽ cần một khóa API OrcaRouter. Định dạng tin nhắn có thể khác một chút (Google sử dụng “contents” còn OpenAI sử dụng “messages”), vì vậy bạn cần điều chỉnh cho phù hợp với định dạng của OpenAI. Đối với nội dung đa phương thức, bạn có thể cần mã hóa hình ảnh hoặc tệp khác đi. Tài liệu của OrcaRouter sẽ cung cấp các ví dụ. Giá cả vẫn giống như thanh toán trực tiếp của Google, vì vậy chi phí mỗi token của bạn sẽ không tăng. Việc chuyển đổi này cho phép bạn hợp nhất tất cả các lệnh gọi mô hình dưới một giao diện tương thích duy nhất với OpenAI.
Cả hai mô hình đều là các mô hình đa phương thức lớn, mạnh mẽ, nhưng chúng có những điểm mạnh khác nhau. GPT‑4 của OpenAI nổi tiếng với khả năng suy luận mạnh mẽ và hỗ trợ hệ sinh thái rộng, trong khi Gemini Pro Latest vượt trội về tính đa dạng đầu vào đa phương thức (bao gồm âm thanh và video gốc) và cung cấp giới hạn token đầu ra lớn hơn là 65.536 so với mức 8.192 hoặc 32.768 thông thường của GPT‑4 trong các biến thể. Giá cả khác nhau: Gemini Pro Latest có giá $4/$18 mỗi 1M token, trong khi GPT‑4 Turbo có giá $10/$30 (hoặc $20/$60 đối với GPT‑4). Không có dữ liệu điểm chuẩn trực tiếp, việc so sánh hiệu suất phụ thuộc vào các tác vụ cụ thể. Gemini Pro Latest có thể tốt hơn cho các tác vụ yêu cầu hiểu đồng thời nhiều loại phương tiện, trong khi GPT‑4 có thể có lợi thế trong một số tác vụ tạo mã hoặc đầu ra có cấu trúc. Việc thử nghiệm trên dữ liệu của riêng bạn được khuyến nghị.
Trong gia đình Gemini, mô hình này là phiên bản “Pro” mới nhất, nghĩa là nó cung cấp nhiều khả năng hơn biến thể Flash nhỏ hơn nhưng ít hơn tầng Ultra (không được liệt kê ở đây). So với Gemini 1.5 Pro (một phiên bản cố định), nhãn “Mới nhất” có nghĩa là nó nhận được các bản cập nhật liên tục; nó có thể hiện tại hơn nhưng có thể thay đổi. Gemini Flash rẻ hơn và nhanh hơn nhưng có ít tính năng đa phương thức hơn và giới hạn đầu ra thấp hơn. “Pro Mới nhất” chiếm vị trí trung gian: hiệu suất cao với hỗ trợ đa phương thức rộng rãi ở mức giá vừa phải (tầm trung so với GPT‑4 và Claude 3 Opus). Đối với người dùng muốn những cải tiến mới nhất mà không phải trả chi phí cao nhất, đây là một lựa chọn cân bằng.
Các mô hình Claude 3 của Anthropic (Haiku, Sonnet, Opus) cũng hỗ trợ đầu vào đa phương thức và đầu ra dài. Claude 3 Opus có cửa sổ ngữ cảnh 200K và tối đa 4.096 token đầu ra (hoặc dài hơn với tính năng mở rộng). Gemini Pro Latest có cửa sổ ngữ cảnh nhỏ hơn (không cung cấp đầu vào tối đa chính xác) nhưng giới hạn đầu ra lớn hơn nhiều (65.536 token). Giá cho Claude 3 Opus là $15/$75 trên 1 triệu token, cao hơn đáng kể so với Gemini Pro Latest ($4/$18). Claude 3 Sonnet có giá gần hơn. Về mặt an toàn và căn chỉnh, các mô hình Claude được biết đến với việc xử lý nội dung có hại một cách thận trọng hơn. Gemini Pro Latest có thể phù hợp hơn cho các sinh văn bản rất dài, trong khi Claude có thể vượt trội trong các cuộc hội thoại tinh tế. Cả hai đều có thể truy cập qua OrcaRouter, cho phép bạn lựa chọn dựa trên nhiệm vụ và ngân sách.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1https://api.orcarouter.aifrom openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="google/gemini-pro-latest",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_pinclude_reasoningreasoning| Đầu vào / 1M tokens | $4.00 |
| Đầu ra / 1M tokens | $18.00 |
| Đọc cache / 1M | $0.400 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/google/gemini-pro-latestMở @misc{orcarouter_gemini_pro_latest,
title = {google/gemini-pro-latest API},
author = {google},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/google/gemini-pro-latest}
}google. (n.d.). google/gemini-pro-latest API. OrcaRouter. https://www.orcarouter.ai/models/google/gemini-pro-latest