Google 最新的多模態 Gemini Pro 透過 OrcaRouter 的 API,以提供商價格提供,零加成。
Google Gemini Pro Latest 是 Google 最新版本的 Gemini Pro 模型,可透過 OrcaRouter 的 OpenAI 相容 API 存取。此為多模態模型,可接受文字、圖片、音訊、影片及檔案輸入,並能產出最多 65,536 個輸出 token。這使其非常適合需要跨多種模態理解與生成內容的任務。該模型定價為每 1M 輸入 token 4.00 美元,每 1M…
該模型能在單一請求中處理並推理文字、圖像、音訊、影片及檔案。舉例來說,您可以提供一張圖表圖像、一段會議錄音以及一個文字問題,模型會整合所有來源的資訊,生成連貫的答案。它還能產出長達 65,536 個 token 的長篇文字回應,適合用於撰寫詳細報告、建立程式碼範本或產生大量文件等工作。與較小、較便宜的模型相比,Gemini Pro Latest 提供更卓越的多模態理解能力及更大的輸出容量,但因其成本較高,應保留給真正需要其進階能力的任務使用。
對於僅涉及文字且無需長篇輸出的任務,像 Gemini 1.5 Flash 或 Google 的純文字版本這類較小的模型可能更具成本效益。如果您的使用情境是基本分類、簡單問答或短篇生成(數百個 token 以下),Gemini Pro Latest 每 token 的較高成本(每 1M token $4/$18)可能並不合理。同樣地,如果您無需文字以外的多模態輸入,那麼不支援圖片、音訊或影片的較便宜模型就已足夠。OrcaRouter 提供一系列模型,讓您在能力與成本之間選擇合適的取捨。當您的提示或預期輸出內容龐大、需要多模態、或者需要最新的推理改進時,請使用 Gemini Pro Latest。
此模型在結合多種輸入模態且需要長篇輸出的場景中表現優異。典型的理想使用案例包括:多模態推理(例如,解釋附帶音頻的圖表)、音訊/影片轉錄與摘要並進行後續提問、從使用者介面的螢幕截圖生成程式碼、製作整合圖像和文字檔案資料的詳細報告,以及需要模型處理使用者上傳檔案的互動式應用。其高輸出令牌限制也使其適合生成書籍的完整章節、冗長的技術文件或全面的程式碼庫。對於任何受益於最新 Gemini Pro 架構和廣泛輸入靈活性的任務,此模型都是強勁的選擇。
雖然該型號在目錄中未提供具體的基準測試分數,但 Gemini Pro Latest 被認為整合了 Google DeepMind 最新的訓練資料與演算法改進。相較於先前的 Gemini Pro 版本,它在推理能力、多模態理解方面可能更佳,且幻覺現象有所減少。高達 65,536 個 token 的輸出視窗是一大升級,超越了許多僅限於較小生成規模的前代模型。請注意,「Latest」指的是 Gemini Pro 目前最新的穩定版本,並非特定版本號。如要了解確切差異,應參考 Google 的發行說明,但實際上用戶常回報其品質與一致性優於 Gemini 1.0 Pro。
google/gemini-pro-latest 的目錄資訊並未包含任何具體的基準測試數據。因此,我們無法宣稱其在 MMLU、GSM8K、HumanEval 或類似標準評估上的表現。然而,Gemini Pro 系列已由 Google 在各種基準上進行評估,而「Latest」版本預計將與 GPT‑4 等模型具有競爭力。由於缺乏此確切版本的官方數據,最好自行在自有數據上評估該模型。OrcaRouter 讓你能透過其 API 輕鬆測試提示,並按照提供商的費率進行,從而在投入生產前,針對你的特定使用案例實證評估其品質與速度。
目錄中未提供延遲數據。一般來說,輸出生成速度取決於回應長度及Google基礎設施的當前負載。由於Gemini Pro Latest最多可生成65,536個token,較長的輸出可能需要數十秒到數分鐘。輸入處理速度也會因多模態檔案的大小及數量而異。若需即時應用,建議使用較小的輸出進行測試。OrcaRouter不會在底層Google端點之外增加顯著延遲;其API代理設計為透明化。若低延遲至關重要,可考慮使用速度較快的模型如Gemini Flash,儘管其功能可能較少。
雖然功能強大,但該模型仍有限制。首先,成本相對較高:每 100 萬個輸出 token 需支付 18 美元,對於較長的生成內容,費用可能快速累積。其次,它仍可能產生不準確或虛構的回應,特別是在冷門或快速變化的主題上。第三,處理非常大型的多模態輸入(例如長影片或高解析度圖像)可能增加處理時間與成本。第四,由於這是「最新」模型且沒有明確版本,隨著 Google 更新底層模型,其行為可能隨時間改變。對於需要穩定、不可變模型的任務,你可能偏好使用固定版本,例如 Gemini 1.5 Pro。最後,該模型並非所有提供商皆可使用;目前僅有 OrcaRouter 提供與 OpenAI 相容的介面。
擁有最多65,536個輸出token,Gemini Pro Latest可以在單次生成中產生非常長的回應。這對於製作全面的報告、大量的程式碼,或維持長篇對話而不被截斷非常有用。然而,這並不意味著模型總是會使用那麼多的token;典型的輸出通常較短。這個大限制確實帶有取捨:生成65K token可能會較慢且成本較高。對於大多數實際應用,您可以設定較低的max_tokens參數來控制成本與速度。模型處理長輸出的能力也意味著有相應深入的注意力機制,這通常會改善長篇文本中的推理一致性。
定價完全按照 Google 提供商的費率,無任何加價:每 100 萬個輸入 Token 收費 $4.00,每 100 萬個輸出 Token 收費 $18.00。輸入 Token 包括提示中的文字部分,以及請求中編碼的任何圖片、音訊、影片或檔案。輸出 Token 則計算回應中產生的每個 Token。OrcaRouter 不會添加任何平台費用、訂閱等級或隱藏費用。您根據 Google 報告的 Token 使用量進行計費。這種透明的定價方式讓成本估算變得簡單:例如,一個 1,000 Token 的提示搭配一個 5,000 Token 的回應,成本為 ($4 * 0.001) + ($18 * 0.005) = $0.004 + $0.09 = $0.094。
與較小的模型如 Gemini 1.5 Flash(通常每 100 萬 tokens 定價 $0.50/$2.00)相比,Gemini Pro Latest 每個 token 的費用更高。如果你的工作負載涉及短輸出和純文字輸入,使用較便宜的模型可大幅降低成本。反之,對於確實需要多模態輸入或極長輸出的任務,較高的每 token 成本可能因其優越能力而合理。目前並未宣佈快取折扣;每個 token 均按標準費率計費。不過,若你反覆使用相同的長提示詞,每次都會被視為輸入 token 計費。OrcaRouter 直接傳遞供應商價格,因此你支付的費用與直接使用 Google 完全相同,沒有任何便利性加價。
目錄事實並未提及任何折扣、快取或大量使用定價適用於google/gemini-pro-latest。OrcaRouter 說明定價是按照供應商費率計費且無加價,這表示所列價格即為唯一成本。文中未提及提示快取,因此每個請求皆按完整輸入 token 數計費,即使先前回應使用了相似文字亦然。對於大量使用用戶,建議直接聯繫 OrcaRouter 詢問可能的企業合約,但未指定任何官方折扣。在缺乏快取的情況下,您應最佳化提示以盡量減少 token 使用量,例如縮小多模態檔案大小或截短對話歷史。
您可以透過任何 OpenAI 相容的用戶端函式庫(Python、Node.js、cURL 等)來呼叫模型,只需將 base URL 設為 https://api.orcarouter.ai/v1,並將 model 參數設為 "google/gemini-pro-latest"。例如,在 Python 中使用 openai 套件:client = OpenAI(api_key='your_orcarouter_key', base_url='https://api.orcarouter.ai/v1') 然後 response = client.chat.completions.create(model='google/gemini-pro-latest', messages=[{...}], max_tokens=10000)。Orcarouter 需要一個 API 金鑰,您可以透過在其平台上註冊來取得。回應格式與 OpenAI 的回應格式相同,包含 choices、usage 和 finish_reason。
標準的 OpenAI 聊天完成參數皆受支援,例如 messages、max_tokens、temperature、top_p、frequency_penalty、presence_penalty、stop 與 stream。messages 陣列可包含 system、user 與 assistant 角色。針對多模態輸入(如影像、音訊等),您可以使用內容部分格式(若 OrcaRouter 支援)或以結構化方式傳遞 base64 編碼的資料。請參閱 OrcaRouter 文件以了解傳送檔案與媒體類型的確切方式。此模型亦支援 max_tokens 參數,上限為 65,536。請注意,並非所有 OpenAI 參數都已實作;請徹底測試。API 會在回應中回傳 token 用量,位於 usage.prompt_tokens 與 usage.completion_tokens 中。
如果您目前直接使用 Google 的 Vertex AI 或 Gemini API,遷移至 OrcaRouter 非常簡單。您只需將端點和驗證方式替換為 OrcaRouter 的即可。捨棄 Google 的客戶端函式庫,改用 OpenAI 相容的程式碼。將基礎 URL 改為 https://api.orcarouter.ai/v1,模型 ID 改為 "google/gemini-pro-latest"。您需要一個 OrcaRouter API 金鑰。訊息格式可能略有不同(Google 使用 "contents",而 OpenAI 使用 "messages"),因此您需要適應 OpenAI 的格式。對於多模態內容,您可能需要以不同方式編碼圖片或檔案。OrcaRouter 的文件應會提供範例。定價與 Google 的直接計費相同,因此您的每 token 成本不會增加。此次遷移可讓您將所有模型呼叫統一在單一的 OpenAI 相容介面下。
兩種模型都是大型、強大的多模態模型,但它們各有優勢。OpenAI 的 GPT‑4 以強大的推理能力和廣泛的生態系統支援聞名,而 Gemini Pro Latest 則在多模態輸入多樣性(原生支援音訊和影片)方面表現出色,並提供更高達 65,536 個 token 的輸出限制,相比之下 GPT‑4 一般為 8,192 或變體版的 32,768。定價也有所不同:Gemini Pro Latest 每 100 萬 token 收費 4 美元/18 美元,而 GPT‑4 Turbo 收費 10 美元/30 美元(GPT‑4 則為 20 美元/60 美元)。在缺乏直接基準數據的情況下,效能比較須視具體任務而定。對於需要同時理解多種媒體類型的任務,Gemini Pro Latest 可能表現更佳;而 GPT‑4 則在某些程式碼生成或結構化輸出方面具有優勢。建議在您自己的數據上進行測試。
在Gemini系列中,這個模型是最新的「Pro」版本,意味著它的能力比較小的Flash變體更強,但不如Ultra層級(這裡未列出)。與Gemini 1.5 Pro(一個固定版本)相比,「Latest」標籤表示它會持續更新;它可能更為新穎,但可能會有所變動。Gemini Flash更便宜且速度更快,但多模態功能較少,輸出上限也較低。「Pro Latest」則處於中間地帶:高性能、廣泛的多模態支援,價格適中(與GPT‑4和Claude 3 Opus相比屬於中階)。對於想要最新改進但不願支付最高成本的用戶來說,這是一個平衡的選擇。
Anthropic 的 Claude 3 模型(Haiku、Sonnet、Opus)同樣支援多模態輸入與長輸出。Claude 3 Opus 擁有 200K 的上下文視窗以及最多 4,096 個輸出 token(透過擴充功能可更長)。Gemini Pro Latest 的上下文視窗較小(未提供確切最大輸入長度),但輸出上限大得多(65,536 個 token)。Claude 3 Opus 的價格為每 1M tokens $15/$75,明顯高於 Gemini Pro Latest($4/$18)。Claude 3 Sonnet 的價格則較接近。在安全性與價值對齊方面,Claude 模型以更謹慎處理有害內容聞名。Gemini Pro Latest 可能更適合極長生成任務,而 Claude 則在細膩對話上表現優異。兩者皆可透過 OrcaRouter 存取,讓您能根據任務與預算自由選擇。
相容 OpenAI——沿用你現有的 SDK
https://api.orcarouter.ai/v1https://api.orcarouter.aifrom openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="google/gemini-pro-latest",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_pinclude_reasoningreasoning| 輸入 / 1M tokens | $4.00 |
| 輸出 / 1M tokens | $18.00 |
| 快取讀取 / 1M | $0.400 |
| 貨幣 | USD |
基於標價的估算
僅為估算——實際 Token 數取決於供應商的分詞器。
@misc{orcarouter_gemini_pro_latest,
title = {google/gemini-pro-latest API},
author = {google},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/google/gemini-pro-latest}
}google. (n.d.). google/gemini-pro-latest API. OrcaRouter. https://www.orcarouter.ai/models/google/gemini-pro-latest