谷歌最新的多模态Gemini Pro通过OrcaRouter的API以提供商价格提供,零加价。
Google Gemini Pro Latest是谷歌Gemini Pro模型的最新版本,可通过OrcaRouter兼容OpenAI的API访问。这是一个多模态模型,支持文本、图像、音频、视频和文件输入,最多可生成65,536个输出令牌,非常适合需要跨多种模态理解与生成内容的任务。该模型定价为每百万输入令牌4.00美元,每百万输出令牌18.00美元(按提供商费率计费,零加价)。对于需要顶级、最新基…
该模型能够在单次请求中处理并推理文本、图像、音频、视频及文件。例如,你可以提供一张图表图像、一段会议录音和一个文本问题,模型会整合所有来源的信息生成连贯的答案。它还能生成长达65,536个令牌的长篇文本回复,适用于撰写详细报告、创建代码模板或编写大量文档等任务。与更小、更便宜的模型相比,Gemini Pro Latest 提供更优越的多模态基础能力和更大的输出容量,但其较高的成本意味着应仅用于真正需要其高级能力的任务。
对于仅涉及文本且不需要长输出的任务,使用较小的模型(如 Gemini 1.5 Flash 或 Google 的纯文本变体)可能更具成本效益。如果您的用例是基本分类、简单问答或短文本生成(几百个 token 以内),Gemini Pro Latest 更高的每 token 成本(每 100 万 token 4 美元/18 美元)可能并不划算。同样,如果您不需要文本以外的多模态输入,那么一个不支持图像、音频或视频的较便宜模型就足够了。OrcaRouter 提供了一系列模型,您可以根据能力与成本之间的权衡进行选择。当您的提示或预期输出较大、涉及多模态或需要最新的推理改进时,请使用 Gemini Pro Latest。
该模型在结合多种输入模态并需要长输出的场景中表现优异。典型的最佳用例包括:多模态推理(例如,结合音频解释图表)、音视频转录与摘要生成并支持后续提问、根据用户界面截图生成代码、创建整合图像与文本文件数据的详细报告,以及需要处理用户上传文件的交互式应用。其高输出令牌限制也使其适用于生成书籍的完整章节、长篇技术文档或全面的代码库。对于任何受益于最新Gemini Pro架构和广泛输入灵活性的任务,该模型都是强有力的选择。
虽然该型号的目录未提供具体基准分数,但Gemini Pro Latest被认为整合了Google DeepMind最新的训练数据和算法改进。与早期Gemini Pro版本相比,它可能具备更强的推理能力、改进的多模态理解以及更少的幻觉。65,536个token的大输出窗口相比许多前代模型(受限于较小的生成规模)是一项重大升级。请注意,“Latest”指的是当前最新的稳定版Gemini Pro,而非具体版本号。具体差异请参阅Google的发布说明,但实际使用中用户常反馈其质量和一致性优于Gemini 1.0 Pro。
google/gemini-pro-latest 的目录事实中不包含任何具体的基准测试数据。因此,我们无法声称其在 MMLU、GSM8K、HumanEval 或类似标准评估上的表现。然而,Gemini Pro 系列整体上已由 Google 在多个基准上进行过评估,而“Latest”版本预计能与 GPT‑4 等模型竞争。由于缺乏该确切版本的官方数据,最好使用您自己的数据对模型进行评估。OrcaRouter 允许您通过其 API 以提供商费率轻松测试提示,从而在投入生产前,为您特定用例的响应质量和速度提供实际依据。
目录中未提供延迟数据。通常,输出生成速度取决于响应的长度以及Google基础设施的当前负载。由于Gemini Pro Latest最多可生成65,536个token,较长的输出可能需要数十秒至数分钟。输入处理速度也会随多模态文件的大小和数量而变化。对于实时应用,建议使用较小输出进行测试。OrcaRouter不会在底层Google端点基础上显著增加延迟;该API代理设计为透明的。如果低延迟至关重要,可考虑使用Gemini Flash等速度更快的模型,尽管其功能可能较少。
尽管模型功能强大,但仍存在局限性。首先,其成本相对较高:每100万输出令牌18美元,对于长文本生成可能迅速累积。其次,它仍可能产生不准确或幻觉式的回答,尤其是在小众或快速变化的话题上。第三,处理非常大的多模态输入(例如长视频或高分辨率图像)可能会增加处理时间和成本。第四,由于它是一个“最新”模型,没有明确版本,随着Google更新底层模型,其行为可能随时间变化。对于需要稳定、不可变模型的任务,您可能更喜欢固定版本,如Gemini 1.5 Pro。最后,该模型并非所有提供商都可用;目前只有OrcaRouter为其提供与OpenAI兼容的接口。
Gemini Pro Latest 最多可输出 65,536 个 token,因此单次生成即可产生非常长的回复。这对于创建全面报告、大量代码或保持长篇幅对话而不被截断非常有用。不过,这并不意味着模型总会使用那么多 token;典型的输出通常更短。这一大限制确实也有权衡:生成 65K token 可能速度较慢且成本较高。对于大多数实际应用,你可以设置较低的 max_tokens 参数来控制成本和速度。模型处理长输出的能力也意味着其拥有相应深入的注意力机制,这通常能提升跨长文本的推理一致性。
定价完全按照Google提供商费率,零加价:每百万输入Token 4.00美元,每百万输出Token 18.00美元。输入Token包括提示词中的文本部分,以及请求中编码的任何图像、音频、视频或文件。输出Token按响应中生成的每个Token计数。OrcaRouter不收取任何平台费、订阅层级或隐藏费用。您根据Google报告的Token用量付费。这种透明的定价让成本估算变得简单:例如,一个1000 Token的提示词加上5000 Token的响应,成本为 ($4 * 0.001) + ($18 * 0.005) = $0.004 + $0.09 = $0.094。
与Gemini 1.5 Flash这类较小模型(通常每100万token收费$0.50/$2.00)相比,Gemini Pro Latest每个token的价格更高。如果你的工作负载涉及短输出和纯文本输入,使用更便宜的模型可以显著降低成本。反之,对于真正需要多模态输入或极长输出的任务,更高的每token成本可能因模型更强的能力而合理。目前没有宣传缓存折扣,每个token均按标准费率计费。不过,如果你反复使用相同的长提示词,每次都会被视为输入token计费。OrcaRouter直接沿用提供商价格,因此你支付的费用与直接使用Google完全相同,没有任何便利性加价。
目录事实中未提及google/gemini-pro-latest的任何折扣、缓存或批量定价。OrcaRouter表示,定价按提供商费率计费,零加价,这意味着所列价格即为唯一成本。未提及提示缓存,因此每次请求都按完整输入令牌计费,即使之前的响应使用了相似的文本。对于高用量用户,直接联系OrcaRouter询问潜在的企业协议可能是值得的,但未规定任何官方折扣。由于没有缓存,应尽可能优化提示以最小化令牌使用,例如减小多模态文件大小或截断对话历史。
你可以通过将基础URL设置为`https://api.orcarouter.ai/v1`,并将模型参数设置为`"google/gemini-pro-latest"`,使用任何兼容OpenAI的客户端库(Python、Node.js、cURL等)来调用该模型。例如,在Python中使用openai包:`client = OpenAI(api_key='your_orcarouter_key', base_url='https://api.orcarouter.ai/v1')`,然后`response = client.chat.completions.create(model='google/gemini-pro-latest', messages=[{...}], max_tokens=10000)`。Orcarouter需要API密钥,你可以通过在其平台上注册来获取。响应格式与OpenAI一致,包括choices、usage和finish_reason。
支持标准的 OpenAI 聊天完成参数,如 messages、max_tokens、temperature、top_p、frequency_penalty、presence_penalty、stop 和 stream。messages 数组可包含 system、user 和 assistant 角色。对于多模态输入(图像、音频等),你可以使用内容部分格式(如果 OrcaRouter 支持)或以结构化方式传递 base64 编码的数据。具体如何发送文件和媒体类型,请参考 OrcaRouter 的文档。该模型还支持 max_tokens 参数,最大值为 65,536。请注意,并非所有 OpenAI 参数都已实现,务必充分测试。API 将在响应中返回 token 使用情况,位于 usage.prompt_tokens 和 usage.completion_tokens 下。
如果您目前直接使用Google的Vertex AI或Gemini API,迁移到OrcaRouter非常简单。您只需将端点(endpoint)和身份验证方法替换为OrcaRouter的即可。不使用Google的客户端库,而是采用兼容OpenAI的代码。将基础URL改为https://api.orcarouter.ai/v1,模型ID改为"google/gemini-pro-latest"。您需要一个OrcaRouter API密钥。消息格式可能略有不同(Google使用"contents"而OpenAI使用"messages"),因此您需要适配为OpenAI格式。对于多模态内容,您可能需要以不同方式编码图像或文件。OrcaRouter的文档应提供相关示例。定价与Google直接结算保持一致,因此您的每token成本不会增加。此次迁移将使您能够将所有模型调用统一到单个兼容OpenAI的接口下。
这两种模型都是功能强大的多模态模型,但各有优势。OpenAI 的 GPT‑4 以强大的推理能力和广泛生态系统支持著称,而 Gemini Pro Latest 在多模态输入多样性(原生支持音频和视频)方面更胜一筹,并提供高达 65,536 个令牌的输出限制,相比之下 GPT‑4 通常为 8,192 或 32,768 个令牌(变体)。定价方面也有所不同:Gemini Pro Latest 每 100 万令牌收费 4/18 美元,GPT‑4 Turbo 收费 10/30 美元(GPT‑4 则为 20/60 美元)。在没有直接基准测试数据的情况下,性能比较取决于具体任务。Gemini Pro Latest 可能更适用于需要同时理解多种媒体类型的任务,而 GPT‑4 在特定代码生成或结构化输出方面可能更具优势。建议根据实际数据进行测试。
在Gemini系列中,该模型是最新的“Pro”版本,意味着它比更小的Flash变体功能更强,但不及Ultra层级(此列表中未列出)。与Gemini 1.5 Pro(固定版本)相比,“Latest”标签表示它会持续更新;可能版本更新但内容会变化。Gemini Flash更便宜、速度更快,但多模态功能较少且输出上限更低。“Pro Latest”则处于中间位置:高性能、支持广泛模态,价格适中(与GPT-4和Claude 3 Opus相比属于中档)。对于想要最新改进但又不想承担最高成本的用户而言,这是一个平衡之选。
Anthropic的Claude 3模型(Haiku、Sonnet、Opus)也支持多模态输入和长输出。Claude 3 Opus拥有200K的上下文窗口,最多可输出4,096个token(或通过扩展功能实现更长的输出)。Gemini Pro Latest的上下文窗口较小(未提供确切的输入最大值),但输出上限要大得多(65,536个token)。Claude 3 Opus的定价为每百万token $15/$75,显著高于Gemini Pro Latest($4/$18)。Claude 3 Sonnet的价格与之更为接近。在安全性和对齐方面,Claude模型以处理有害内容时更加谨慎而闻名。Gemini Pro Latest可能更适合超长文本生成,而Claude则在复杂对话中表现更佳。两者均可通过OrcaRouter访问,您可以根据任务和预算选择合适的模型。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1https://api.orcarouter.aifrom openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="google/gemini-pro-latest",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_pinclude_reasoningreasoning| 输入 / 1M tokens | $4.00 |
| 输出 / 1M tokens | $18.00 |
| 缓存读取 / 1M | $0.400 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
@misc{orcarouter_gemini_pro_latest,
title = {google/gemini-pro-latest API},
author = {google},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/google/gemini-pro-latest}
}google. (n.d.). google/gemini-pro-latest API. OrcaRouter. https://www.orcarouter.ai/models/google/gemini-pro-latest