OpenAI GPT-4o-mini 预览版,具有扩展上下文,用于面向搜索的低成本文本生成。
此模型是 OpenAI 推出的 GPT-4o-mini 预览版,针对面向搜索的文本生成进行了优化。它仅接受文本输入,并提供 128,000 个 token 的上下文窗口,使其能够在单次请求中处理非常长的用户查询或文档。每次调用的最大输出为 16,384 个 token。通过 OrcaRouter 兼容 OpenAI 的 API 进行访问,现有 OpenAI API…
该模型擅长基于大上下文(高达128k tokens)理解和生成文本,并输出最高16,384 tokens。它保留了GPT-4o-mini的核心优势:快速推理、良好的指令遵循和成本效益。搜索预览调优可能提升了其提取相关片段、比较信息以及回答需要扫描长段落的问题的能力。只要输入保持文本形式,它可用于摘要、问答、信息提取和多轮对话。它默认不支持函数调用或工具使用,不过你可以将外部搜索结果整合到提示中。
根据其设计,该模型最适合用户提供包含生成答案所需信息的长文本块的任务。这包括以下场景:分析一组搜索结果(以文本形式提供)、比较产品描述、从研究论文中提取关键事实或总结会议记录。128k上下文允许在一次请求中处理整本书或多文档集合。然而,它可能不适用于创意写作、代码生成或需要多模态理解的任务。对于这些情况,请考虑使用标准的GPT-4o-mini或GPT-4o模型。
如果你的任务非常简单——例如短问答或分类——不需要大窗口或特定搜索调优,那么更便宜的模型如GPT-4o-mini(无预览版)甚至GPT-3.5 Turbo可能就足够了。预览版模型的定价与GPT-4o-mini相同,因此成本不是区分因素。然而,如果延迟是首要考虑,GPT-4o-mini已经是最快的模型之一;预览版应具有类似的速度。如果你不需要搜索功能,标准版GPT-4o-mini可能更经过广泛测试且更稳定。
每次请求的最大输出令牌数为16,384。输入上下文最多可达128,000个令牌。这些宽松的限制允许生成较长的回复和极长的上下文。不过,由于该模型仅支持文本,所有令牌必须为文本形式。它不支持原生结构化数据(如JSON schema强制约束),但你可以指示模型输出JSON。预览版可能有速率限制;使用OrcaRouter时,这些限制取决于你的账户层级和后端提供商的可用性。
OpenAI 尚未发布此特定预览模型的独立基准测试分数。然而,基础版 GPT-4o-mini 已知在多项 NLP 基准测试中表现优异,同时速度和成本远低于 GPT-4o。用户应预期其总体性能类似,由于经过了搜索调优,在涉及信息检索或长上下文推理的任务上可能表现更佳。在缺乏官方基准数据的情况下,建议在自己的测试集上评估该模型,以衡量其在您的领域中的效果。
GPT-4o-mini是GPT-4家族中最快速的模型之一,此预览版应具有相近的延迟表现。典型的首令牌生成时间较短,适合交互式应用。具体延迟取决于请求大小、输出长度及当前供应商负载。128k上下文相比短上下文可能增加首令牌生成时间,但一旦开始流式传输,令牌生成速度会很快。OrcaRouter不会带来显著开销;API调用已针对最低延迟进行了优化。
主要优势在于高速、低成本以及处理超长上下文的能力。对于答案已包含在提供文本中的任务,该模型能够在无需GPT-4o更高成本的情况下高效提取答案。它还继承了GPT-4o-mini强大的指令遵循能力。然而,在复杂推理、创造力或事实准确性方面,可能无法与GPT-4o或GPT-4 Turbo等更大模型相媲美。在复杂推理任务中,更大的模型通常表现更佳,但代价是更高的延迟和成本。
作为预览版,该模型可能存在未发现的错误或不一致的行为,其测试范围不如稳定版本广泛。搜索调优可能导致输入信息不足时产生意外输出,进而引发幻觉。除非您提供相关内容,否则该模型无法使用外部工具或浏览网页。若您的任务需要最新的网络搜索结果,您需手动将其注入提示词中。此外,它不支持图像或音频,限制了在多模态场景中的应用。
OrcaRouter以零加成的方式传递供应商定价。对于openai/gpt-4o-mini-search-preview-2025-03-11,每100万输入token的成本为0.15美元,每100万输出token的成本为0.60美元。输入token包括整个提示(系统消息、用户消息以及任何历史记录)。输出token则是生成的文本。OrcaRouter不收取任何额外费用。这使得该模型在大批量使用时非常经济实惠,尤其是在处理长上下文时。
OrcaRouter 上未提及该模型的特定缓存折扣。定价按 token 计费,即用即付。部分供应商提供提示缓存功能,可降低重复前缀的成本,但此预览版尚未确认。通常,OpenAI 可能在其 API 中为某些模型提供缓存,但此预览版可能不符合条件。请查看 OpenAI 文档以了解最新的缓存策略。在 OrcaRouter 上,无论使用模式如何,均按统一费率计费。
每百万token输入$0.15 / 输出$0.60,与标准GPT-4o-mini价格完全相同。这使其显著低于GPT-4o(输入$2.50 / 输出$10)和GPT-4 Turbo(输入$10 / 输出$30)。相比旧版模型如GPT-3.5 Turbo(每百万token $0.50/$1.50?)更贵。然而,其价值在于大上下文和搜索调优。如果你需要完整上下文,相比更大模型将具有显著成本优势。
要使用该模型,请将您的 API 基础 URL 设置为 https://api.orcarouter.ai/v1,您的 API 密钥(来自 OrcaRouter),并将模型 ID 精确设置为 "openai/gpt-4o-mini-search-preview-2025-03-11"。标准 OpenAI Python 客户端示例: client = OpenAI(api_key="your_orcarouter_key", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4o-mini-search-preview-2025-03-11", messages=[{"role": "user", "content": "Your prompt"}] ) 支持所有标准聊天补全参数,包括 temperature、max_tokens、top_p、frequency_penalty、presence_penalty 和 stop sequences。通过设置 stream=True 可使用流式传输。
该模型支持与OpenAI Chat Completions API相同的参数。关键参数包括:temperature(默认1.0,范围0-2)、top_p(默认1.0)、max_tokens(默认值因情况而异,最高可设为16384)、stop(字符串列表)、frequency_penalty(默认0)、presence_penalty(默认0)以及logit_bias。此外,还可以传入user_id用于监控。目前尚不原生支持response_format架构;如需结构化输出,请使用提示指令。模型会遵照系统消息来设定上下文。
迁移无需对请求结构进行代码修改,只需更新模型 ID。在您的 API 调用中,将模型字符串替换为 "openai/gpt-4o-mini-search-preview-2025-03-11"。如果尚未使用,请确保您的 base URL 指向 OrcaRouter (https://api.orcarouter.ai/v1)。由于是预览版,请全面测试:响应可能在风格或准确性上有所不同。您可以通过在配置中存储模型 ID,在应用程序中有条件地切换模型。监控性能和成本,确保预览版在全面推出前满足您的需求。
两种模型共享相同的基础架构和定价。标准版GPT-4o-mini是一种通用模型,未针对搜索进行专门优化。预览版则旨在提升从大量文本上下文中提取和综合信息的任务表现,例如搜索结果分析。实际应用中,预览版在处理包含大量事实的长提示时可能更加准确,而标准版更适合开放式对话、创意写作或无需搜索行为的任务。如果您的应用已适配标准版GPT-4o-mini,由于API完全一致,测试预览版的风险极低。
GPT-4o是OpenAI的旗舰多模态模型,具有更强的推理能力、图像理解能力,以及更大的上下文窗口(同样支持128k token)。然而,它的成本显著更高(每百万token $2.50/$10),且速度较慢。GPT-4o-mini的搜索预览版在速度和成本上牺牲了一定推理深度。对于纯文本且无需复杂多步骤推理的任务,预览版可能以较低成本满足需求。而对于需要多模态输入或更高准确率的任务,GPT-4o仍然更具优势。
Claude 3 Haiku (Anthropic) 和 Gemini 1.5 Flash (Google) 同样是速度快、成本低且支持大上下文窗口的模型。Haiku 的上下文窗口为 200k tokens,Flash 则高达 1M。定价各有不同。GPT-4o-mini 的搜索预览版本之所以独特,是因为它是由 OpenAI 针对搜索场景调优的模型预览。在没有直接基准比较的情况下,很难断言哪个模型最佳。这三者在信息检索任务中都表现出色。选择可能取决于生态兼容性、提示风格以及在你数据上的具体表现。OrcaRouter 提供对所有这些模型的统一访问接口,方便进行 A/B 测试。
如果您的首要需求是成本效益、快速响应时间,并且您处理的输入仅为文本且无需高级推理,请选择此模型。它适合高容量应用场景,其中每个请求的上下文较大(例如处理长文档),但输出相对较短。如果您需要尽可能高的准确性,尤其是在处理模糊或复杂查询时,或者需要处理图像,那么GPT-4o是更好的选择。预览模型也适用于在投入更高成本模型之前进行原型设计和测试。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini-search-preview-2025-03-11",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatstreamstructured_outputsweb_search_options| 输入 / 1M tokens | $0.150 |
| 输出 / 1M tokens | $0.600 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
GET /api/public/models/openai/gpt-4o-mini-search-preview-2025-03-11打开 @misc{orcarouter_gpt_4o_mini_search_preview_2025_03_11,
title = {openai/gpt-4o-mini-search-preview-2025-03-11 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11}
}openai. (n.d.). openai/gpt-4o-mini-search-preview-2025-03-11 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11