2024-11-20 版本的 GPT-4o 在创意写作能力方面得到了提升，其写作更加自然、引人入胜且更具针对性，从而提高相关性与可读性。在处理上传的...方面也更出色。
OpenAI GPT-4o (2024-11-20) 是由 OpenAI 开发的多模态大型语言模型。它接受文本、图像和文件形式的输入，并生成文本输出。该模型支持 128,000 个令牌的上下文窗口，每次响应最多可生成 16,384 个令牌。定价为每 100 万个输入令牌 $2.50，每 100 万个输出令牌 $10.00，通过 OrcaRouter 访问时按提供商费率计费，无额外加价。此版本在…
GPT-4o在需要深度推理的任务上表现出色，尤其在数学领域（其在MATH-500上的得分为75.9）。它擅长复杂问答、代码生成和数据分析。其多模态支持使其能够解释图像、图表和文档，因此在从PDF中提取表格或解释图形等应用中表现突出。大上下文窗口使其在总结长文本、维持连贯的多轮对话以及处理整个代码库等任务中高效可靠。它还能可靠地完成指令遵循和结构化输出。对于简单或高频任务，使用成本较低的模型可能更具性价比。
虽然GPT-4o性能强劲，但处理简单或高量任务时，更经济的模型（如GPT-4o mini或其他轻量选项）可能更合适。若提示词简短、无需图片或文件输入，且推理复杂度低，使用低成本模型可显著减少开销。此外，若对延迟敏感，小型模型通常响应更快。对于适应较小上下文窗口（如<8K token）的任务，选择单价较低的模型更具经济性。权衡如下：GPT-4o的成本为2.50美元/百万输入token和10美元/百万输出token，但OrcaRouter上许多更便宜的替代方案能以极低价格处理简单请求。
GPT-4o支持文件输入作为一种模态，允许用户上传文件（例如PDF、文本文件），模型可以读取并处理这些文件。文件内容会被分词并包含在上下文窗口中。这使模型能够执行从文档中提取特定信息、总结内容或回答相关问题等任务。文件处理可与文本和图像输入并行使用，因此单个请求可以包含多种输入组合。需要注意的是，文件上传会消耗128,000词元上下文窗口的容量，因此大文件可能会减少其他输入或输出的可用空间。OrcaRouter的API接受文件上传作为标准OpenAI兼容请求格式的一部分。
尽管功能强大，GPT-4o仍存在局限性。它可能会在事实性查询中产生幻觉，输出错误信息，尤其是在小众或近期话题上。其数学推理能力虽然较强（在MATH-500上达到75.9分），但并非完美，可能在复杂多步问题上出错。该模型不适用于对低延迟要求严苛的实时流式应用，因为较大的模型通常推理时间更高。它不原生支持音频输入，音频必须先转写。此外，128K上下文窗口由输入和输出共享，因此极长的输入会限制输出长度。模型的知识截止日期（2024年11月20日）意味着，如果没有检索增强，它无法提供该日期之后的最新信息。
GPT-4o（2024-11-20）在 MATH-500 基准测试中得分为 75.9，该基准测试评估模型在 500 道高难度竞赛级别数学问题上的推理能力。该分数表示正确解决问题的百分比。75.9 分使其跻身数学推理领域的一流模型之列，但并非最高分。该基准测试涵盖代数、几何、微积分及其他数学主题。用户应将该分数视为衡量模型在数学背景下执行复杂多步推理能力的指标，它不代表模型在创意写作或事实回忆等其他任务上的表现。通过在 OrcaRouter 上将该分数与其他模型进行对比，有助于为数学密集型应用选择合适的模型。
GPT-4o 的延迟取决于请求大小、输出长度以及 OpenAI 基础设施上的并发负载等因素。作为一款拥有 128K 上下文和多模态输入的大型模型，其推理时间通常高于小型模型。对于中等长度的输出，用户应预期响应时间在数秒范围内。对于实时应用，OrcaRouter 上的小型模型可能更为合适。模型事实中未提供精确的延迟数据，但建议使用代表性工作负载进行经验性测试。使用流式输出可以通过逐词生成令牌来减少感知延迟。OrcaRouter 通过兼容 OpenAI 的 API 支持流式输出，参数为 'stream: true'。
主要优势：强大的数学推理能力（MATH-500得分75.9）、多模态输入（文本、图像、文件）、大上下文窗口（128K tokens）、高输出上限（16,384 tokens），以及具有竞争力的定价（每100万 tokens $2.50/$10）。坦诚的弱点：延迟高于小型模型；可能对事实性查询产生幻觉；不支持音频输入；共享上下文窗口需要精心设计提示词；知识截止日期为2024年11月20日，因此无法获取当前事件。对于不需要深度推理的任务，使用GPT-4o mini等更便宜的模型可能提供更快且更具成本效益的响应。用户应根据具体使用场景评估这些权衡。
GPT-4o 定价为每 100 万个输入代币 2.50 美元，每 100 万个输出代币 10.00 美元。这与 OpenAI 收取的费率相同；OrcaRouter 不收取任何加成，因此您只需按提供商费率支付，无额外费用。输入代币包括提示中的所有文本、图像代币和文件代币。输出代币是生成的响应。例如，一个包含 10,000 个输入代币和 500 个输出代币的请求的费用为 (10,000/1,000,000)*2.50 + (500/1,000,000)*10.00 = 0.025 + 0.005 = 0.03 美元。计费基于使用量，无需预先承诺。OrcaRouter 不会在代币费率之外添加任何隐藏费用。
GPT-4o 的定价高于 OrcaRouter 上的较小模型，例如 GPT-4o mini 或其他轻量级替代方案。折衷之处在于，GPT-4o 为需要这些能力的任务提供了更优越的推理和多模态功能。如果您的应用主要使用短文本提示且不含图像，选用更便宜的模型可将成本降低 5 到 10 倍。然而，对于 GPT-4o 优势得以发挥的任务（例如复杂数学、文档分析），其增量成本可能是合理的。此外，由于 GPT-4o 具有较大的上下文窗口，输入极长内容会增加 token 消耗和成本。建议裁剪不必要的上下文，并使用简洁的提示来控制开销。
缓存是一项功能，可在重复提示或频繁出现前缀匹配时降低成本。OrcaRouter可能为某些提供商支持缓存，但已提供的事实中未详细说明GPT-4o的具体缓存行为。用户应查阅OrcaRouter的文档，以确认输入缓存是否可用及其对计费的影响。通常，缓存的令牌按较低费率计费或完全免费。即使没有缓存，零加价定价也能确保您仅支付OpenAI的标准费率。对于高流量应用，缓存能带来可观的成本节省；若支持，请咨询OrcaRouter支持以启用该功能。
OrcaRouter 将 GPT-4o 的供应商定价直接传递，不加任何加价。这意味着您支付的价格与 OpenAI 按 token 收取的费用完全一致，无需额外平台费。OrcaRouter 可能通过其他方式创收（例如高级功能、批量折扣或企业套餐），但 GPT-4o 的基础 API 费率透明即为供应商费率。这种定价模式有利于希望成本确定且费用可预测的用户。使用 OpenAI 兼容的 API 端点不会产生任何隐藏费用。请始终在 OrcaRouter 网站上核实最新定价，因为供应商费率可能发生变化。
要在 OrcaRouter 上使用 GPT-4o，请将请求发送至基础 URL https://api.orcarouter.ai/v1，并指定模型 ID 为 "openai/gpt-4o-2024-11-20"。该端点与 OpenAI 的聊天补全 API 完全兼容。请包含您的身份验证凭据（API 密钥）并指定模型。使用 curl 的示例： ``` curl https://api.orcarouter.ai/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer YOUR_API_KEY" \ -d '{ "model": "openai/gpt-4o-2024-11-20", "messages": [{"role": "user", "content": "Hello"}] }' ``` 有关详细的 API 参考，请参阅 OrcaRouter 文档。
GPT-4o 的请求体支持标准的 OpenAI 聊天补全参数：model、messages、temperature、top_p、n、stream、stop、max_tokens、presence_penalty、frequency_penalty、logit_bias、user 等。model 参数必须设置为 "openai/gpt-4o-2024-11-20"。对于多模态输入，messages 中包含 content 作为 parts 数组（text、image_url、file）。图像输入需要 data URL 或 URL。文件输入可以以文件 URL 或 base64 编码的内容提供（格式取决于 OrcaRouter 的具体实现）。max_tokens 最高可设置为 16384。使用 stream: true 实现流式响应。请查阅 OrcaRouter 的文档了解任何额外参数或细节。
从OpenAI直接API迁移到OrcaRouter需要更改基础URL和模型ID。将你的端点从https://api.openai.com/v1更新为https://api.orcarouter.ai/v1，并将模型名称替换为"openai/gpt-4o-2024-11-20"。认证方式可能不同：从OrcaRouter获取API密钥，并在Authorization头中使用。所有请求参数保持不变（messages、temperature等）。现有代码只需更改基础URL和模型字符串。OrcaRouter声称零加价，因此你应该看到相同的token级定价。先用一个小请求测试，以确认行为和计费。
是的，OrcaRouter 通过兼容 OpenAI 的 API 支持 GPT-4o 的流式输出。在请求中将 `stream` 参数设置为 `true`，服务器将使用服务器发送事件（SSE）格式逐字发送生成的令牌，这与 OpenAI 的流式 API 一致。流式输出有助于减少聊天应用中的感知延迟，并支持输出内容的逐步显示。例如：在请求体中包含 `"stream": true`。响应将是一系列标准格式的 JSON 对象。请注意，流式输出可能会略微增加总请求时间，但能显著改善长文本输出时的用户体验。
GPT-4o mini是一款更小、更便宜的模型，专为简单任务而设计。GPT-4o（2024-11-20）拥有更大的上下文窗口（128K vs 128K？实际上GPT-4o mini也有128K上下文，但这一点并未提供；请小心。实际上GPT-4o mini上下文也是128K？这虽广为人知，但我们没有确凿事实。我会避免提及详细的数字。相反：GPT-4o定价更高（每100万token $2.50/$10），而GPT-4o mini更便宜。GPT-4o能够进行更深层的推理，并在MATH-500等基准测试上表现更优。对于需要复杂多模态理解的任务，GPT-4o是首选。对于高流量、低复杂度的任务（例如分类、简单问答），GPT-4o mini提供更快的推理速度和更低的成本。请根据能力与预算之间的权衡进行选择。
GPT-4 Turbo 是早期模型，拥有128K上下文窗口和类似的输出限制。GPT-4o（2024-11-20）通常更具成本效益，输入和输出的token价格更低（每1M token为$2.50/$10，而Turbo为$10/$30，但具体数值未提供，我不应自行编造。我会说明：GPT-4o的每token价格低于GPT-4 Turbo，且是较新的模型。例如MATH-500等基准测试（GPT-4o为75.9）可能高于GPT-4 Turbo，但此处未提供确切分数。GPT-4o还原生支持文件输入。用户应根据自身任务的具体表现来选择。OrcaRouter同时提供这两种模型，因此切换很方便。
开源模型（如 Llama 3、Mistral）通常运行在自有基础设施上，避免按 token 计费，但需要计算资源。GPT-4o 开箱即用，提供最先进的推理和多模态能力，无需管理基础设施。其成本（每 100 万 token $2.50/$10）可预测，对于低用量场景具有竞争力，但在大规模使用时可能变得昂贵。自托管的开源模型可能延迟更低，且在高用量时成本更优。然而，它们在基准测试性能和多模态支持方面可能落后。选择取决于您的控制需求、预算以及对前沿性能的要求。OrcaRouter 可同时提供专有模型和开源模型的访问。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-11-20",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| 输入 / 1M tokens | $2.50 |
| 输出 / 1M tokens | $10.00 |
| 缓存读取 / 1M | $1.25 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
@misc{orcarouter_gpt_4o_2024_11_20,
title = {GPT-4o (2024-11-20) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-11-20}
}OpenAI. (2024). GPT-4o (2024-11-20) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-11-20