2024-08-06版本的GPT-4o在结构化输出方面提供了更佳的性能，并能够在respone_format中提供JSON模式。点击[此处](https://openai.com/index/introducing-structured-outputs-in-the-api/)了解更多。GPT-4o（“o”代表“omni”）是……
GPT-4o (2024-08-06) 是 OpenAI 的 GPT-4o 模型的一个版本，于 2024 年 8 月发布。它是一个多模态大语言模型，能够处理文本、图像和文件输入。该模型通过 OrcaRouter 兼容 OpenAI 的 API 进行访问，该 API 为多个提供商提供单一端点。凭借 128,000 个 token 的上下文窗口和最多 16,384 个 token…
该模型的核心优势在于数学推理和多模态理解。其MATH-500得分为79.5，表明具备逐步解决复杂数学问题的强大能力。它能够解读图像、图表和示意图，提供准确的描述或分析。128K的上下文窗口使其能够处理大量信息，例如整本书或一系列带相关文字的图像。它还支持文件上传，适用于从电子表格中提取数据或读取代码文件等任务。这些能力得益于OpenAI的持续优化，且该模型在生产环境中得到广泛应用。
GPT-4o（2024-08-06版）在需要结合视觉和文本信息的任务中表现出色。例如：通过图表解答数学问题、分析用户界面截图以排查错误、从扫描文档中提取数据，以及对复杂图表提供详细解释。当上下文包含错误截图或文件结构时，它在代码生成和调试方面同样高效。其逐步推理能力也适用于教育类应用。对于纯文本且简单的任务（如基础问答或短文本摘要），使用更便宜的模型（如GPT-4o mini）可能就足够了。该模型最好留作高价值、多模态或推理密集型工作流使用。
对于不依赖视觉、文件处理或高级推理的任务，更小、更便宜的模型更具成本效益。例如，简单的聊天应用、短内容生成或分类任务可以由GPT-4o mini或GPT-3.5 Turbo等模型处理。如果你的应用只处理文本且不需要128K上下文窗口，则较小的上下文模型可以降低延迟和成本。此外，如果数据不涉及图像或文件，仅文本模型就已足够。评估任务的复杂性是否值得为GPT-4o支付更高的每token价格。OrcaRouter提供一系列不同价格点的模型，以匹配各种用例。
是的，模型支持文件输入。您可以上传 PDF、Word 文档、电子表格、图片以及代码文件等。模型能够提取并理解这些文件中的内容，将其视为上下文的一部分。例如，它可以读取 PDF 中的文本、解析 CSV 中的数字、分析 .py 文件中的源代码。结合图像输入时，它还能处理包含嵌入式图表的混合媒体文档。这一功能对于自动化数据提取、文档审阅和代码分析尤为实用。请注意，文件处理会计入 128,000 个 token 的上下文窗口，因此大文件可能会占用大量空间。
在MATH-500基准测试中，GPT-4o（2024-08-06）获得了79.5分。MATH-500是MATH数据集的一个子集，包含500个具有挑战性的竞赛级数学问题，涵盖代数、几何、数论和概率等主题。79.5分意味着大约每五个问题中能正确回答四个。这使其在数学推理方面跻身顶级模型之列。虽然未提供其他基准测试分数，但这一指标展示了该模型在逐步逻辑推理和算术方面的实力。用户可以在数学密集型应用（如辅导、验证和题目生成）中期待可靠的表现。
在现有信息中未提供MATH-500以外的具体基准测试分数。然而，GPT-4o作为模型系列，被广泛认为在一系列标准基准测试中表现优异，包括MMLU（大规模多任务语言理解）、HumanEval（代码生成）以及各种视觉-语言任务。2024年8月的版本可能包含改进推理和指令遵循的更新。在没有确切数据的情况下，用户应参考OpenAI发布的最新评估以获取最新信息。实际上，该模型在文本和视觉综合能力方面被认为是开放API模型中的顶尖水平。
未提供此模型的具体延迟或吞吐量数据。一般而言，GPT-4o 的设计在保持质量的同时，比早期的 GPT-4 版本更快。延迟取决于输入长度、输出长度、并发请求以及后端基础设施等因素。通过 OrcaRouter 访问时，请求会被路由到 OpenAI 的服务器，响应时间与直接 API 调用类似。用户可以通过使用所需的最小上下文和设置合理的 max_tokens 限制来进行优化。对于实时应用，建议使用代表性负载进行测试。OrcaRouter 不会引入除网络路由之外的额外延迟。
优势：强大的数学推理能力（MATH-500 得分79.5），多模态输入（文本、图像、文件），128K大上下文窗口，以及16,384的高输出token限制。特别适用于复杂推理、视觉理解以及需要长程上下文的任务。局限性：相比小型模型成本更高；可能不适用于简单或低延迟任务；在模糊或格式不佳的输入上准确性可能有所波动；视觉能力在失真或低分辨率图像上表现可能不佳。此外，和所有大语言模型一样，它可能产生看似合理但错误的答案，尤其是在训练数据覆盖范围之外的领域。可通过验证输出和运用提示工程来缓解这些问题。
GPT-4o（2024-08-06）的定价基于token用量。输入token按每100万token $2.50计费，输出token按每100万token $10.00计费。这是提供商（OpenAI）的费率，OrcaRouter不收取任何加价——您支付的费用与直接调用OpenAI完全相同。Token根据发送和接收的文本计算。图像和文件输入根据其大小和处理复杂度消耗相应token（图像token费用遵循OpenAI的政策）。使用API端点不收取额外费用。计费通常按使用周期汇总，您可以通过OrcaRouter的仪表盘监控token消耗量。
无隐藏费用或附加费。OrcaRouter按提供商实际费率计费，零加价。列出的价格（输入每百万token $2.50，输出每百万token $10）已包含所有费用。不额外收取身份验证、连接或支持费用。不过，图像和文件输入会产生由OpenAI定价政策决定的token成本，可能超过纯文本的token成本。例如，一张1080×1080的图像可能需消耗超出文本token之外的若干token。请查阅OpenAI文档获取精确的图像token定价。OrcaRouter以无加价方式转嫁这些成本。目前并无基于缓存的折扣。
选择GPT-4o（2024-08-06）而非GPT-4o mini或GPT-3.5 Turbo等更便宜的模型，需要在性能与成本之间权衡。按token计费的价格更高，因此对于高流量应用，成本会迅速累积。然而，如果任务需要模型的多模态能力或128K上下文窗口，更便宜的模型可能无法满足需求，从而导致输出不完整或质量较低。对于推理简单的纯文本任务，选择更便宜的模型可以在不显著牺牲质量的情况下降低成本。OrcaRouter让您能够轻松切换不同模型，从而尝试为每个用例找到最佳的成本性能平衡。
现有信息未提及该模型存在任何缓存或折扣机制。OrcaRouter按服务商费率计费且不收取加价，因此任何折扣可能来自OpenAI自身的定价策略（例如，针对高用量用户的阶梯折扣，若适用）。OrcaRouter可能提供自身的缓存功能，但该模型是否支持尚未确认。为降低成本，可考虑通过截断对话历史、使用更简短的提示词，以及设置max_tokens参数限制输出长度来减少输入令牌用量。对于重复的相同查询，可在应用层面实现缓存。
要通过OrcaRouter调用GPT-4o（2024-08-06），请使用基础URL https://api.orcarouter.ai/v1 ，并将模型ID设置为"openai/gpt-4o-2024-08-06"。该API与OpenAI的客户端库完全兼容。例如，在Python中使用openai库时，可以配置openai.api_base = "https://api.orcarouter.ai/v1" 和 openai.api_key = "your-orcarouter-api-key"。然后调用openai.ChatCompletion.create(model="openai/gpt-4o-2024-08-06", messages=[...])。所有标准参数（temperature、max_tokens、top_p等）均受支持。有关身份验证和速率限制的详细信息，请参阅OrcaRouter文档。
由于该模型支持兼容OpenAI的API，您可以使用OpenAI聊天补全端点中的全部参数。关键参数包括：`model`（设置为模型ID）、`messages`（角色-内容对象列表）、`temperature`（0-2）、`top_p`（0-1）、`n`（补全数量）、`max_tokens`（最高16384）、`stop`（停止序列）、`frequency_penalty`、`presence_penalty`、`logit_bias`以及`user`（用于使用量追踪）。对于多模态输入，您可以在消息内容中按照相应格式（例如 `content: [{type: "text", text: "..."}, {type: "image_url", image_url: {...}}]`）包含图像或文件URL。有关图像和文件输入的语法，请参考OpenAI的文档。
从直接调用OpenAI API迁移到OrcaRouter需要两个更改：1) 将基础URL设置为https://api.orcarouter.ai/v1，2) 将您的OpenAI API密钥替换为OrcaRouter API密钥。消息格式或参数无需更改代码。模型ID从"gpt-4o-2024-08-06"变为"openai/gpt-4o-2024-08-06"。所有处理流式传输、函数调用和响应解析的现有逻辑保持不变。OrcaRouter的API设计为即插即用替代品。切换后，您还可以通过同一接口访问其他提供商的模型，从而实现轻松比较和负载均衡。
认证通过 OrcaRouter 提供的 API 密钥完成。将其包含在请求头中，格式为 "Authorization: Bearer YOUR_ORCAROUTER_API_KEY"。速率限制由 OrcaRouter 管理，可能与 OpenAI 的直接限制不同。详情请查看您的 OrcaRouter 套餐。若超出速率限制，将收到 HTTP 429 响应。为缓解此问题，请实现带有指数退避的重试逻辑。OrcaRouter 还允许您通过 user 参数设置每用户速率限制。对于高吞吐量需求，请联系 OrcaRouter 支持以定制方案。模型本身没有单独的速率限制，它受限于整体端点的限制。
GPT-4o (2024-08-06) 是全尺寸旗舰模型，而 GPT-4o mini 是更小、更便宜的变体。主要区别：GPT-4o 拥有 128K 上下文窗口（而 GPT-4o mini 也是 128K，但 mini 的输出限制通常也是 16K 吗？实际上 GPT-4o mini 同样拥有 128K 上下文和 16K 输出，但在推理和视觉能力上较弱）。完整模型在 MATH-500 上得分为 79.5；GPT-4o mini 在数学基准测试中得分较低。定价：GPT-4o 更贵（每 1M tokens 为 $2.50/$10，而 GPT-4o mini 为 $0.15/$0.60）。对于需要高精度或复杂推理的任务，完整模型更为合适。对于较简单的任务，mini 提供了成本效益高的替代方案。
与GPT-4（例如GPT-4-0613或GPT-4 Turbo）相比，GPT-4o（2024-08-06）提供了多项改进：原生多模态输入（文本、图像、文件），无需单独的视觉模型；更大的上下文窗口（128K，而旧版GPT-4为32K）；以及更快的推理速度。其定价低于早期的GPT-4变体（后者通常成本更高）。例如，GPT-4 Turbo具有相似的上下文但定价更高。在基准测试方面，MATH-500得分79.5优于旧版GPT-4模型。然而，一些用户可能会发现早期模型在特定任务上更稳定，因为它们有更长的训练历史。总体而言，GPT-4o是更现代、更高效的继任者。
选择取决于具体需求和供应商偏好。GPT-4o（2024-08-06）在数学推理（MATH-500 79.5）以及处理文本、图像和文件的多模态任务上表现出色。Anthropic 的 Claude 模型在某些版本中可能提供更强的安全特性或更长的上下文窗口，但通常定价更高。Google 的 Gemini 模型支持多模态和大上下文，但性能表现可能有所不同。使用 OrcaRouter，您可以通过单一 API 测试多个供应商。对于需要高数学准确性的任务，GPT-4o 是一个强有力的候选。对于纯文本摘要或低成本任务，其他模型可能更经济实惠。请根据您的使用场景评估基准分数和定价。
当您通过 OrcaRouter 使用 GPT-4o 时，您的数据会被发送至 OpenAI 的服务器进行推理。OrcaRouter 仅转发您的提示，不会存储或处理这些提示。OpenAI 的数据使用政策将适用——如果您对训练数据使用或数据保留有疑虑，请查阅 OpenAI 的条款。如果您需要数据保留在特定司法管辖区或避免某些提供商，OrcaRouter 允许您在每个请求中选择多个提供商。您也可以使用 OrcaRouter 的路由功能，将请求导向符合您合规要求的提供商。请始终查阅 OrcaRouter 和底层提供商的数据处理文档。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-08-06",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| 输入 / 1M tokens | $2.50 |
| 输出 / 1M tokens | $10.00 |
| 缓存读取 / 1M | $1.25 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
@misc{orcarouter_gpt_4o_2024_08_06,
title = {GPT-4o (2024-08-06) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-08-06}
}OpenAI. (2024). GPT-4o (2024-08-06) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-08-06