最新的 GPT-4 Turbo 模型，支持视觉功能。视觉请求现已支持 JSON 模式和函数调用。 训练数据截止日期：2023 年 12 月。
GPT-4 Turbo 是 OpenAI 发布的一款大型语言模型，可同时处理文本和图像输入。它基于 GPT-4 的架构构建，但将上下文窗口扩展至 128,000 个令牌——约相当于 300 页文本——同时保持最大输出为 4,096 个令牌。该模型旨在处理复杂推理任务、生成代码以及理解视觉信息。在 OrcaRouter 上，它以模型 ID "openai/gpt-4-turbo" 提供，并通过兼容…
GPT-4 Turbo 展现了强大的推理能力，特别是在数学（MATH-500 得分为 73.7）、代码生成和多步骤问题解决方面。它能够遵循长对话中的复杂指令，在数千个 token 上保持一致性，并生成连贯的技术解释。该模型还能够分析图像——例如截图、图表和印刷文字——当输入包含图像数据时。然而，它并非在所有领域都专精；对于简单的分类或提取任务，像 GPT-3.5 Turbo 这样较小的模型可能已经足够且更具经济性。
一个128,000令牌的上下文窗口允许你输入大型文档——整本书籍、冗长的法律合同、完整的代码库或长对话——而无需将内容分割成块。例如，你可以粘贴一整篇研究论文，并就任何部分提问，而不会丢失前文。这对于需要模型看到整体结构的任务尤其有价值，比如文档摘要、立法分析或调试大型代码库。在OrcaRouter上，此上下文按输入令牌计费，因此输入一个100K令牌的文档大约每查询花费1.00美元（100K * $10/1M）。
GPT-4 Turbo能够接收图像作为输入的一部分，从而理解照片、图表、插图和屏幕截图等视觉内容。该模型可以描述图像中的内容，回答关于图像内容的问题，甚至进行图表推理（例如，解读流程图或曲线图）。图像通常以URL或base64编码数据的形式提供，嵌入在OpenAI的聊天补全格式中。图像处理的成本计入输入token计数，根据OpenAI的定价公式，该计数基于图像分辨率和细节级别计算得出。
如果您的用例涉及高吞吐量、低复杂度的任务（例如简单的文本分类、基于短上下文的问答或重复性信息提取），使用较小的模型（如GPT-3.5 Turbo或经过专门微调的模型）可能以更低的成本获得可接受的结果。GPT-4 Turbo的输入令牌定价约为GPT-3.5 Turbo的20倍，输出令牌定价约为30倍。在延迟敏感的应用程序中，GPT-3.5 Turbo的响应速度也更快。因此，需要在准确性与成本之间进行权衡评估；对于许多生产流水线，采用混合方法（即使用廉价模型进行初步筛选，再用GPT-4 Turbo处理复杂案例）可以优化支出。
GPT-4 Turbo在MATH-500基准测试中获得了73.7分，该测试评估模型解决从小学到高中数学问题的能力，涵盖代数、几何和微积分等主题。这个分数表明其数学推理能力较强，但并非最先进水平；一些专门的模型或更大的集成模型可以超过80分。该基准测试适用于比较模型在系统性解决问题方面的表现，而非原始的语言生成能力。在OrcaRouter上，您可以通过API提交一组数学问题并比较结果来亲自测试这一点。
优势包括深度推理、处理长上下文的能力，以及在生成和解释代码方面的熟练度。它在结合文本与视觉的任务（如解读图表）上也表现出色。局限性包括输出上限相对较小（4096个token），这意味着生成长文本（例如撰写完整章节）需要多次调用。该模型在某些边缘情况下可能产生错误答案——并非万无一失。此外，由于延迟高于小型模型，它可能不适合实时应用。未提供速度指标，但坊间报告表明它比GPT-3.5 Turbo稍慢。
OrcaRouter上GPT-4 Turbo的确切延迟数据尚未公布，性能取决于提供商的基础设施和请求负载。实际上，由于参数数量更多和上下文处理，该模型的推理时间比小模型更长。对于短输入，响应时间通常为几秒，而非常大的上下文（例如100K tokens）会显著增加延迟，因为模型必须在生成输出之前处理所有token。OrcaRouter并未宣传任何特定的加速功能。对于需要更低延迟的交互式应用，用户可能更倾向于更快的模型，而复杂任务的批处理仍然可行。
定价按token计算：每100万输入token收费10.00美元，每100万输出token收费30.00美元。这与OpenAI的直接费率一致，OrcaRouter不加收任何额外费用。输入token包括系统消息、用户消息、图像token以及任何对话历史记录。输出token是模型生成的响应。每次请求的总成本计算公式为：(输入token数 * $0.00001) + (输出token数 * $0.00003)。没有最低费用或月度承诺；你只需为实际使用的token付费。
GPT-4 Turbo 比 GPT-3.5 Turbo（每100万 token 0.50/1.50美元）等较小模型贵得多，但在推理和上下文处理方面表现更优。对于仅需基础能力的任务，使用GPT-4 Turbo可能导致不必要的成本。另一方面，与原始GPT-4（每100万 token 30/60美元）相比，GPT-4 Turbo在输入方面便宜33%，输出方面便宜50%，使其成为高性能需求的更具性价比选项。OrcaRouter的零加价定价确保您支付与直接使用OpenAI相同的费率。
OrcaRouter 并未针对 GPT-4 Turbo 提供任何特定折扣、批量定价或响应缓存，仅按所述的每 token 费率收费。定价十分直接：您只需支付 OpenAI 收取的费用，无任何附加费用。不存在承诺折扣、预购 token 或阶梯定价。未宣传对提示或响应进行缓存，因此每次请求均按标准费率计费。如果您预计会有非常高的使用量，建议联系 OrcaRouter，或考虑使用带有自有缓存层的专用 API 端点，以减少对相同输入的重复开销。
输出令牌的成本是输入令牌的三倍（每100万令牌$30 vs. $10）。因此，长生成内容会迅速增加费用。例如，生成一个2000令牌的响应需花费$0.06，而4000令牌的响应则需$0.12。为控制成本，可考虑设置更低的max_tokens参数、使用更简短的提示词，或采用迭代优化方式——让模型先生成较短的输出，仅在需要时通过单独调用对其进行扩展。对于摘要等任务，若上下文并非关键因素，则选用输出令牌成本更低的模型可能更合适。
您可以通过OrcaRouter的OpenAI兼容API调用GPT-4 Turbo。首先，从OrcaRouter获取API密钥。然后，将基础URL设置为 https://api.orcarouter.ai/v1 ，并在聊天补全请求中使用模型ID "openai/gpt-4-turbo"。例如，使用OpenAI Python SDK时，您可以创建一个客户端，将base_url指向OrcaRouter，并设置model="openai/gpt-4-turbo"。请求和响应格式与OpenAI原生API完全相同，因此从直接使用OpenAI切换时只需极少的代码更改。
该API支持标准的OpenAI聊天补全参数：messages（数组，包含role和content）、temperature（0-2）、top_p、n、stream、stop、max_tokens（上限为4096）、presence_penalty、frequency_penalty、logit_bias、user，以及函数调用/工具。对于图像输入，你可以包含一个类型为"image_url"和url的内容部分。该模型不支持超出OpenAI规范的额外参数。所有参数的工作方式与OpenAI GPT-4 Turbo文档中描述的一致。请注意，max_tokens参数不能超过4096，这是模型的输出限制。
迁移非常简单：只需将您的 OpenAI 基础 URL 替换为 OrcaRouter 的端点 https://api.orcarouter.ai/v1，并将模型名称改为 "openai/gpt-4-turbo"。使用您的 OrcaRouter API 密钥替代 OpenAI API 密钥。其余代码——消息格式化、流式传输、错误处理——无需修改，因为 API 完全兼容。如果您使用的是 OpenAI Python 库，只需将 openai.api_base（或更新版本中的等效项）设置为 OrcaRouter URL 即可。这样您就可以通过 OrcaRouter 测试 GPT-4 Turbo，而无需重写任何逻辑。
GPT-4 Turbo 是 GPT-4 的进化版本，拥有更大的上下文窗口（128K，而早期 GPT-4 变体最高为 32K），并且每个 token 的定价更低：每 1M token 收费 $10/$30，而 GPT-4 为每 1M token 收费 $30/$60。两个模型都支持视觉能力，但 GPT-4 Turbo 在效率和小幅推理质量上也有所提升。在 MATH-500 等基准测试中，GPT-4 Turbo 得分为 73.7，而最初的 GPT-4（上下文为 8K）在较小的 MATH 测试集上得分约为 52.9——由于测试版本不同，数字不可直接比较，但改进具有指示性。在 OrcaRouter 上，较旧的 GPT-4 模型也以各自的价格提供。
GPT-3.5 Turbo 成本远低（每100万token $0.50/$1.50）且速度更快，适合高流量、低延迟应用。但其上下文窗口较小（根据变体为16K或4K），推理能力、代码生成和视觉能力也明显较弱。对于需要多步推理或大上下文的任务，GPT-4 Turbo 显然更胜一筹。在数学推理的直接对比中，GPT-3.5 Turbo 在 MATH-500 上的得分通常低于30，而 GPT-4 Turbo 则达到73.7。简单任务和节省成本请选 GPT-3.5 Turbo，但若准确性或上下文长度至关重要，则应依赖 GPT-4 Turbo。
未提供直接的横向对比，但根据公开知识，Anthropic Claude 3 与 Google Gemini 1.5 的能力大致相当。Claude 3 Opus 拥有 200K 上下文窗口且推理能力可比，而 Gemini 1.5 Pro 可处理高达 100 万 tokens。不过，这两款模型的定价和性能表现各有不同。在 OrcaRouter 上，您还可以接入其他供应商的模型进行对比。GPT-4 Turbo 凭借其在价格、推理质量及开发者生态系统（OpenAI SDK）之间的平衡，依然具备竞争力。在视觉任务方面，Claude 与 Gemini 同样支持图像输入。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-turbo",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 输入 / 1M tokens | $10.00 |
| 输出 / 1M tokens | $30.00 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
@misc{orcarouter_gpt_4_turbo,
title = {GPT-4 Turbo API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-turbo}
}OpenAI. (2024). GPT-4 Turbo API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-turbo