OpenAI的GPT‑4 Turbo具有128K上下文，支持文本/图像输入，通过OrcaRouter的API访问。
openai/gpt-4-turbo-2024-04-09 是 OpenAI 于 2024 年 4 月 9 日发布的 GPT-4 Turbo 模型的一个特定版本。它同时支持文本和图像输入，并提供 128,000 个 token 的上下文窗口，使其能够在单次请求中处理非常长的对话或文档。该模型每次调用最多可生成 4,096 个输出 token。它在 MATH-500 基准测试中取得 73.7…
该模型可执行多种自然语言任务：摘要、翻译、问答、代码生成与创意写作。凭借其128K Token的上下文能力，单次即可分析整本书籍或大型代码库。同时支持图像处理，因此能回答关于照片、图表或扫描文档的问题。该模型在MATH-500测试（73.7分）中的强劲表现表明它能逐步解决复杂数学问题。为获得最佳效果，请提供清晰指令，并利用系统消息设定行为。用户可通过OrcaRouter的API（地址：https://api.orcarouter.ai/v1）以模型ID "openai/gpt-4-turbo-2024-04-09" 进行访问。
GPT-4 Turbo 功能强大但相对昂贵，每百万输入令牌收费10美元，每百万输出令牌收费30美元。对于不需要深度推理或大量上下文的任务，较轻量的模型（如 GPT-3.5 Turbo，每百万令牌价格约0.5–1.5美元）可能足够且经济得多。例如简单的文本分类、基础聊天机器人生成或短篇内容生成。此外，如果您的应用不需要多模态输入或非常大的上下文窗口，较小的模型可以减少延迟和成本。OrcaRouter 允许您通过更改 API 调用中的模型 ID 在模型之间切换。
是的，GPT-4 Turbo（2024-04-09）除了文本之外也接受图像输入。您可以在API请求中以base64编码数据或URL的形式提供图像。该模型可以解释照片、图表、图形以及图像中的文本（例如截图）。这使得它适用于视觉任务，如图像字幕生成、视觉问答和包含扫描页面的文档分析。使用图像时，token成本会包含图像的视觉token——通常每个图像消耗的token与其分辨率成正比。确切的token计算由OpenAI定义；详情请参阅其文档。通过OrcaRouter，您发送的请求格式与OpenAI API相同。
128K token 的上下文窗口（约 96,000 个单词）非常适合需要理解超长序列的任务。例如，在单次 API 调用中处理整本书或长篇法律文档、分析完整的代码仓库，或者维护涵盖数百轮对话的对话历史。它还支持在长推理链上使用“思维链”提示等技术。但请注意，模型的注意力复杂度可能会在处理超长输入时增加延迟。对于大多数生产应用场景，8K–32K 的上下文窗口通常已足够；仅在任务确实受益于扩展内存时才充分利用完整的 128K。
MATH-500基准测试包含500道涵盖代数、几何、数论等多个领域的具有挑战性的数学问题。73.7的分数表明GPT-4 Turbo正确解答了其中约73.7%的问题。这是一个强劲的表现，使其跻身数学推理领域顶尖模型之列。作为背景，早期的GPT-4模型在类似的数学基准测试中得分较低。该分数表明该模型能够可靠地处理逐步推理，这对于辅导系统、自动数学检查以及复杂数据分析而言十分有用。请注意，性能可能因问题领域而异；该模型在高度专业化或模棱两可的问题上仍可能出错。
OpenAI 未公布该模型的确切延迟数据。通常，GPT-4 Turbo 比原始 GPT-4 更快，但慢于 GPT-3.5 Turbo 或 GPT-4o Mini 等小型模型。实际响应时间取决于输入长度、输出长度、请求量及服务器负载。OrcaRouter 优化了到 OpenAI 端点的路由，但除网络跳转外不会增加额外延迟。对于延迟敏感型应用，建议使用总 Token 消耗更低的更快模型。如需即时响应，可通过 OrcaRouter 的 API 测试该模型，并针对具体工作负载测量性能。
与所有大型语言模型一样，GPT-4 Turbo 有时会生成错误或毫无意义的信息（幻觉）。它也可能过于冗长，回答比必要的内容更长。虽然数学能力较强，但在近期事件的事实准确性上可能有所不足（训练数据截止时间未明确；假定知识截至2024年初）。该模型不支持与较新版本相同的函数调用方式，但请求格式中可接受工具使用模式。此外，不同调用之间无法保证格式一致。对于安全关键任务，请务必验证输出。OrcaRouter 按原样提供该模型，不加额外过滤。
OrcaRouter 以零加价的方式传递 OpenAI 的定价。费用为每 100 万个输入代币 10.00 美元，每 100 万个输出代币 30.00 美元。输入代币包括文本和图像代币（图像代币数量由 OpenAI 算法确定）。输出代币是由模型生成的。由于没有加价，您看到的价格就是 OpenAI 的实际收费。计费基于 OrcaRouter 记录的使用代币数。没有额外费用或最低消费。您可以在 OrcaRouter 仪表盘中监控使用情况并设置消费限额。
OrcaRouter 不为此模型提供令牌缓存功能；每次 API 请求均按实际令牌数量计费。目前不提供批量折扣或承诺使用折扣。定价严格按描述中的按令牌计费。为降低成本，您可以优化提示词以减少令牌使用量（例如，缩短系统消息、截断不需要的上下文）。另外，对于不需要 GPT-4 Turbo 全部功能的任务，可以考虑使用 OrcaRouter 上更便宜的模型，如 GPT-3.5 Turbo 或 GPT-4o Mini。
输出令牌的成本是输入令牌的三倍（每百万个$30 vs $10）。因此，生成长回复会显著增加总成本。对于对成本敏感的应用程序，考虑将max_tokens参数限制在必要的最小长度。此外，包含大量图像的提示可能会消耗大量输入令牌（每张图像可能消耗数百个令牌）。在扩展之前务必估算令牌使用量。单个128K令牌的输入仅输入成本就高达$1.28，加上128K输出（如果生成的话）则为$3.84。实际中，典型请求使用的令牌数量要少得多。
您可以使用OpenAI的tokenizer或OrcaRouter内置的token计数功能。对于文本，1个token约等于0.75个英文单词。对于图片，token消耗取决于图片尺寸和细节级别，OpenAI的文档提供了计算公式。您也可以发送一个小样本请求，并检查API响应中的usage字段（包含prompt_tokens、completion_tokens和total_tokens）。乘以每个token的价格即可得出成本。OrcaRouter还会在日志中显示每次请求的成本。请注意，最大输出为4,096个token，因此每次请求的输出成本上限为0.12288美元（4,096 * $30/1,000,000）。
使用OrcaRouter的OpenAI兼容API端点：https://api.orcarouter.ai/v1。将模型参数设置为"openai/gpt-4-turbo-2024-04-09"。在Authorization标头中包含你的OrcaRouter API密钥（Bearer your_key）。请求格式与OpenAI的Chat Completions API相同。使用Python和openai库的示例：设置openai.base_url = "https://api.orcarouter.ai/v1"和openai.api_key = "orcarouter_key"。然后调用openai.chat.completions.create(model="openai/gpt-4-turbo-2024-04-09", messages=[...])。你可以传递标准参数，如temperature、top_p、max_tokens（最大4096）。
支持所有标准的 OpenAI Chat Completions 参数，包括：temperature（0-2，默认1）、top_p（0-1，默认1）、max_tokens（最多4096）、n（完成数）、stop sequences、frequency_penalty、presence_penalty 和 logit_bias。对于多模态请求，请包含一个 content 数组，其中包含类型为 "text" 和 "image_url" 的元素。OrcaRouter 将这些参数直接传递给 OpenAI 的 API。请注意，某些高级功能如 function calling 可能有效，但本模型版本尚未正式文档说明；请测试确认。您还可以通过设置 stream=True 来流式传输响应，这将返回服务器发送的事件（server-sent events）。
迁移过程非常简单：将基础URL从 https://api.openai.com/v1 改为 https://api.orcarouter.ai/v1，并将您的API密钥替换为您的OrcaRouter密钥。更新模型名称为"openai/gpt-4-turbo-2024-04-09"。所有消息格式、系统提示、工具定义等保持不变。OrcaRouter作为一个透明网关，返回的响应与OpenAI的返回完全一致（只要模型和参数相同）。您可以通过发送几个请求并比较输出来测试迁移。无需对提示工程进行任何修改。
与原始GPT-4（2023年3月发布）相比，GPT-4 Turbo在多个方面有所改进：更大的上下文窗口（128K vs. 8K/32K）、更低的定价（每百万token $10/$30 vs. ~$30/$60）以及更快的响应速度。MATH-500得分73.7，显著高于早期GPT-4在类似基准测试中的表现。不过，部分用户反映GPT-4 Turbo在遵循格式指令方面可能略逊于GPT-4。对于大多数任务，建议首选GPT-4 Turbo，除非你特别需要GPT-4的行为模式。通过OrcaRouter，你可以同时访问这两个模型并直接比较输出结果。
GPT-4o（OpenAI后续的多模态模型）提供原生多模态能力、更快的响应速度以及更强的视觉理解能力，并支持128K上下文窗口。相比GPT-4 Turbo，GPT-4o通常更便宜（每百万token价格为5美元/15美元）。在MATH-500基准测试中，GPT-4o通常得分更高。如果你需要原版GPT-4 Turbo的特定行为，或已为其优化过提示词，GPT-4 Turbo仍是强有力选择。在OrcaRouter上，你可以通过修改模型ID来切换这些模型。我们建议根据实际使用场景测试两者，以确定更佳准确性与成本平衡。
如果您需要一款可靠、高性能且具有超大上下文窗口的模型，并愿意为更优的推理能力支付溢价，请选择 openai/gpt-4-turbo-2024-04-09。它在数学任务上尤其出色（MATH-500 73.7）。如果您的应用需要多模态输入，GPT-4 Turbo 和 GPT-4o 都支持，但 GPT-4o 可能更快且更便宜。对于简单的文本任务，可考虑 GPT-3.5 Turbo 或 GPT-4o Mini。OrcaRouter 提供丰富的目录；在选定前，请根据您的具体数据评估成本、延迟和质量。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-turbo-2024-04-09",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 输入 / 1M tokens | $10.00 |
| 输出 / 1M tokens | $30.00 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
@misc{orcarouter_gpt_4_turbo_2024_04_09,
title = {openai/gpt-4-turbo-2024-04-09 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-turbo-2024-04-09}
}openai. (n.d.). openai/gpt-4-turbo-2024-04-09 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-turbo-2024-04-09