OpenAI 的旗舰模型 GPT-4 是一个大规模多模态语言模型，凭借其更广泛的通用知识和先进的推理能力，能够比之前的模型更准确地解决难题……
OpenAI GPT-4 是一款专为文本任务设计的大型语言模型。它仅接受文本输入并生成文本输出。该模型的上下文窗口为 8,191 个 token，最大输出长度为 8,192 个 token。你可以通过 OrcaRouter 的 OpenAI 兼容 API（基础 URL 为 https://api.orcarouter.ai/v1）使用模型标识符 "openai/gpt-4" 来访问…
GPT-4在推理、创意写作、总结、翻译和代码生成方面表现出强大的性能。它能处理复杂指令，并在多个领域产生连贯、详细的回答。在AA Coding基准测试中，GPT-4得分为13.1，表明其在编程任务中具备有效的问题解决能力。该模型还以其遵循细微差别的提示和在长对话中保持一致性而闻名。这使其适用于聊天机器人、内容创作和辅助软件开发等应用。然而，它并未针对实时流或极低延迟需求进行优化。
GPT-4 擅长需要深度理解和生成自然语言的任务。常见用途包括撰写论文或报告、起草电子邮件、在多种语言中生成和调试代码、创建长文档摘要、基于提供的上下文回答问题，以及模拟对话式智能体。它还能处理分类、提取和推理任务。对于仅涉及文本且内容在 8,191 token 上下文窗口内的任务，GPT-4 能够提供高质量输出。它不太适合对延迟有严格限制的实时应用，或处理超出其 token 限制的超长上下文。
如果您的应用只需要简单、简短的输出，或者您在进行批量处理且成本是主要考虑因素，您可以选择OrcaRouter上更经济的模型，例如GPT-3.5-Turbo。GPT-4每100万输入令牌定价30美元，远高于许多替代方案。对于基本分类、关键词提取或简单问答等任务，较小的模型可以以更低的成本提供相当的结果。此外，如果您的使用场景不需要GPT-4的推理深度，轻量级模型可能就足够了。OrcaRouter让您可以测试多个模型，并比较成本与质量的权衡。
是的。GPT-4能够生成多种编程语言的代码，包括Python、JavaScript、C++等。它还可以通过分析错误消息或代码片段来协助调试。该模型的AA Coding评分为13.1，反映了其解决编程挑战的能力。例如，你可以提供一个问题的描述并接收一个可行的解决方案，或让GPT-4审查现有代码中的错误或低效之处。然而，务必验证生成的代码的正确性和安全性，因为模型可能会产生看似合理但存在缺陷的代码。
AA Coding基准测试评估模型在编程任务上的表现，通常涉及编写代码来解决算法问题。GPT-4在该基准测试中取得了13.1的分数。该数字表示在一组编程挑战中的平均表现，分数越高代表准确性和完整性越好。作为背景，人类专家在这类基准测试中的表现通常更高，但GPT-4的分数使其跻身代码生成领域的顶级模型之列。该基准测试是模型在技术领域推理和问题解决能力的一个指标。
虽然此处未提供AA编码以外的具体数字，但GPT-4在多种NLP基准测试中表现优异，包括语言理解、翻译和摘要任务。它在大多数评估中普遍优于GPT-3.5等早期模型。然而，具体表现可能因任务和数据集而异。该模型拥有8,191个token的上下文窗口，能够处理较长的输入，这有利于需要文档级推理的任务。在OrcaRouter上，您可以使用自己的数据测试GPT-4，以评估其适用性。
GPT-4 的延迟取决于输入和输出 token 的长度，以及整体 API 负载。通常，由于其更大的规模和更复杂的计算，GPT-4 比 GPT-3.5 等较小模型更慢。对于简短提示，响应时间可能只需几秒；对于较长输出，则需要几十秒。OrcaRouter 提供了一个标准 API 端点，如果你设置 stream=True，则能流式传输响应。对于低延迟至关重要的实时应用，建议使用更快的模型。具体的延迟数据并未公开，但可通过测试进行估算。
GPT-4 存在若干局限性。它仅处理文本，因此无法直接处理图像或音频。其上下文窗口为 8,191 个词元，这意味着它无法一次性处理非常长的文档。该模型可能生成看似合理但错误的信息（幻觉），且对提示措辞较为敏感。它也没有超越当前对话上下文的固有记忆。与较小的模型相比，定价相对较高。最后，与所有大语言模型一样，若未得到适当引导，它可能生成有偏见或不安全的内容。在生产系统中请使用适当的审核与验证措施。
OrcaRouter 以完全零加价的 exact provider 费率收取 GPT-4 费用。输入 tokens 价格为每 100 万 tokens $30.00，输出 tokens 价格为每 100 万 tokens $60.00。输入和输出 tokens 分别计费。这意味着一次请求的总费用为 (输入 tokens * $30/1M) + (输出 tokens * $60/1M)。例如，一个包含 1000 个输入 tokens 和 500 个输出 tokens 的请求费用为 0.001 * $30 + 0.0005 * $60 = $0.03 + $0.03 = $0.06。除按用量计费外，OrcaRouter 不收取任何额外费用。
OrcaRouter 可能为重复的提示或补全提供缓存选项，如果你多次发送相同的请求，这可以降低成本。请查阅 OrcaRouter 的文档，了解缓存详情以及如何启用缓存。对于 GPT-4，由于按 token 计费且价格相对较高，缓存对静态查询非常有益。此外，你可以通过管理 token 使用量来控制成本：保持提示简洁、使用较短的输出，并适当设置 max_tokens。OrcaRouter 对 GPT-4 没有批量折扣；定价按每百万 token 统一计算。
GPT-4 是 OrcaRouter 上较昂贵的模型之一。相比之下，GPT-3.5-Turbo 价格要低得多（通常每 100 万个输入 token 不到 1 美元）。来自其他提供商的较小模型也更经济。如果你的任务不需要 GPT-4 级别的推理能力，切换到更便宜的模型可以大幅节省成本。OrcaRouter 允许你通过同一个 API 接口测试多个模型，从而评估质量与成本之间的平衡。零加价政策意味着你只需支付提供商的价格；使用 OrcaRouter 无需额外溢价。
是的。OrcaRouter 采用按需付费模式，您只需为实际使用的令牌付费，无需预先承诺或满足最低用量要求。您需要有足够的点数或充值账户才能调用 API。定价按所述以每100万令牌为单位计算。在进行预算规划时，您可根据预期的令牌用量预估成本。OrcaRouter 在仪表盘中提供用量分析。请注意，若账户余额不足，请求可能会失败。
要调用GPT-4，请使用OrcaRouter提供的OpenAI兼容API端点：基础URL https://api.orcarouter.ai/v1。将模型参数设置为"openai/gpt-4"。您可以通过更改base_url来使用任何OpenAI客户端库。使用Python openai包的示例： ```python import openai client = openai.OpenAI(api_key="YOUR_ORCAROUTER_KEY", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4", messages=[{"role": "user", "content": "Hello"}] ) print(response.choices[0].message.content) ``` 请记住将YOUR_ORCAROUTER_KEY替换为您的实际API密钥。
您可以使用标准的OpenAI聊天补全参数：`messages`、`max_tokens`、`temperature`、`top_p`、`frequency_penalty`、`presence_penalty`、`stop`、`stream`等。`model` 必须为 `"openai/gpt-4"`。`max_tokens` 参数不应超过8192减去输入tokens。`temperature` 控制随机性（0到2）。`stream` 设置为 `true` 启用逐token流式传输。所有参数都通过JSON正文传递。OrcaRouter支持与OpenAI相同的模式。有关详细的参数说明，请参阅OpenAI的API文档。
是的。如果您已在使用OpenAI Python库或任何兼容OpenAI API的SDK，只需将 `base_url` 改为 `https://api.orcarouter.ai/v1`，并更新您的API密钥。模型ID从 "gpt-4" 改为 "openai/gpt-4"。其他代码无需更改。OrcaRouter的API设计为OpenAI API的直接替代品，这使得迁移非常简便。您可以先用少量请求进行测试以验证行为，然后再切换生产流量。
是的。在您的API请求中将`stream`参数设置为`true`。响应将是一个聊天完成块的迭代器，遵循OpenAI流式格式。这允许您在生成时显示令牌。流式传输可以改善最终用户的感知延迟。OrcaRouter原生支持流式处理。只需确保您的客户端代码正确处理流。例如，使用OpenAI Python库并设置`stream=True`会返回一个`Stream`对象。
GPT-4 在推理能力、创造性和遵循复杂指令方面通常比 GPT-3.5-Turbo 更强。在 AA Coding 等基准测试中，GPT-4 的表现优于得分较低的 GPT-3.5。然而，GPT-4 也更昂贵（每 100 万 tokens 30/60 美元，而 GPT-3.5 则低得多）。GPT-3.5 拥有更大的上下文窗口（16,384 tokens），而 GPT-4 为 8,191 tokens。如果你的任务简单或对预算敏感，GPT-3.5 可能足够。对于复杂编码、长文写作或细致分析，GPT-4 能提供更好的结果。两者都是仅支持文本的模型，可在 OrcaRouter 上获取。
Claude模型（例如Claude 3 Sonnet或Opus）提供更大的上下文窗口（最高200K tokens）以及某些版本的多模态输入。GPT-4仅支持文本，限制为8,191 tokens。Claude模型的定价也不同。在推理基准测试中，两个系列都很有竞争力，但GPT-4的AA Coding得分为13.1，可能高于或低于特定的Claude变体。两者之间的选择取决于你的具体需求：Claude适用于长文档或多模态，GPT-4适用于在其上下文限制内的高性能文本生成。OrcaRouter同时支持两者，因此你可以直接比较。
像Llama 3（70B）这样的开源模型在某些任务上有时能与GPT-4相媲美，但通常需要更复杂的托管方案，且各有不同的权衡。GPT-4是专有模型，但通过简单的API即可使用，且定价可预测。Llama 3如果自托管，可能支持更大的上下文窗口或更低的每token成本，但需要承担基础设施费用。GPT-4凭借其稳定的质量和通过OrcaRouter的零加价定价，使用起来非常方便。在自定义微调方面，开源模型提供了更大的灵活性。OrcaRouter同时提供了一些开源模型以供比较。
GPT-4的价值取决于您的使用场景。如果您需要顶尖的推理能力、代码生成或创意输出，较高的成本或许是值得的。在错误代价高昂的场景下（如法律文书起草、复杂调试），GPT-4的准确性可以节省时间和资金。对于简单任务，GPT-3.5等更便宜的模型能以更低成本提供足够性能。OrcaRouter允许您对自有数据中的模型进行A/B测试，量化质量差异。最终，决策是成本与质量的权衡：当GPT-4的输出质量能转化为切实的商业价值时，才使用它。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 输入 / 1M tokens | $30.00 |
| 输出 / 1M tokens | $60.00 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
@misc{orcarouter_gpt_4,
title = {GPT-4 API},
author = {OpenAI},
year = {2023},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4}
}OpenAI. (2023). GPT-4 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4