OpenAI GPT-4-0613:8K 上下文,13.1 AA Coding,纯文本模型,每100万个token收费30/60美元
OpenAI GPT-4-0613 是 OpenAI 于2023年6月发布的 GPT-4 大型语言模型的一个特定检查点。它仅处理文本输入并生成文本输出。该模型支持总计8192个令牌的上下文窗口,单次响应最多可生成8192个令牌。它通过 OrcaRouter 的兼容 OpenAI 的 API 访问,base_url 为 https://api.orcarouter.ai/v1,使用模型标识符…
GPT-4-0613 擅长需要深度推理、精确语言生成以及遵循复杂指令的任务。常见用例包括生成和审查 Python、JavaScript 和 C++ 等语言的代码,以及调试现有代码库。它能够分析和总结大型文本语料库,生成结构化报告,并起草详细的技术或法律文档。该模型还能将多步骤问题拆解为清晰、连续的步骤,因此在规划和问题解决方面非常有用。虽然它主要使用英语工作,但也能以不同的可靠程度处理多种其他语言。对于不需要如此复杂程度的任务,较小或更便宜的模型可能提供更具成本效益的解决方案。
GPT-4-0613 是一款高级模型,每个 token 的成本更高。它不适合高并发、低复杂度的任务,如简单的文本分类、基础聊天交互或直白的翻译。对于此类工作负载,像 OpenAI 的 GPT-3.5 Turbo 或其他轻量级替代模型,可以在大幅降低成本的同时提供足够的性能。此外,如果你的应用不需要完整的 8192 token 上下文窗口,或者很少需要最大输出长度,选择上下文较小的廉价模型可能更为合适。请务必结合你的具体使用场景,评估输出质量与成本之间的权衡,以判断 GPT-4-0613 是否物有所值。
GPT-4-0613主要基于英语训练,但在法语、西班牙语、德语、中文和阿拉伯语等多种语言中展现出能力。其在非英语语言上的表现在翻译、摘要和问答等结构化任务中通常较为出色,但相比英语可能精度略低,表达不够自然。该模型在推理和指令遵循方面的优势可延伸至多语言场景,但用户应测试特定非英语场景以确认适用性。对于需要高精度的非英语应用,建议辅以语言特定模型或额外验证。
GPT-4-0613 尊重系统消息和用户指令,非常适合需要严格遵循格式、语气或结构的应用场景。它能生成 JSON、markdown 或其他指定格式的输出,并在多轮对话中保持上下文连贯。该模型在执行需要逐步推理或思维链提示的任务时尤为可靠。不过,与所有大模型一样,它有时可能误解模糊指令,或生成偏离预期格式的输出。建议提供清晰明确的指令,并尽可能附带示例以引导模型行为。
GPT-4-0613的AA Coding基准测试得分为13.1,反映了其在代码专项评估中的表现。尽管该基准测试的具体方法论在给定信息中未详细说明,但通常较高的分数意味着在生成代码、解决编程问题和理解代码结构方面具有更高的准确性和可靠性。这一分数使GPT-4-0613成为代码任务(如修复错误、实现算法和解释代码)的强劲选择。需要注意的是,基准测试分数仅具有参考意义,可能无法完全反映在特定代码任务中的实际表现。用户应使用自己的数据集对模型进行评估以获得最佳效果。
给定资料中未提及GPT-4-0613的延迟数据,但作为高容量模型,其响应时间通常高于GPT-3.5 Turbo或GPT-4o mini等较小模型。推理速度取决于输入输出长度、请求复杂度以及底层基础设施等因素。通过OrcaRouter,延迟还可能受到网络状况和提供商服务能力的影响。对于要求低延迟的实时应用,建议在预期负载下测试该模型,并考虑在流程中要求较低的部分使用更快、更经济的模型。
GPT-4-0613的主要优势在于其逻辑推理能力、遵循复杂多步指令的能力,以及在代码生成和数据分析等任务中的高准确性。即使面对长提示,它也能生成结构清晰、连贯的输出,因此适合起草综合性文档或报告。该模型在多轮对话中表现出高度一致性,这对需要保持上下文的对话智能体非常有利。其在AA Coding基准测试中13.1的得分凸显了其编程相关任务的可靠性。这些特质使其成为在精度和深度至关重要的应用中的首选,即使成本更高。
GPT-4-0613 存在若干局限性。它仅支持文本,无法处理图像、音频或视频。其上下文窗口上限为8192个token,对于超长文档或包含大量历史记录的多轮对话而言可能不足。该模型有时会生成听起来合理但错误的信息(幻觉),尤其涉及训练数据范围之外的领域。相比其他替代方案,其定价较高,在大规模应用中经济性不足。此外,作为2023年6月的快照版本,它可能不掌握该日期之后的事件或知识。用户应核验关键输出,并考虑采用检索增强生成(RAG)技术,将回答锚定在最新信息之上。
GPT-4-0613 按提供商直接费率定价,通过 OrcaRouter 零加价。成本为每100万输入令牌30.00美元,每100万输出令牌60.00美元。输入令牌指用户请求中提供的所有文本,包括系统消息、对话历史和当前用户查询。输出令牌是模型响应的生成文本。输入和输出令牌均计入总使用量并相应计费。除按令牌计费外,无其他平台费用。用户根据每次API调用实际处理的令牌数量付费。
由于输出令牌的定价是输入令牌的两倍(每100万令牌$60 vs $30),生成较长回答的应用会比短输出的应用昂贵得多。例如,一个输入10,000令牌、输出2,000令牌的请求,输入成本为$0.30,输出成本为$0.12,总计$0.42。如果输出为8,000令牌,成本将上升至$0.30 + $0.48 = $0.78。为控制成本,建议将max_tokens参数限制为用例所需的最小长度。同时,更简短的系统提示和精简的对话历史也可以减少输入令牌数量。
在现有关于通过OrcaRouter使用GPT-4-0613的事实中,没有提供令牌缓存或批量折扣的信息。这意味着每次调用均按实际处理的令牌计费,不存在可降低重复提示成本的预定缓存机制。用户应直接联系OrcaRouter咨询潜在的缓存功能或企业定价协议。此外,OrcaRouter可能提供此处未记录的成本优化方案。目前,请假设所有令牌均按列出的每令牌费率计费,不享受任何特殊折扣。
使用 GPT-4-0613 时,主要的权衡在于输出质量和成本之间。对于要求高准确度和复杂推理的任务,其较高的价格通常是合理的。然而,对于更简单或批量的处理,使用更便宜的替代方案(如 GPT-3.5 Turbo 或 GPT-4o mini)可以将成本降低高达 90%。同时需考虑输入-输出比例:如果你的工作流需要非常长的输入(例如完整的文档)但输出很短,输入成本将占主导;反之,长输出会迅速增加输出成本。评估模型的特定优势(如编码准确性)是否对你的任务必不可少,并在大规模使用前,先用一部分数据对其进行基准测试。
要通过OrcaRouter调用GPT-4-0613,请使用兼容OpenAI的API端点,base_url为https://api.orcarouter.ai/v1。在请求中将model参数设为"openai/gpt-4-0613"。你需要OrcaRouter提供的API密钥进行身份验证。请求格式遵循OpenAI的聊天补全文档,支持如下参数:messages(系统消息和用户消息组成的数组)、temperature(0到2)、top_p、max_tokens(最多8192)、n(补全数量)、stop(停止生成的序列)以及stream(布尔值,是否流式输出)。示例使用Python的openai库:import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "your_orcarouter_key"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Hello"}])。
GPT-4-0613 支持标准的 OpenAI 聊天补全参数。关键参数包括 temperature(默认值为 1),用于控制随机性——数值越低输出越确定性;top_p(默认值为 1)用于核心采样;max_tokens(默认由端点设置,最大值为 8192)用于限制输出长度;n(每个请求生成的补全数量);以及 stop(用于停止生成的字符串)。你还可以使用 presence_penalty 和 frequency_penalty 来鼓励或避免主题重复。通过设置 stream=True 支持流式输出,这将逐步返回令牌。所有参数的行为与 OpenAI 自己的 API 一致,从而实现无缝迁移。为获得最佳结果,请将 max_tokens 设置为不超过必要值以控制成本,并在需要事实性任务时使用 0 到 0.5 之间的 temperature 值。
从OpenAI直接API迁移到OrcaRouter只需对代码进行两处更改:将base_url更新为https://api.orcarouter.ai/v1,并将模型ID改为"openai/gpt-4-0613"。现有的身份验证逻辑应更新为使用OrcaRouter API密钥而非OpenAI密钥。所有熟悉的参数(messages、temperature、max_tokens等)保持不变。例如,使用openai Python库时,设置openai.api_base = "https://api.orcarouter.ai/v1"和openai.api_key = "your_orcarouter_key",然后调用openai.ChatCompletion.create(model="openai/gpt-4-0613", ...)。OrcaRouter的API设计为直接替代方案,因此无需进一步修改代码。使用一个小请求测试以确认连接和计费。
通过 OrcaRouter 使用 GPT-4-0613 的速率限制在现有资料中未明确说明。身份验证需要使用 OrcaRouter 提供的 API 密钥,该密钥应包含在请求头中(例如:Authorization: Bearer <key>)。具体的速率限制可能取决于您的 OrcaRouter 套餐或账户层级。对于生产环境使用,请联系 OrcaRouter 获取每分钟最大请求数(RPM)和每分钟最大令牌数(TPM)的详细信息。若无具体限制,建议在出现速率限制错误时实施指数退避策略。另请注意,您的 API 密钥应妥善保管,不得暴露于客户端代码中。
GPT-4-0613 是比 GPT-4-0314 更新的快照,分别发布于 2023 年 6 月和 2023 年 3 月。OpenAI 表示,6 月的更新提高了可靠性,减少了生成违禁内容的可能性,并能更好地遵循指令。两个模型具有相同的上下文窗口(8192 个 token)和定价结构。AA Coding 上的基准分数 13.1 仅适用于 GPT-4-0613,而 GPT-4-0314 的性能数字可能略有不同。实际使用中,许多用户报告 GPT-4-0613 更加稳定,更少出现含糊其辞或拒绝无害请求的情况。如果你目前正在使用 GPT-4-0314,迁移到 GPT-4-0613 非常简单且很可能是有益的。
GPT-4o是OpenAI的多模态模型,能够处理文本、图像和音频,相比GPT-4-0613更快、更便宜。GPT-4o的定价为每100万输入token收费$5,每100万输出token收费$15,性价比显著更高。GPT-4-0613仅支持文本,无法处理非文本输入。不过,GPT-4-0613在处理纯文本的复杂任务时,推理可能更为审慎,因为它与GPT-4基于相同底层模型,但未集成多模态功能。对于需要图像理解或追求最低延迟的应用,GPT-4o通常是更优选择。而对于以最高准确率为首要目标、成本次要的纯文本任务,GPT-4-0613仍然是可行的选项。
GPT-3.5 Turbo 是 GPT-4-0613 的一个更便宜、更快的替代方案,定价约为每100万输入令牌3美元,每100万输出令牌6美元。它针对对话和简单指令进行了优化,但在推理深度、编码准确性和指令遵循能力方面不及 GPT-4-0613。AA Coding 基准测试和复杂推理任务显示出明显的性能差距,GPT-4-0613 更优。对于需求简单的高流量应用,GPT-3.5 Turbo 更具经济性。而对于关键代码生成、多步骤分析或细微语言任务,GPT-4-0613 提供了显著的质量提升,足以证明其更高成本的合理性。可考虑在较大工作流中将 GPT-3.5 Turbo 用于简单或迭代性子任务,以平衡成本与质量。
兼容 OpenAI——沿用你现有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 输入 / 1M tokens | $30.00 |
| 输出 / 1M tokens | $60.00 |
| 货币 | USD |
基于标价的估算
仅为估算——实际 Token 数取决于提供商的分词器。
@misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613