OpenAI GPT-4-0613: 8K上下文，13.1 AA Coding，純文字模型，每1M tokens價格為$30/$60
OpenAI GPT-4-0613 是 OpenAI 於 2023 年 6 月發布的 GPT-4 大型語言模型的一個特定檢查點。該模型僅處理文字輸入並產生文字輸出。它支援總共 8192 個 token 的上下文視窗，單次回應最多可生成 8192 個 token。可透過 OrcaRouter 相容於 OpenAI 的 API 存取，base_url 為…
GPT-4-0613 擅長處理需要深度推理、精準語言生成以及遵循複雜指令的任務。常見用途包括生成與審查 Python、JavaScript、C++ 等語言的程式碼，以及對現有程式碼庫進行除錯。它能分析並總結大量文字資料、產生結構化報告，並草擬詳細的技術或法律文件。該模型也善於將多步驟問題拆解為清晰、循序的步驟，因此在規劃與問題解決上相當實用。雖然主要支援英文，但也能以不同程度的可靠性處理多種其他語言。對於不需此等複雜度的任務，較小或較便宜的模型可能提供更具成本效益的解決方案。
GPT-4-0613 是高階模型，每個 token 的成本較高。對於大量、低複雜度的任務（例如簡單的文字分類、基本對話互動或直接翻譯）來說，它並非理想選擇。這類工作負載使用 OpenAI 的 GPT-3.5 Turbo 或其他輕量級替代模型，可能以較低成本提供足夠的效能。此外，如果你的應用程式不需要完整的 8192 token 上下文視窗，或很少需要最大輸出長度，那麼選擇上下文較小且更便宜的模型可能更合適。務必針對你的特定使用案例評估輸出品質與成本之間的取捨，以判斷 GPT-4-0613 是否值得採用。
GPT-4-0613 主要基於英文訓練，但在包括法文、西班牙文、德文、中文和阿拉伯文在內的多種語言中亦展現出能力。其在翻譯、摘要及問答等結構化任務中的非英文表現通常較為優秀，但相比英文，可能準確度略低且表達較不自然。該模型在推理和遵循指令方面的優勢同樣適用於多語言場景，但使用者應針對特定非英文情境進行測試，以確認其適用性。若需在英文以外的語言中達到高度精確，建議輔以語言專用模型或額外驗證。
GPT-4-0613 尊重系統訊息與使用者指令，非常適合需要嚴格遵循格式、語調或結構的應用場景。它能產出 JSON、Markdown 或其他指定格式的輸出，並能在多輪對話中維持上下文。該模型特別可靠於需要逐步推理或思維鏈提示的任務。然而，與所有大型模型一樣，它偶爾可能誤解模糊指令或產出偏離預期格式的結果。建議提供清晰明確的指令，並在可能的情況下加入範例以引導模型行為。
AA Coding 基準測試中，GPT-4-0613 的 13.1 分數反映了其在程式碼相關評估上的表現。雖然該基準測試的具體方法在提供的資訊中並未詳細說明，但一般來說，較高的分數代表在生成程式碼、解決程式設計問題及理解程式碼結構方面有更好的準確性與可靠性。此分數使 GPT-4-0613 成為除錯、演算法實作與程式碼解釋等程式碼任務的強力選擇。需要注意的是，基準測試分數僅為參考，可能無法完全反映在特定程式碼任務上的實際表現。使用者應在自己的資料集上評估模型，以獲得最佳結果。
GPT-4-0613 的延遲在所提供的資料中並未明確說明，但作為一個高容量模型，其回應時間通常比 GPT-3.5 Turbo 或 GPT-4o mini 等較小模型更長。推理速度取決於輸入和輸出的長度、請求的複雜度以及底層基礎設施等因素。透過 OrcaRouter，延遲也可能受到網路狀況和提供者的服務能力影響。對於低延遲至關重要的即時應用，建議在預期負載下測試模型，並考慮在較不要求的部分工作流程中使用更快、更便宜的模型。
GPT-4-0613 的主要優勢在於其邏輯推理能力、遵循複雜多步驟指令的能力，以及在代碼生成和數據分析等任務中的高準確性。即使面對較長的提示，它也能產出結構清晰、連貫的輸出，因此適合起草全面的文件或報告。該模型在多輪對話中展現出強大的一致性，這對於需要維持上下文脈絡的對話代理來說非常有利。其在 AA Coding 上 13.1 的基準分數凸顯了它在程式相關任務中的可靠性。這些特質使其成為那些精確性與深度至關重要的應用中的首選，即使成本更高。
GPT-4-0613 有若干限制。它僅支援文字輸入，無法處理圖片、音訊或影片。其上下文視窗上限為 8192 個代幣，對於非常長的文件或具有大量歷史記錄的多輪對話可能不足。該模型有時會產生看似合理但實際錯誤的資訊（幻覺），尤其是在其訓練資料以外的主題上。與其他替代方案相比，其定價相對較高，因此對於高流量應用來說較不經濟。此外，作為 2023 年 6 月的快照版本，它可能不了解該日期之後的事件或知識。使用者應驗證關鍵輸出，並考慮使用檢索增強生成（RAG）來將回應建立在最新資訊之上。
GPT-4-0613 的定價為供應商直接費率，透過 OrcaRouter 無任何加成。費用為每 100 萬輸入代幣 30.00 美元，每 100 萬輸出代幣 60.00 美元。輸入代幣指的是用戶請求中提供的所有文字，包括系統訊息、對話歷史以及當前用戶查詢。輸出代幣則是模型回應所產生的文字。輸入與輸出代幣均計入總使用量，並按此計費。除按代幣計費外，無其他平台費用。用戶依每個 API 呼叫實際處理的代幣數量進行計費。
由於輸出token的定價是輸入token的兩倍（每100萬個token $60 vs $30），生成較長回覆的應用程式，其成本可能遠高於僅產出簡短回應的應用。舉例來說，一個請求若包含10,000個輸入token與2,000個輸出token，輸入成本為$0.30，輸出成本為$0.12，總共$0.42。若輸出改為8,000個token，成本將上升至$0.30 + $0.48 = $0.78。為控制成本，建議將max_tokens參數設定為符合使用情境所需的最小長度。此外，較短的系統提示與精簡的對話歷史也能減少輸入token的數量。
在 GPT-4-0613 透過 OrcaRouter 的可用資訊中，並未提供關於 token 快取或批量折扣的說明。這意味著每次呼叫均根據實際處理的 token 計費，且沒有預設的快取機制能降低重複提示的成本。使用者應直接聯絡 OrcaRouter 以查詢可能的快取功能或企業級定價協議。OrcaRouter 也可能提供此處未記載的成本優化選項。目前，請假設所有 token 均按所列出的每 token 費率計費，且不享有任何特殊折扣。
使用 GPT-4-0613 時，主要的取捨在於輸出品質與成本之間。對於需要高準確度與推理能力的任務，較高的價格通常是值得的。然而，對於較簡單或大量處理的任務，較便宜的替代方案如 GPT-3.5 Turbo 或 GPT-4o mini 可以將成本降低高達 90%。此外，也要考慮輸入與輸出的比例：如果你的工作流程需要非常長的輸入（例如完整文件）但輸出較短，那麼輸入成本將占主導。反之，長輸出會迅速增加輸出成本。評估模型的特定優勢（如編碼準確性）是否為你的任務所需，並在投入大規模使用之前，先對一部分數據進行基準測試。
要透過 OrcaRouter 呼叫 GPT-4-0613，請使用 OpenAI 相容的 API 端點，base_url 為 https://api.orcarouter.ai/v1。在請求中將模型參數設為 "openai/gpt-4-0613"。你需要從 OrcaRouter 取得 API 金鑰以進行驗證。請求格式遵循 OpenAI 的聊天完成文件，支援的參數包括 messages（系統和使用者訊息的陣列）、temperature（0 到 2）、top_p、max_tokens（最多 8192）、n（完成次數）、stop（停止生成的序列）以及 stream（用於串流的布林值）。使用 Python 的 openai 函式庫範例：import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "your_orcarouter_key"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Hello"}])
GPT-4-0613支援標準的OpenAI聊天完成參數。關鍵參數包括temperature（預設為1），用於控制隨機性——數值越低輸出越確定；top_p（預設為1）用於核取樣；max_tokens（由端點預設設定，最大值8192）限制輸出長度；n（每次請求生成的完成數）；以及stop（停止生成的字符串）。您也可以使用presence_penalty和frequency_penalty來鼓勵或避免主題重複。透過設定stream=True即可支援串流，此舉會逐步產出token。所有參數的行為與OpenAI自有API完全相同，可實現無縫遷移。為達最佳效果，請將max_tokens設為不超過控制成本所需的值，並在事实性任務中將temperature設在0到0.5之間。
從 OpenAI 的直接 API 遷移到 OrcaRouter 只需要在程式碼中進行兩項修改：將 base_url 更新為 https://api.orcarouter.ai/v1 並將模型 ID 更改為 "openai/gpt-4-0613"。您現有的驗證邏輯應更新為使用 OrcaRouter API 金鑰，而非 OpenAI 金鑰。所有熟悉的參數（messages、temperature、max_tokens 等）保持不變。例如，使用 openai Python 函式庫，設定 openai.api_base = "https://api.orcarouter.ai/v1" 和 openai.api_key = "your_orcarouter_key"。然後呼叫 openai.ChatCompletion.create(model="openai/gpt-4-0613", ...)。OrcaRouter 的 API 被設計為可直接替代的解決方案，因此無需進一步修改程式碼。使用一個小請求進行測試，以確認連線和計費正常。
在現有資料中，並未指定透過 OrcaRouter 使用 GPT-4-0613 的速率限制。認證需要 OrcaRouter 提供的 API 金鑰。此金鑰應包含在請求標頭中（例如，Authorization: Bearer <key>）。確切的速率限制可能取決於您的 OrcaRouter 方案或帳戶層級。對於生產環境使用，請聯繫 OrcaRouter 以了解每分鐘最大請求數 (RPM) 和每分鐘令牌數 (TPM) 的詳細資訊。在沒有特定限制的情況下，建議在遇到速率限制錯誤時實作指數退避。另請注意，您的 API 金鑰應妥善保管，避免暴露在用戶端程式碼中。
GPT-4-0613 是比 GPT-4-0314 更新的快照版本，分別於 2023 年 6 月與 2023 年 3 月釋出。OpenAI 表示，6 月更新提升了可靠性、降低了生成違規內容的可能性，並改善了對指令的遵從程度。兩個模型擁有相同的上下文視窗（8192 個 token）與定價結構。AA Coding 基準測試中 13.1 的分數是 GPT-4-0613 的特定表現，而 GPT-4-0314 的表現數值可能略有不同。實際上，許多用戶回報 GPT-4-0613 更為一致，較少出現模稜兩可或拒絕合理請求的情況。如果您目前使用 GPT-4-0314，遷移至 GPT-4-0613 的過程很簡單，而且很可能帶來好處。
GPT-4o 是 OpenAI 的多模態模型，能夠處理文字、圖片和音訊，且比 GPT-4-0613 更快、更便宜。GPT-4o 的定價為每 1M 輸入代幣 $5 美元，每 1M 輸出代幣 $15 美元，使其更具成本效益。GPT-4-0613 僅支援文字，無法處理非文字輸入。然而，GPT-4-0613 在純文字任務上可能提供稍微更謹慎的推理，因為它與 GPT-4 是相同的底層模型，但沒有多模態整合。對於需要圖片理解或最低延遲的應用，GPT-4o 通常是更好的選擇。對於純文字任務，如果要求最大準確性且成本較不重要，GPT-4-0613 仍然是可行的選項。
GPT-3.5 Turbo 是 GPT-4-0613 一個明顯更便宜且更快的替代方案，價格約為每 100 萬輸入 token 3 美元，每 100 萬輸出 token 6 美元。它針對對話和簡單指令進行了優化，但缺乏 GPT-4-0613 的推理深度、編碼準確性和指令遵循能力。AA Coding 基準測試和複雜推理任務顯示出明顯的效能差距，GPT-4-0613 佔據優勢。對於需求簡單的大量應用，GPT-3.5 Turbo 更具經濟效益。對於關鍵的程式碼生成、多步驟分析或細微的語言任務，GPT-4-0613 提供了顯著的品質提升，足以證明其較高成本的合理性。考慮在較大的工作流程中使用 GPT-3.5 Turbo 處理簡單或反覆的子任務，以平衡成本與品質。
相容 OpenAI——沿用你現有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 輸入 / 1M tokens | $30.00 |
| 輸出 / 1M tokens | $60.00 |
| 貨幣 | USD |
基於標價的估算
僅為估算——實際 Token 數取決於供應商的分詞器。
@misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613