最新的GPT-4 Turbo模型具備視覺能力。視覺請求現在可以使用JSON模式和函數調用。訓練數據：截至2023年12月。
GPT-4 Turbo 是由 OpenAI 推出的大型語言模型，可處理文字和圖像輸入。它建立在 GPT-4 的架構之上，但將上下文窗口擴展至 128,000 個 token（約 300 頁文字），同時保持最大輸出為 4,096 個 token。該模型專為處理複雜推理任務、生成程式碼以及理解視覺資訊而設計。在 OrcaRouter 上，它以模型 ID "openai/gpt-4-turbo"…
GPT-4 Turbo 展現出強大的推理能力，特別是在數學（MATH-500 得分為 73.7）、程式碼生成與多步驟問題解決方面。它能處理長對話中的複雜指令，在數千個 token 範圍內保持一致，並生成連貫的技術說明。此外，當輸入包含圖像資料時，該模型也能分析圖片——例如螢幕截圖、圖表與印刷文字。然而，它並非專精於所有領域；對於簡單的分類或提取任務，像 GPT-3.5 Turbo 這類較小的模型可能就足夠，且更具經濟效益。
一個擁有128,000個token的上下文視窗讓您可以輸入大型文件——包括整本書籍、冗長的法律合約、完整的程式碼庫或長篇對話——而無需將內容分割成多個區塊。例如，您可以貼上一整篇研究論文，並在不遺失前面內容的情況下，針對任何章節提出問題。這對於需要模型檢視整體結構的任務特別有價值，例如文件摘要、法規分析或大型程式碼庫的除錯。在OrcaRouter上，此上下文按輸入token計費，因此輸入一份100K token的文件，每次查詢大約花費$1.00（100K * $10/1M）。
GPT-4 Turbo 可將圖像作為輸入的一部分，使其能夠理解照片、圖表、插圖和螢幕截圖等視覺內容。該模型可以描述圖像中的內容、回答關於其內容的問題，甚至執行圖表推理（例如，解讀流程圖或圖表）。圖像通常以 URL 或 base64 編碼數據的形式提供，格式符合 OpenAI 的聊天完成規範。圖像處理的成本包含在輸入令牌計數中，該計數根據圖像解析度和細節等級，依照 OpenAI 的定價公式計算。
如果您的使用場景涉及大量、低複雜度的任務（例如簡單的文字分類、針對簡短上下文的基礎問答，或重複性資訊提取），則像 GPT-3.5 Turbo 這類較小模型或專門微調的模型，可能以極低成本提供可接受的結果。就每個輸入 token 而言，GPT-4 Turbo 的定價約為 GPT-3.5 Turbo 的 20 倍，每個輸出 token 則約為 30 倍。對於延遲敏感的應用，GPT-3.5 Turbo 的回應速度也更快。請仔細評估精確度與成本之間的取捨；在許多生產流程中，採用混合式方法——以低成本模型進行篩選，並針對複雜情況使用 GPT-4 Turbo——能夠最佳化支出。
GPT-4 Turbo在MATH-500基準測試中取得了73.7分，該基準測試評估模型解決從小學到高中數學問題的能力，涵蓋代數、幾何和微積分等主題。這個分數表明模型具有較強的數學推理能力，但並非最先進的；一些專門的模型或更大的集成模型可以超過80分。該基準測試對於比較模型在系統性解決問題方面的表現很有用，而非原始語言生成。在OrcaRouter上，您可以通過API提交一組數學問題並比較結果來親自測試。
優點包括深度推理、處理長上下文，以及在生成和解釋程式碼方面的能力。它在結合文字與視覺的任務（如解讀圖表）上也展現出良好表現。限制包括輸出上限相對較低，僅 4,096 個 tokens，這意味著生成長篇內容（例如撰寫完整章節）需要多次調用。該模型在邊緣情況下有時會產生不正確的答案——它並非萬無一失。此外，由於延遲高於較小模型，它可能不是即時應用的最佳選擇。沒有提供速度測量數據，但根據傳聞回報，它比 GPT-3.5 Turbo 稍微慢一些。
OrcaRouter 上 GPT-4 Turbo 的確切延遲數據尚未公佈；效能取決於提供者的基礎設施和請求負載。實際上，由於模型參數數量較大且需處理上下文，其推論時間比小型模型更長。對於短輸入，回應時間通常為數秒，而非常大的上下文（例如 100K tokens）可能顯著增加延遲，因為模型必須在生成輸出前處理所有 tokens。OrcaRouter 並未宣傳任何特定的加速功能。需要較低延遲以進行互動式應用的使用者可能偏好更快速的模型，而批次處理複雜任務仍然可行。
定價按token計算：每100萬個輸入token收費10.00美元，每100萬個輸出token收費30.00美元。這與OpenAI的直接費率一致，OrcaRouter不加收任何額外費用。輸入token包含系統訊息、使用者訊息、圖片token以及任何對話歷史。輸出token則是模型生成的回應。一次請求的總成本計算方式為 (input_tokens * $0.00001) + (output_tokens * $0.00003)。沒有最低費用或月費承諾；您只需為所使用的token付費。
GPT-4 Turbo 的價格遠高於 GPT-3.5 Turbo 等較小模型（每百萬 Token $0.50/$1.50），但在推理與上下文處理能力上更為出色。對於只需基本功能的任務，使用 GPT-4 Turbo 可能導致不必要的成本。另一方面，相較於原始 GPT-4（每百萬 Token $30/$60），GPT-4 Turbo 在輸入端便宜 33%，輸出端便宜 50%，因此對於高效能需求而言，是更具成本效益的選擇。OrcaRouter 的零加價定價確保您支付的費率與直接使用 OpenAI 完全相同。
OrcaRouter 並未針對 GPT-4 Turbo 提供任何特定的折扣、批量定價或回應快取，所有費用均依公布的 Token 費率計算。定價非常直接：您只需支付 OpenAI 所收取的費用，無任何附加費用。沒有承諾折扣、預購 Token 或分級定價。系統亦未宣稱提供提示或回應的快取功能，因此每次請求都按標準費率計費。如果您預期有極高的使用量，建議聯繫 OrcaRouter，或考慮使用專屬 API 端點並自行建置快取層，以減少重複相同輸入所產生的成本。
輸出令牌的成本是輸入令牌的三倍（每1M $30 vs. $10）。因此，長生成內容會迅速增加帳單。例如，生成2,000個令牌的回應費用為$0.06，而4,000個令牌的回應費用為$0.12。為控制成本，請考慮設定較低的max_tokens參數、使用較短的提示，或採用迭代改進，讓模型先產生較短的輸出，然後在需要時透過單獨的呼叫擴展。對於摘要等任務，如果上下文不是關鍵，則輸出令牌成本較小的模型可能更可取。
您可以透過 OrcaRouter 的 OpenAI 相容 API 呼叫 GPT-4 Turbo。首先，從 OrcaRouter 取得 API 金鑰。然後將基礎 URL 設定為 https://api.orcarouter.ai/v1，並在您的聊天補全請求中使用模型 ID "openai/gpt-4-turbo"。例如，使用 OpenAI Python SDK 時，您可以建立一個用戶端，將 base_url 指向 OrcaRouter，並設定 model="openai/gpt-4-turbo"。請求和回應格式與 OpenAI 原生 API 完全相同，因此從直接使用 OpenAI 切換過來時，只需進行極少的程式碼變更。
API 支援標準 OpenAI 聊天完成參數：messages（包含 role 和 content 的陣列）、temperature（0-2）、top_p、n、stream、stop、max_tokens（上限為 4096）、presence_penalty、frequency_penalty、logit_bias、user，以及 function calling/tools。對於圖片輸入，可以包含 type 為 "image_url" 與 url 的 content 部分。此模型不支援超出 OpenAI 規範以外的額外參數。所有參數的運作方式完全與 OpenAI 的 GPT-4 Turbo 文件所述一致。請注意，max_tokens 參數不得超過 4096，這是模型的輸出上限。
遷移非常簡單：將您的 OpenAI 基本 URL 替換為 OrcaRouter 的端點 https://api.orcarouter.ai/v1，並將模型名稱改為「openai/gpt-4-turbo」。使用您的 OrcaRouter API 金鑰取代 OpenAI API 金鑰。其餘程式碼——訊息格式、串流、錯誤處理——維持不變，因為 API 完全相容。如果您使用的是 OpenAI Python 函式庫，只需將 openai.api_base（或新版中的對應參數）設為 OrcaRouter URL 即可。這讓您可以透過 OrcaRouter 測試 GPT-4 Turbo，無需重寫任何邏輯。
GPT-4 Turbo 是 GPT-4 的進化版本，具有更大的上下文窗口（128K，而早期的 GPT-4 變體最高為 32K），且每個 Token 的定價更便宜：每 100 萬個 Token 收費 $10/$30，相比之下 GPT-4 為 $30/$60。兩個模型都支援視覺，但 GPT-4 Turbo 在效率與輕微的推理品質上也有所提升。在 MATH-500 等基準測試中，GPT-4 Turbo 得分 73.7，而原始 GPT-4（上下文 8K）在較小的 MATH 測試集上得分約為 52.9——由於測試版本不同，這些數字無法直接比較，但改進仍具指標性。在 OrcaRouter 上，較舊的 GPT-4 模型也以其各自的定價提供。
GPT-3.5 Turbo 價格便宜許多（每百萬個 token $0.50/$1.50），速度也更快，適合高流量、低延遲的應用。但其上下文視窗較小（依變體不同有 16K 或 4K），且在推理、程式碼生成與視覺能力上明顯較弱。對於需要多步驟推理或大上下文的工作，GPT-4 Turbo 明顯優勝。在數學推理的直接比較中，GPT-3.5 Turbo 在 MATH-500 上通常得分低於 30，而 GPT-4 Turbo 則達到 73.7。選擇 GPT-3.5 Turbo 適用於簡單任務與節省成本，但在準確度或上下文長度至關重要時則依賴 GPT-4 Turbo。
未提供直接的一對一比較，但根據一般大眾知識，Anthropic Claude 3 與 Google Gemini 1.5 具備類似能力。Claude 3 Opus 擁有 200K 上下文視窗與相近的推理能力，而 Gemini 1.5 Pro 則可處理多達 100 萬個 token。不過，每個模型的定價與效能表現各有不同。在 OrcaRouter 上，您也可以存取其他提供者的模型進行比較。GPT-4 Turbo 在價格、推理品質與開發者生態系統（OpenAI SDK）之間的平衡上仍具競爭力。對於視覺任務，Claude 和 Gemini 也都支援影像輸入。
相容 OpenAI——沿用你現有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-turbo",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 輸入 / 1M tokens | $10.00 |
| 輸出 / 1M tokens | $30.00 |
| 貨幣 | USD |
基於標價的估算
僅為估算——實際 Token 數取決於供應商的分詞器。
@misc{orcarouter_gpt_4_turbo,
title = {GPT-4 Turbo API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-turbo}
}OpenAI. (2024). GPT-4 Turbo API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-turbo