OpenAI的旗艦模型GPT-4是一個大規模多模態語言模型，能夠以比先前模型更高的準確性解決困難問題，這得益於其更廣泛的常識與先進的推理能力…
OpenAI GPT-4 是一款專為文字任務設計的大型語言模型。它僅接受文字輸入並產生文字輸出。該模型的上下文視窗為 8,191 個 token，最大輸出長度為 8,192 個 token。您可以透過 OrcaRouter 的 OpenAI 相容 API 存取 GPT-4，基礎 URL 為…
GPT-4 在推理、創意寫作、摘要、翻譯和程式碼生成方面展現出強大的性能。它能處理複雜指令，並在多個領域中產出連貫、詳細的回應。在 AA Coding 基準測試中，GPT-4 獲得 13.1 分，顯示其在程式設計任務中具有高效的問題解決能力。該模型也以其能遵循細微提示並在長時間對話中保持一致性而聞名。這使其適合用於聊天機器人、內容創作和輔助軟體開發等應用。然而，它並未針對即時串流或極低延遲需求進行最佳化。
GPT-4 擅長需要深入理解和生成自然語言的任務。常見的應用包括撰寫文章或報告、起草電子郵件、生成和除錯多種語言的程式碼、建立長篇文件的摘要、根據提供的上下文回答問題，以及模擬對話代理。它也能處理分類、提取和推理任務。對於僅涉及文字且落在 8,191 個 token 的上下文視窗範圍內的任務，GPT-4 能提供高品質的輸出。它較不適合有嚴格延遲要求的即時應用，或處理超出其 token 限制的非常大上下文。
如果您的應用程式只需要簡單、簡短的輸出，或者您正在進行批量處理且成本是主要考量，您可以選擇OrcaRouter上更經濟的模型，例如GPT-3.5-Turbo。GPT-4的定價為每100萬個輸入代幣30美元，遠高於許多替代方案。對於基本分類、關鍵詞提取或簡單問答等任務，較小的模型也能以較低成本提供可比的結果。此外，如果您的使用案例不需要GPT-4的推理深度，那麼輕量級模型可能就已足夠。OrcaRouter讓您可以測試多種模型，並比較成本與品質之間的取捨。
是的。GPT-4 能夠生成多種程式語言的程式碼，包括 Python、JavaScript、C++ 等。它還能透過分析錯誤訊息或程式碼片段協助除錯。該模型的 AA Coding 得分為 13.1，反映其解決程式挑戰的能力。例如，您可以提供問題描述並獲得可行的解決方案，或要求 GPT-4 審查現有程式碼中的錯誤或效率問題。不過，請務必驗證生成的程式碼是否正確且安全，因為模型可能產生看似合理但有缺陷的程式碼。
AA Coding 基準測試評估模型在程式設計任務上的表現，通常涉及編寫程式碼以解決演算法問題。GPT-4 在此基準測試中獲得 13.1 分。這個數字代表在一組程式挑戰中的平均表現，分數越高表示準確性與完整性越佳。對比之下，人類專家在此類基準測試中的表現通常更高，但 GPT-4 的分數使其在程式碼生成模型中名列前茅。此基準測試是模型在技術領域中推理與解決問題能力的一項指標。
雖然此處未提供AA Coding以外的具體數字，但GPT-4在各種NLP基準測試中（包括語言理解、翻譯與摘要任務）均能達到優異成果。它在大多數評估中普遍優於GPT-3.5等較早模型。然而，效能可能因具體任務與資料集而異。該模型的8,191-token上下文視窗使其能處理較長的輸入，對需要文檔級推理的任務特別有幫助。在OrcaRouter上，您可以使用自己的資料測試GPT-4，以評估其適用性。
GPT-4 的延遲取決於輸入和輸出 token 的長度，以及整體 API 負載。通常來說，GPT-4 比 GPT-3.5 這類較小模型更慢，因為其規模更大且計算更為複雜。對於簡短的提示，回應時間可能在數秒內；而對於較長的輸出，則可能需要數十秒。OrcaRouter 提供了一個標準 API 端點，若設定 stream=True 即可串流回應。對於延遲敏感的即時應用，建議考慮使用更快的模型。精確的延遲數據尚未公布，但可透過測試進行估算。
GPT-4 有幾個限制。它只處理文字，因此無法直接處理圖片或音訊。其上下文窗口為 8,191 個 tokens，這意味著它無法一次性處理非常長的文件。該模型可能產生看似合理但不正確的資訊（幻覺），且對提示詞的措辭敏感。它也沒有超越當前對話上下文的固有記憶。與較小模型相比，定價相對較高。最後，如同所有 LLMs，若未適當引導，它可能產生帶有偏見或不安全的內容。請在生產系統中使用適當的審核與驗證。
OrcaRouter 以零加價收取 GPT-4 的實際供應商費率。輸入 token 每 100 萬個收費 $30.00，輸出 token 每 100 萬個收費 $60.00。輸入和輸出 token 分別計費。這表示一個請求的總費用為 (input_tokens * $30/1M) + (output_tokens * $60/1M)。例如，一個有 1000 個輸入 token 和 500 個輸出 token 的請求，成本為 0.001 * $30 + 0.0005 * $60 = $0.03 + $0.03 = $0.06。除按用量計費外，OrcaRouter 不收取任何額外費用。
OrcaRouter 可能提供對重複提示或完成結果的快取選項，如果您多次發送相同請求，這有助於降低成本。請參閱 OrcaRouter 文件了解快取詳情及啟用方式。對於 GPT-4，由於定價按 token 計算且相對較高，快取對靜態查詢相當有益。此外，您可以透過管理 token 使用量來控制成本：保持提示簡潔、使用較短的輸出，並適當設定 max_tokens。OrcaRouter 對 GPT-4 沒有用量折扣；每百萬 token 定價一致。
GPT-4 是 OrcaRouter 上較昂貴的模型之一。相比之下，GPT-3.5-Turbo 便宜得多（通常每 1M 輸入代幣不到 1 美元）。其他提供商的較小模型也更經濟實惠。如果您的任務不需要 GPT-4 等級的推理能力，切換到較便宜的模型可以大幅節省成本。OrcaRouter 允許您使用同一個 API 介面測試多種模型，因此您可以評估品質與成本。零加成政策意味著您只需支付供應商費率；使用 OrcaRouter 無需支付額外費用。
是的。OrcaRouter 採用按用量付費模式，您只需為使用的 Token 付費，無需預先承諾或最低使用量。您需要有足夠的點數或已充值帳戶才能進行 API 呼叫。定價為每 1M Token 如所述。在預算規劃方面，您可以根據預期的 Token 用量來估算成本。OrcaRouter 在儀表板中提供用量分析。請注意，若帳戶餘額不足，請求可能會失敗。
若要呼叫 GPT-4，請使用 OrcaRouter 提供的 OpenAI 相容 API 端點：base URL https://api.orcarouter.ai/v1。將模型參數設定為 "openai/gpt-4"。您可以透過更改 base_url 來使用任何 OpenAI 客戶端函式庫。以下是使用 Python openai 套件的範例： ```python import openai client = openai.OpenAI(api_key="YOUR_ORCAROUTER_KEY", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4", messages=[{"role": "user", "content": "Hello"}] ) print(response.choices[0].message.content) ``` 請記得將 YOUR_ORCAROUTER_KEY 替換為您的實際 API 金鑰。
您可以使用標準的 OpenAI 聊天完成參數：`messages`、`max_tokens`、`temperature`、`top_p`、`frequency_penalty`、`presence_penalty`、`stop`、`stream` 等。`model` 必須是 `"openai/gpt-4"`。`max_tokens` 參數不應超過 8192 減去輸入 tokens。`temperature` 控制隨機性（0 到 2）。`stream` 設為 `true` 啟用逐個 token 串流。所有參數都在 JSON 主體中傳遞。OrcaRouter 支援與 OpenAI 相同的 schema。請參閱 OpenAI 的 API 文件以獲取詳細的參數說明。
是的。如果您已經在使用 OpenAI Python 程式庫或任何與 OpenAI API 相容的 SDK，您只需要將 `base_url` 更改為 `https://api.orcarouter.ai/v1`，並更新您的 API 金鑰。模型 ID 從 "gpt-4" 改為 "openai/gpt-4"。不需要修改其他程式碼。OrcaRouter 的 API 設計為 OpenAI API 的即插即用替代方案。這使得遷移變得直接簡單。您可以用少量請求進行測試，以驗證行為，然後再切換正式流量。
是的。請在您的 API 請求中將 `stream` 參數設定為 `true`。回應將會是遵循 OpenAI 串流格式的聊天完成區塊疊代器，這讓您能夠即時顯示生成的 token。串流可以改善終端使用者感知的延遲。OrcaRouter 原生支援串流處理。只要確保您的客戶端程式碼正確處理串流即可。例如，使用 OpenAI Python 函式庫搭配 `stream=True` 會產生一個 `Stream` 物件。
GPT-4 在推理、創造力及遵循複雜指令的能力上，通常比 GPT-3.5-Turbo 更強。在 AA Coding 等基準測試中，GPT-4 的表現優於 GPT-3.5（後者分數較低）。然而，GPT-4 的價格也更高（每 100 萬個 Tokens 需 $30/$60，而 GPT-3.5 便宜許多）。GPT-3.5 擁有更大的上下文視窗（16,384 個 Tokens），相較之下 GPT-4 只有 8,191 個。如果你的任務簡單或對預算敏感，GPT-3.5 可能就足夠了。對於複雜的編碼、長篇寫作或細緻的分析，GPT-4 能提供更好的結果。兩者皆為僅限文字的模型，可於 OrcaRouter 上取得。
Claude 模型（例如 Claude 3 Sonnet 或 Opus）提供更大的上下文視窗（最高達 200K tokens）以及部分版本中的多模態輸入。GPT-4 則僅支援純文字，且限制為 8,191 tokens。Claude 模型的定價也有所不同。在推理基準測試方面，兩個系列均具有競爭力，但 GPT-4 的 AA Coding 評分 13.1 可能高於或低於特定的 Claude 變體。選擇取決於您的具體需求：若處理長文件或多模態，則選擇 Claude；若需要在其上下文限制內進行高效能文字生成，則選擇 GPT-4。OrcaRouter 同時支援兩者，因此您可以進行直接比較。
像 Llama 3 (70B) 這樣的開源模型在某些任務上有時能媲美 GPT-4，但通常需要更複雜的託管環境，且有不同取捨。GPT-4 雖為專有模型，但可透過簡單 API 使用，並有可預測的定價。Llama 3 若自行託管，可能擁有更大的上下文視窗或更低的每 Token 成本，但需考量基礎設施費用。GPT-4 的穩定品質及透過 OrcaRouter 提供的零加成定價，讓它易於使用。對於自訂微調，開源模型則提供更多彈性。OrcaRouter 也提供部分開源模型供比較。
GPT-4 的價值取決於你的使用情境。若你追求頂尖的推理能力、程式碼生成或創意輸出，較高的成本或許合理。在錯誤代價高昂的場景（如法律文件起草、複雜除錯）中，GPT-4 的精確性能為你節省時間與金錢。對於較簡單的任務，較便宜的模型如 GPT-3.5 能以極低成本提供足夠效能。OrcaRouter 讓你能在自有資料上對模型進行 A/B 測試，量化品質差異。最終決策是成本與品質的取捨：當 GPT-4 的輸出品質能轉化為具體商業價值時，就值得使用。
相容 OpenAI——沿用你現有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| 輸入 / 1M tokens | $30.00 |
| 輸出 / 1M tokens | $60.00 |
| 貨幣 | USD |
基於標價的估算
僅為估算——實際 Token 數取決於供應商的分詞器。
@misc{orcarouter_gpt_4,
title = {GPT-4 API},
author = {OpenAI},
year = {2023},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4}
}OpenAI. (2023). GPT-4 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4