OpenAI GPT-4o-mini 預覽版,具備擴展上下文,適用於低成本、面向搜索的文字生成。
此模型是 OpenAI 的 GPT-4o-mini 預覽版本,專為搜尋導向的文字生成進行最佳化。它僅接受文字輸入,並提供 128,000 個 token 的上下文視窗,使其能夠在單次請求中處理非常長的使用者查詢或文件。每次呼叫的最大輸出為 16,384 個 token。透過 OrcaRouter 的 OpenAI 相容 API 進行存取,使現有的 OpenAI API…
此模型擅長基於大型上下文(最多128k tokens)來理解和生成文字,並可產生最多16,384 tokens的輸出。它保留了 GPT-4o-mini 的核心優勢:快速推理、良好的指令遵循能力以及成本效益。搜尋預覽調整很可能提升了其提取相關片段、比較資訊以及回答需要掃描長篇段落的問題的能力。只要輸入保持為文字,它可用於摘要、問答、資訊提取以及多輪對話。它預設不支援函數呼叫或工具使用,但您可以將外部搜尋結果納入提示中。
根據其設計,此模型最適合用戶提供一段長文本、其中包含生成答案所需資訊的任務。這包括以下場景:分析一組搜尋結果(以文字形式呈現)、比較產品描述、從研究論文中提取關鍵事實,或總結會議記錄。128k的上下文長度允許一次處理整本書或多文件集合。然而,對於創意寫作、程式碼生成或需要多模態理解的任務,它可能不是最佳選擇。對於這些情況,請考慮使用標準的GPT-4o-mini或GPT-4o模型。
如果你的任務非常簡單——例如簡短的問答或分類——且不需要大型上下文視窗或搜尋特定的調校,那麼較便宜的模型如 GPT-4o-mini(非預覽版)甚至 GPT-3.5 Turbo 可能就足夠了。預覽模型的定價與 GPT-4o-mini 相同,因此成本並非區別因素。然而,如果延遲是優先考量,GPT-4o-mini 已經是速度最快的模型之一;預覽版本應該有相似的速度。如果你不需要搜尋功能,標準的 GPT-4o-mini 可能經過更廣泛的測試且更穩定。
每個請求的最大輸出 tokens 數為 16,384。輸入上下文最多可達 128,000 個 tokens。這些是寬鬆的限制,允許較長的回應和極長的上下文。然而,由於模型僅支援文字,所有 tokens 都必須是文字。雖然您可以指示模型輸出 JSON,但原生不支援 JSON 結構強制執行等結構化資料。預覽版可能有限制速率;使用 OrcaRouter 時,這些限制取決於您的帳戶層級和後端提供者的可用性。
OpenAI 尚未針對此特定預覽模型發布獨立的基準測試分數。然而,基礎的 GPT-4o-mini 已知能在多項 NLP 基準測試中取得優異成績,同時其速度與成本遠優於 GPT-4o。使用者可以預期類似的整體表現,且在涉及資訊檢索或長上下文推理的任務上,由於搜尋調校的緣故,可能會有更好的結果。在缺乏官方基準的情況下,建議在您自己的測試集上評估該模型,以衡量其在您領域中的效能。
GPT-4o-mini 是 GPT-4 系列中最快的模型之一,此預覽版本應具有相近的延遲。典型的首次令牌生成時間很短,適合互動式應用。確切延遲取決於請求大小、輸出長度以及當前提供者的負載。128k 的上下文可能導致首次令牌生成時間比短上下文更長,但一旦開始串流,令牌生成速度很快。OrcaRouter 不會增加顯著開銷;API 呼叫已針對最低延遲進行最佳化。
主要優勢在於高速、低成本以及處理極長上下文的能力。對於答案存在於提供文本中的任務,此模型能有效提取資訊,而無需支付GPT-4o較高的成本。它同時繼承了GPT-4o-mini的強大指令遵循能力。然而,在細微推理、創造力或事實準確性方面,可能不及GPT-4o或GPT-4 Turbo等較大型模型。在複雜推理任務中,較大型模型通常表現更好,但代價是更高的延遲與成本。
作為預覽版本,該模型可能含有未發現的錯誤或不一致的行為。它尚未像穩定版本那樣經過廣泛測試。搜尋調整可能在輸入資訊不足時導致意外輸出,進而引發幻覺。除非您提供相關內容,否則模型無法使用外部工具或瀏覽網路。如果您的任務需要最新的網路搜尋結果,您需要手動將其注入提示中。此外,它不支援圖片或音訊,限制了在多模態場景中的使用。
OrcaRouter 以零加價傳遞供應商定價。對於 openai/gpt-4o-mini-search-preview-2025-03-11,成本為每 100 萬個輸入 token 0.15 美元,每 100 萬個輸出 token 0.60 美元。輸入 token 包括整個提示(系統訊息、用戶訊息以及任何歷史記錄)。輸出 token 是生成的文字。OrcaRouter 不收取任何額外費用。這使得該模型對於大量使用非常實惠,尤其是在處理長上下文時。
在OrcaRouter上,此模型並未提及具體的快取折扣。定價方式為按token計費,隨用隨付。某些提供商會提供提示快取功能,可減少重複前綴的成本,但此預覽版尚未確認是否支援。通常,OpenAI可能會在其API中針對特定模型提供快取,但此預覽版可能不符合資格。請查閱OpenAI的文件以了解最新的快取政策。在OrcaRouter上,無論使用模式如何,您都按相同費率計費。
以每百萬個token的輸入0.15美元/輸出0.60美元的價格,它與標準的GPT-4o-mini相同。這使得它比GPT-4o(輸入2.50美元/輸出10美元)和GPT-4 Turbo(輸入10美元/輸出30美元)便宜得多。它比舊型號如GPT-3.5 Turbo(每百萬個輸入0.50美元/輸出1.50美元?)更貴。然而,其價值來自於大上下文和搜索優化。如果您需要完整上下文,相對於較大模型的成本優勢是顯著的。
若要使用此模型,請將您的 API 基礎網址設為 https://api.orcarouter.ai/v1,API 金鑰(來自 OrcaRouter)設定為您的金鑰,並將模型 ID 精確設為 "openai/gpt-4o-mini-search-preview-2025-03-11"。標準 OpenAI Python 用戶端範例: client = OpenAI(api_key="your_orcarouter_key", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4o-mini-search-preview-2025-03-11", messages=[{"role": "user", "content": "Your prompt"}] ) 支援所有標準的聊天完成參數,包括 temperature、max_tokens、top_p、frequency_penalty、presence_penalty 以及 stop sequences。串流功能可透過設定 stream=True 來使用。
此模型支援與 OpenAI Chat Completions API 相同的參數。關鍵參數:temperature(預設 1.0,範圍 0-2)、top_p(預設 1.0)、max_tokens(預設值依情形而定,最高可設為 16384)、stop(字串列表)、frequency_penalty(預設 0)、presence_penalty(預設 0)和 logit_bias。您也可以傳入 user_id 以進行監控。目前尚未原生支援 response_format 架構;如果您需要結構化輸出,請使用提示指令。模型會尊重 system 訊息以設定上下文。
遷移無需對請求結構進行程式碼更改,只需更新模型 ID。在您的 API 呼叫中,將模型字串替換為 "openai/gpt-4o-mini-search-preview-2025-03-11"。如果尚未使用,請確保您的基礎 URL 指向 OrcaRouter (https://api.orcarouter.ai/v1)。由於這是預覽版,請進行全面測試:回應的風格或準確性可能有所不同。您可以將模型 ID 儲存在設定中,以便在應用程式中有條件地在不同模型之間切換。監控效能和成本,以確保預覽版在全面推出前符合您的需求。
Both models share the same base architecture and pricing. The standard GPT-4o-mini is a general-purpose model with no specific search tuning. The preview is designed to improve performance on tasks that involve extracting and synthesizing information from large text contexts, such as search result analysis. In practice, the preview may handle long prompts with many facts more accurately, while the standard version may be better for open-ended conversation, creative writing, or tasks where search behavior is not needed. If your application already works with standard GPT-4o-mini, testing the preview is low risk due to identical API.
GPT-4o是OpenAI的旗艦多模態模型,具備更強的推理能力、影像理解能力以及更大的上下文視窗(同樣為128k tokens)。然而,其成本顯著更高(每百萬tokens $2.50/$10),且速度較慢。GPT-4o-mini的搜尋預覽版本則在推理深度上有所取捨,以換取速度與成本優勢。對於純文字且不需要複雜多步驟推理的任務,此預覽版本可能已足夠,且成本僅為一小部分。而對於需要多模態輸入或更高精確度的任務,GPT-4o仍然更為優越。
Claude 3 Haiku (Anthropic) 和 Gemini 1.5 Flash (Google) 同樣是快速、低成本且具備大上下文能力的模型。Haiku 支援 20 萬 token 上下文,Flash 則高達 100 萬 token,價格各有不同。GPT-4o-mini 的搜尋預覽版之所以獨特,是因為它是 OpenAI 針對搜尋進行調校的變體預覽版。在缺乏直接基準比較的情況下,很難斷定哪個最好。這三者都非常適合資訊檢索任務。選擇可能取決於生態系統相容性、提示語風格,以及在你自己的資料上的具體表現。OrcaRouter 提供對所有這些模型的統一存取,方便進行 A/B 測試。
如果您的首要需求是成本效益、快速回應時間,且您處理的是純文字輸入、不需要進階推理,則請選擇此模型。它非常適合每個請求的上下文較大(例如處理長篇文件)但輸出相對簡短的高流量應用。如果您需要最佳準確度,特別是在模糊或複雜的查詢上,或者需要處理圖像,那麼GPT-4o是更好的選擇。預覽模型也適合在投入更高成本模型之前進行原型設計和測試。
相容 OpenAI——沿用你現有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini-search-preview-2025-03-11",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatstreamstructured_outputsweb_search_options| 輸入 / 1M tokens | $0.150 |
| 輸出 / 1M tokens | $0.600 |
| 貨幣 | USD |
基於標價的估算
僅為估算——實際 Token 數取決於供應商的分詞器。
GET /api/public/models/openai/gpt-4o-mini-search-preview-2025-03-11開啟 @misc{orcarouter_gpt_4o_mini_search_preview_2025_03_11,
title = {openai/gpt-4o-mini-search-preview-2025-03-11 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11}
}openai. (n.d.). openai/gpt-4o-mini-search-preview-2025-03-11 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11