DeepSeek 的 V4 Flash 非思考模式別名 — 1M 上下文,強大的指令遵循和程式碼能力(舊的別名,預計將被棄用)。
DeepSeek V3 是一個來自 DeepSeek 的混合專家文本模型,專為需要理解與生成超長上下文內容的任務而設計。其 1,048,576 個 token 的上下文窗口,可一次處理整本書籍、大型程式碼庫或長篇對話記錄。該模型最多可輸出 384,000 個 token,適合生成報告、文章或複雜的結構化資料。它針對需要高容量語言理解但無需多模態能力的開發者、研究人員和企業而設計。MoE…
DeepSeek V3 擅長於長上下文推理,得益於其100萬token的窗口。它能在數百頁的文字中保持連貫性,因此非常適合總結整份文檔、跟進複雜敘事或分析大型程式碼庫。MoE 架構允許它將任務的不同部分委派給專業的「專家」子網路,從而提高效率。它也支援高達384k token的輸出上限,能夠生成冗長的報告、書籍或具有詳盡回覆的多輪對話。在數學推理和程式碼生成方面尤其強大,這些是 DeepSeek 專注訓練的領域。
對於簡單任務,如短問答、分類或輕量摘要,較小的模型(例如 Llama 3.1 8B 或 GPT-4o mini)可能更具成本效益且速度更快。DeepSeek V3 在長上下文和高輸出方面進行了最佳化;將其用於生成100個token的回答會浪費其能力。如果即時延遲至關重要且上下文較短,請考慮開銷較低的模型。此外,如果您需要多模態輸入,DeepSeek V3 不適合。
最佳使用情境包括處理極長的文檔(例如法律合約、研究論文、整本書籍),其中必須考慮完整的上下文。此功能也適用於維持多達 1M 個 token 對話歷史的多輪聊天應用,例如進階客戶支援或互動式說故事。跨大型程式碼庫的程式碼生成與分析可受益於廣大的上下文。此外,需要長篇生成的任務,如報告撰寫、文章創作或結構化數據生成(例如 JSON、XML),可充分利用 384k 的輸出上限。
此清單中未提供 DeepSeek V3 的具體基準測試分數。然而,DeepSeek 公開的資訊顯示,V3 在推理基準(如 MATH、GSM8K)、程式碼基準(如 HumanEval、MBPP)以及語言理解任務(如 MMLU)上均取得了具有競爭力的成績。其 MoE 架構使其能夠達到與總參數更多的密集模型相似的表現,同時每個 token 使用的計算資源更少。使用者應查閱官方 DeepSeek 論文以獲取詳細數據。
延遲取決於輸入長度、輸出長度及當前負載。由於DeepSeek V3採用混合專家(Mixture-of-Experts)架構,每個token僅會啟動一部分參數,這通常使其生成速度比同等參數量的密集模型更快。在OrcaRouter上,延遲同時受網路條件與負載平衡影響。對於較短語境,模型回應迅速;處理長語境時,初始編碼時間會隨輸入長度增加。雖然未提供具體延遲數據,但使用者可預期其效能與同規模模型相比表現合理。
優勢包括巨大的上下文視窗(1M tokens)、高輸出限制(384k tokens)、MoE效率帶來的較低成本每token,以及強大的推理/編碼表現。限制:僅支援文字輸入(無圖像、音訊),與較大的密集模型相比,知識深度可能不足,且此模型可能不適合非常簡短的任務(會顯得大材小用)。此外,在高度細膩的任務(如創意寫作、情感語氣)中的表現可能有所差異;建議使用者進行測試。
定價為每100萬輸入代幣0.14美元,每100萬輸出代幣0.28美元。這些費率按供應商費率計費,OrcaRouter不收取額外加成。輸入代幣包括提示;輸出代幣為模型生成的文本。例如,一個500,000代幣的輸入和100,000代幣的輸出將花費0.07美元(輸入)+ 0.028美元(輸出)= 0.098美元。請注意,代幣由供應商的代幣化器計數。
考慮到其龐大的上下文窗口,如果總是使用完整的100萬個token,成本可能會累積。不過,對於許多使用場景來說,平均輸入大小其實更小。每個token的成本具有競爭力,尤其是與類似能力的密集模型相比。由於它是MoE模型,每個token的計算成本更低,而OrcaRouter以零加成的方式將此優勢傳遞給用戶。如果你的任務只需要幾百個token,使用較便宜的模型可能更經濟。對於長上下文任務,DeepSeek V3通常提供最佳的成本效益比。
OrcaRouter 不會單獨為 DeepSeek V3 宣傳快取折扣。若有快取機制,將遵循供應商 (DeepSeek) 的政策,但該政策可能適用也可能不適用。使用者應假設按標準每代幣計費。為優化成本,請考慮透過剪除不必要的輸入來有效重複使用上下文窗口。
使用 OrcaRouter 的 OpenAI 相容 API,基礎 URL 為 https://api.orcarouter.ai/v1。將模型 ID 設定為 "deepseek/deepseek-chat"。您可以使用官方的 OpenAI Python 客戶端或任何支援 OpenAI 聊天完成功能的函式庫。Python 範例: ```python import openai client = openai.OpenAI(base_url="https://api.orcarouter.ai/v1", api_key="YOUR_ORCAROUTER_API_KEY") response = client.chat.completions.create(model="deepseek/deepseek-chat", messages=[{"role":"user","content":"Hello"}]) ```
此模型支援標準的聊天完成參數:temperature、top_p、max_tokens、stop、frequency_penalty、presence_penalty 等。max_tokens 最高可設為 384,000。此模型僅支援文字,不接受圖片或音訊輸入。對於較長的上下文,您可以傳送大量的訊息陣列;請確保總 token 數不超過 1,048,576。tokenizer 與 DeepSeek 自身使用的相同;OrcaRouter 會根據提供者處理 token 計數。
將 base_url 改為 https://api.orcarouter.ai/v1,並將模型 ID 改為 "deepseek/deepseek-chat"。保留您現有的程式碼結構(messages, parameters)。如果您使用的是 OpenAI Python 客戶端或類似工具,則無需其他變更。請確保您的 API 金鑰對 OrcaRouter 有效。使用小型請求測試以驗證 token 限制和定價。對於使用串流的應用程式,回應格式與 OpenAI 的串流完全相同。
GPT-4o 支援文字、圖片和音訊輸入;DeepSeek V3 則僅限文字。GPT-4o 的上下文視窗為 128k,而 DeepSeek V3 支援 1M。GPT-4o 的定價因情況而異,但通常每個 token 較高。DeepSeek V3 的 MoE 架構在長上下文處理上可能帶來較低延遲。在推理與程式碼方面,兩者表現都很強,但 GPT-4o 擁有更廣泛的多模態能力。若你需要極長的上下文長度與高效的文字處理,請選擇 DeepSeek V3;若需執行多模態任務,則選擇 GPT-4o。
Claude 3.5 Sonnet 提供 200k 的上下文視窗,明顯小於 DeepSeek V3 的 1M。Claude 支援文字與圖片輸入;DeepSeek V3 僅限文字。Claude 的每 token 定價較高(例如,每百萬輸入 $3)。DeepSeek V3 較為便宜。Claude 以優秀的指令遵循能力與安全性著稱;DeepSeek V3 則擅長數學與程式碼。對於長上下文任務,DeepSeek V3 更具成本效益,且提供更大的容量。
Llama 3.1 405B 是一個密集模型,擁有 128k 上下文視窗;DeepSeek V3 的上下文則大得多。Llama 3.1 405B 同樣僅支援純文字。透過託管服務使用 Llama 3.1 405B 的定價通常高於 DeepSeek V3。DeepSeek V3 的 MoE 架構使用較少的活躍參數,可能更有利於生成速度。兩者在推理方面都很強;DeepSeek V3 因其更長的上下文視窗,可能在長上下文召回方面更具優勢。若需極長上下文長度,請選擇 DeepSeek V3;若需開放權重存取或特定微調變體,則選擇 Llama 3.1。
當你的任務需要處理非常長的上下文(例如整本書、大型程式碼庫)或產生長輸出(最多384k token)時,請使用DeepSeek V3。如果你的任務較短,像DeepSeek V2 Lite或Llama 3.1 8B這樣較小的模型會更快且更便宜。此外,若你需要多模態輸入,請考慮其他模型。對於任何上下文超過128k token或需要超出典型限制的輸出長度的任務,成本效益比傾向於使用DeepSeek V3。
相容 OpenAI——沿用你現有的 SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="deepseek/deepseek-chat",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)include_reasoninglogprobsmax_tokensreasoningresponse_formatstopstreamstream_optionstemperaturethinkingtool_choicetoolstop_logprobstop_puser_id| 輸入 / 1M tokens | $0.147 |
| 輸出 / 1M tokens | $0.295 |
| 快取讀取 / 1M | $0.020 |
| 貨幣 | USD |
基於標價的估算
僅為估算——實際 Token 數取決於供應商的分詞器。
@misc{orcarouter_deepseek_chat,
title = {DeepSeek V3 API},
author = {DeepSeek},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/deepseek/deepseek-chat}
}DeepSeek. (2024). DeepSeek V3 API. OrcaRouter. https://www.orcarouter.ai/models/deepseek/deepseek-chat