Bí danh DeepSeek cho chế độ không suy nghĩ của V4 Flash — ngữ cảnh 1M, khả năng tuân thủ hướng dẫn và viết mã mạnh mẽ (bí danh cũ, dự kiến sẽ bị ngừng hỗ trợ).
DeepSeek V3 là một mô hình văn bản dạng Mixture-of-Experts từ DeepSeek, được thiết kế cho các tác vụ yêu cầu hiểu và sinh văn bản trên ngữ cảnh rất dài. Cửa sổ ngữ cảnh 1.048.576 token của nó cho…
DeepSeek V3 vượt trội trong việc suy luận trên các ngữ cảnh dài nhờ vào cửa sổ 1 triệu token. Nó duy trì được tính mạch lạc xuyên suốt hàng trăm trang văn bản, lý tưởng cho việc tóm tắt toàn bộ tài liệu, theo dõi các cốt truyện phức tạp, hoặc phân tích các kho mã nguồn lớn. Kiến trúc MoE cho phép nó phân công các phần khác nhau của một nhiệm vụ cho các 'mạng con chuyên gia' riêng biệt, cải thiện hiệu quả. Nó cũng hỗ trợ giới hạn đầu ra cao lên tới 384k token, cho phép tạo ra các báo cáo dài, sách, hoặc hội thoại nhiều lượt với các phản hồi mở rộng. Nó đặc biệt mạnh trong suy luận toán học và sinh mã, những lĩnh vực mà DeepSeek đã tập trung huấn luyện.
Đối với các tác vụ đơn giản như hỏi đáp ngắn, phân loại hoặc tóm tắt nhẹ, một mô hình nhỏ hơn (ví dụ: Llama 3.1 8B hoặc GPT-4o mini) có thể tiết kiệm chi phí và nhanh hơn. DeepSeek V3 được tối ưu cho ngữ cảnh dài và đầu ra cao; sử dụng nó cho câu trả lời 100 token sẽ lãng phí năng lực. Nếu độ trễ thời gian thực là yếu tố quan trọng và ngữ cảnh ngắn, hãy cân nhắc mô hình có chi phí thấp hơn. Ngoài ra, nếu bạn cần đầu vào đa phương thức, DeepSeek V3 không phù hợp.
Các trường hợp sử dụng tốt nhất bao gồm xử lý các tài liệu rất dài (ví dụ: hợp đồng pháp lý, bài nghiên cứu, toàn bộ sách) mà cần phải xem xét toàn bộ ngữ cảnh. Nó cũng hiệu quả cho các ứng dụng chat nhiều lượt duy trì lịch sử hội thoại lên đến 1 triệu token, chẳng hạn như hỗ trợ khách hàng nâng cao hoặc kể chuyện tương tác. Việc tạo và phân tích mã nguồn trên các cơ sở mã lớn được hưởng lợi từ ngữ cảnh lớn. Ngoài ra, các tác vụ yêu cầu sinh văn bản dài như viết báo cáo, tạo bài viết, hoặc sinh dữ liệu có cấu trúc (ví dụ: JSON, XML) có thể tận dụng tối đa giới hạn đầu ra 384k.
Điểm chuẩn cụ thể cho DeepSeek V3 không được cung cấp trong danh sách này. Tuy nhiên, thông tin công khai từ DeepSeek cho thấy V3 đạt được kết quả cạnh tranh trên các bài kiểm tra suy luận (ví dụ: MATH, GSM8K), bài kiểm tra lập trình (ví dụ: HumanEval, MBPP) và các tác vụ hiểu ngôn ngữ (ví dụ: MMLU). Kiến trúc MoE của nó cho phép hoạt động tương tự như các mô hình dày đặc với nhiều tham số tổng thể hơn trong khi sử dụng ít tính toán hơn mỗi token. Người dùng nên tham khảo bài báo chính thức của DeepSeek để có số liệu chi tiết.
Độ trễ phụ thuộc vào độ dài đầu vào, độ dài đầu ra và tải hiện tại. Vì DeepSeek V3 sử dụng kiến trúc Mixture-of-Experts, nó chỉ kích hoạt một tập con các tham số cho mỗi token, điều này thường dẫn đến tốc độ sinh nhanh hơn so với một mô hình dense có cùng tổng số tham số. Trên OrcaRouter, độ trễ cũng bị ảnh hưởng bởi điều kiện mạng và cân bằng tải. Đối với ngữ cảnh ngắn, mô hình phản hồi nhanh; đối với xử lý ngữ cảnh dài, thời gian mã hóa ban đầu tỷ lệ thuận với độ dài đầu vào. Không có số liệu độ trễ cụ thể nào được cung cấp, nhưng người dùng có thể kỳ vọng hiệu suất hợp lý cho một mô hình có kích thước như vậy.
Điểm mạnh bao gồm cửa sổ ngữ cảnh khổng lồ (1M token), giới hạn đầu ra cao (384k token), hiệu quả MoE giúp giảm chi phí mỗi token, cùng hiệu suất suy luận/lập trình mạnh mẽ. Hạn chế: chỉ nhận đầu vào dạng văn bản (không có hình ảnh, âm thanh), khả năng kiến thức bị giảm so với các mô hình dense lớn hơn, và mô hình có thể không lý tưởng cho các tác vụ rất ngắn mà dùng đến nó là quá mức cần thiết. Ngoài ra, hành vi của nó trên các tác vụ tinh tế (ví dụ: viết sáng tạo, giọng điệu cảm xúc) có thể thay đổi; khuyến nghị người dùng nên tự kiểm tra.
Giá là $0.14 trên 1 triệu token đầu vào và $0.28 trên 1 triệu token đầu ra. Các mức giá này được tính theo tỷ lệ của nhà cung cấp, không có phụ phí nào từ OrcaRouter. Token đầu vào bao gồm prompt; token đầu ra là văn bản do mô hình tạo ra. Ví dụ, đầu vào 500.000 token và đầu ra 100.000 token sẽ có chi phí $0.07 (đầu vào) + $0.028 (đầu ra) = $0.098. Lưu ý rằng token được đếm bằng bộ tokenizer của nhà cung cấp.
Với cửa sổ ngữ cảnh lớn, chi phí có thể tăng lên nếu bạn luôn sử dụng toàn bộ 1M token. Tuy nhiên, đối với nhiều trường hợp sử dụng, kích thước đầu vào trung bình nhỏ hơn. Chi phí trên mỗi token có tính cạnh tranh, đặc biệt khi so sánh với các mô hình dày đặc có khả năng tương tự. Vì đây là mô hình MoE, chi phí tính toán trên mỗi token thấp hơn, và OrcaRouter chuyển khoản tiết kiệm này thành không tính thêm phí (zero markup). Nếu tác vụ của bạn chỉ yêu cầu vài trăm token, một mô hình rẻ hơn có thể kinh tế hơn. Đối với các tác vụ ngữ cảnh dài, DeepSeek V3 thường mang lại tỷ lệ chi phí - hiệu suất tốt nhất.
OrcaRouter không quảng cáo riêng các khoản giảm giá bộ nhớ đệm cho DeepSeek V3. Việc sử dụng bộ nhớ đệm (nếu có) sẽ tuân theo chính sách của nhà cung cấp (DeepSeek), có thể áp dụng hoặc không. Người dùng nên giả định tính phí theo token tiêu chuẩn. Để tối ưu hóa chi phí, hãy cân nhắc tái sử dụng các cửa sổ ngữ cảnh một cách hiệu quả bằng cách cắt bỏ các đầu vào không cần thiết.
Sử dụng API tương thích với OpenAI của OrcaRouter với base URL https://api.orcarouter.ai/v1. Đặt ID model là "deepseek/deepseek-chat". Bạn có thể sử dụng thư viện OpenAI Python chính thức hoặc bất kỳ thư viện nào hỗ trợ chat completions của OpenAI. Ví dụ bằng Python: ```python import openai client = openai.OpenAI(base_url="https://api.orcarouter.ai/v1", api_key="YOUR_ORCAROUTER_API_KEY") response = client.chat.completions.create(model="deepseek/deepseek-chat", messages=[{"role":"user","content":"Hello"}]) ```
Mô hình hỗ trợ các tham số trò chuyện tiêu chuẩn: temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty và các tham số khác. max_tokens có thể được đặt tối đa là 384.000. Mô hình chỉ hỗ trợ văn bản, do đó không có đầu vào hình ảnh hay âm thanh. Đối với các ngữ cảnh dài, bạn có thể gửi các mảng tin nhắn lớn; đảm bảo tổng số token không vượt quá 1.048.576. Bộ tokenizer giống với bộ tokenizer riêng của DeepSeek; OrcaRouter xử lý việc đếm token theo nhà cung cấp.
Thay đổi base_url thành https://api.orcarouter.ai/v1 và model ID thành "deepseek/deepseek-chat". Giữ nguyên cấu trúc code hiện tại (messages, parameters). Không cần thay đổi nào khác nếu bạn đang sử dụng OpenAI Python client hoặc tương tự. Đảm bảo API key của bạn hợp lệ cho OrcaRouter. Kiểm tra bằng một request nhỏ để xác minh giới hạn token và giá cả. Đối với các ứng dụng sử dụng streaming, định dạng phản hồi giống hệt với streaming của OpenAI.
GPT-4o hỗ trợ đầu vào văn bản, hình ảnh và âm thanh; DeepSeek V3 chỉ hỗ trợ văn bản. GPT-4o có cửa sổ ngữ cảnh 128k, trong khi DeepSeek V3 hỗ trợ 1M. Giá của GPT-4o thay đổi nhưng thường cao hơn mỗi token. Kiến trúc MoE của DeepSeek V3 có thể mang lại độ trễ thấp hơn cho các ngữ cảnh dài. Về lý luận và lập trình, cả hai đều mạnh, nhưng GPT-4o có khả năng đa phương thức rộng hơn. Chọn DeepSeek V3 nếu bạn cần độ dài ngữ cảnh cực lớn và xử lý văn bản hiệu quả; chọn GPT-4o cho các tác vụ đa phương thức.
Claude 3.5 Sonnet cung cấp cửa sổ ngữ cảnh 200k, nhỏ hơn đáng kể so với 1M của DeepSeek V3. Claude hỗ trợ đầu vào văn bản và hình ảnh; DeepSeek V3 chỉ hỗ trợ văn bản. Giá của Claude cao hơn mỗi token (ví dụ: $3 cho mỗi triệu token đầu vào). DeepSeek V3 rẻ hơn. Claude được biết đến với khả năng tuân thủ hướng dẫn và an toàn mạnh mẽ; DeepSeek V3 vượt trội về toán học và lập trình. Đối với các tác vụ ngữ cảnh dài, DeepSeek V3 tiết kiệm chi phí hơn và cung cấp dung lượng lớn hơn.
Llama 3.1 405B là một mô hình dense với cửa sổ ngữ cảnh 128k; ngữ cảnh của DeepSeek V3 lớn hơn nhiều. Llama 3.1 405B cũng chỉ hỗ trợ văn bản. Giá cho Llama 3.1 405B qua các dịch vụ lưu trữ thường cao hơn DeepSeek V3. Kiến trúc MoE của DeepSeek V3 sử dụng ít tham số hoạt động hơn, có khả năng nhanh hơn trong quá trình sinh. Cả hai đều mạnh về lý luận; DeepSeek V3 có thể có lợi thế trong việc truy xuất ngữ cảnh dài nhờ cửa sổ mở rộng. Chọn DeepSeek V3 cho độ dài ngữ cảnh cực lớn; chọn Llama 3.1 để truy cập trọng số mở hoặc các biến thể tinh chỉnh cụ thể.
Sử dụng DeepSeek V3 khi nhiệm vụ của bạn yêu cầu xử lý các ngữ cảnh rất dài (ví dụ: toàn bộ sách, cơ sở mã lớn) hoặc tạo ra đầu ra dài (lên đến 384k token). Nếu nhiệm vụ của bạn ngắn, một mô hình nhỏ hơn như DeepSeek V2 Lite hoặc Llama 3.1 8B sẽ nhanh hơn và rẻ hơn. Ngoài ra, nếu bạn cần đầu vào đa phương thức, hãy cân nhắc các mô hình khác. Tỷ lệ chi phí-lợi ích ủng hộ DeepSeek V3 cho bất kỳ nhiệm vụ nào mà ngữ cảnh vượt quá 128k token hoặc yêu cầu độ dài đầu ra vượt quá giới hạn thông thường.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="deepseek/deepseek-chat",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)include_reasoninglogprobsmax_tokensreasoningresponse_formatstopstreamstream_optionstemperaturethinkingtool_choicetoolstop_logprobstop_puser_id| Đầu vào / 1M tokens | $0.147 |
| Đầu ra / 1M tokens | $0.295 |
| Đọc cache / 1M | $0.020 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/deepseek/deepseek-chatMở @misc{orcarouter_deepseek_chat,
title = {DeepSeek V3 API},
author = {DeepSeek},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/deepseek/deepseek-chat}
}DeepSeek. (2024). DeepSeek V3 API. OrcaRouter. https://www.orcarouter.ai/models/deepseek/deepseek-chat