DeepSeek alias untuk mode non-thinking V4 Flash — konteks 1M, kemampuan mengikuti instruksi yang kuat dan coding (alias warisan, dijadwalkan untuk dihentikan).
DeepSeek V3 adalah model teks Mixture-of-Experts dari DeepSeek, yang dirancang untuk tugas-tugas yang memerlukan pemahaman dan pembangkitan konteks yang sangat panjang. Jendela konteks 1.048.576…
DeepSeek V3 unggul dalam penalaran konteks panjang berkat jendela 1 juta token-nya. Ia dapat mempertahankan koherensi di seluruh ratusan halaman teks, sehingga ideal untuk merangkum seluruh dokumen, mengikuti narasi yang kompleks, atau menganalisis repositori kode berukuran besar. Arsitektur MoE memungkinkannya untuk mendelegasikan berbagai bagian tugas ke subjaringan 'pakar' yang terspesialisasi, sehingga meningkatkan efisiensi. Ia juga mendukung batas output yang tinggi yaitu 384 ribu token, memungkinkan pembuatan laporan panjang, buku, atau dialog multi-putaran dengan respons ekstensif. DeepSeek sangat kuat dalam penalaran matematis dan pembuatan kode, bidang di mana DeepSeek telah memfokuskan pelatihannya.
Untuk tugas sederhana seperti Tanya Jawab singkat, klasifikasi, atau perangkuman ringan, model yang lebih kecil (misalnya, Llama 3.1 8B atau GPT-4o mini) mungkin lebih hemat biaya dan lebih cepat. DeepSeek V3 dioptimalkan untuk konteks panjang dan output tinggi; menggunakannya untuk jawaban 100 token akan menyia-nyiakan kapasitasnya. Jika latensi waktu nyata sangat penting dan konteks pendek, pertimbangkan model dengan overhead yang lebih rendah. Selain itu, jika Anda memerlukan input multimodal, DeepSeek V3 tidak cocok.
Kasus penggunaan terbaik meliputi pemrosesan dokumen yang sangat panjang (misalnya, kontrak hukum, makalah penelitian, seluruh buku) di mana seluruh konteks harus dipertimbangkan. Ini juga efektif untuk aplikasi obrolan multi-giliran yang mempertahankan riwayat percakapan hingga 1M token, seperti dukungan pelanggan tingkat lanjut atau penceritaan interaktif. Generasi dan analisis kode di seluruh basis kode yang sangat besar mendapatkan manfaat dari konteks yang besar. Selain itu, tugas yang memerlukan generasi teks panjang seperti penulisan laporan, pembuatan artikel, atau generasi data terstruktur (misalnya, JSON, XML) dapat sepenuhnya memanfaatkan batas output 384k.
Skor benchmark spesifik untuk DeepSeek V3 tidak disediakan dalam daftar ini. Namun, informasi yang tersedia untuk umum dari DeepSeek menunjukkan bahwa V3 mencapai hasil yang kompetitif pada benchmark penalaran (mis., MATH, GSM8K), benchmark pengkodean (mis., HumanEval, MBPP), dan tugas pemahaman bahasa (mis., MMLU). Arsitektur MoE-nya memungkinkannya bekerja serupa dengan model padat dengan parameter total yang jauh lebih banyak sambil menggunakan lebih sedikit komputasi per token. Pengguna harus merujuk pada makalah resmi DeepSeek untuk angka-angka terperinci.
Latensi tergantung pada panjang input, panjang output, dan beban saat ini. Karena DeepSeek V3 menggunakan arsitektur Mixture-of-Experts, ia hanya mengaktifkan sebagian kecil parameter per token, yang umumnya menghasilkan generasi yang lebih cepat dibandingkan dengan model padat dengan jumlah parameter total yang sama. Di OrcaRouter, latensi juga dipengaruhi oleh kondisi jaringan dan penyeimbangan beban. Untuk konteks pendek, model merespons dengan cepat; untuk pemrosesan konteks panjang, waktu encoding awal berskala dengan panjang input. Tidak ada angka latensi spesifik yang diberikan, tetapi pengguna dapat mengharapkan kinerja yang wajar untuk model seukurannya.
Kelebihan termasuk jendela konteks yang masif (1M token), batas output tinggi (384k token), efisiensi MoE yang menghasilkan biaya per token lebih rendah, dan performa penalaran/pengkodean yang kuat. Keterbatasan: input hanya teks (tanpa gambar, audio), potensi pengurangan kedalaman pengetahuan dibandingkan dengan model padat yang lebih besar, dan model mungkin tidak ideal untuk tugas yang sangat pendek di mana ia berlebihan. Selain itu, perilakunya pada tugas yang sangat bernuansa (misalnya, penulisan kreatif, nada emosional) dapat bervariasi; pengujian pengguna disarankan.
Harga adalah $0.14 per 1 juta token input dan $0.28 per 1 juta token output. Tarif ini ditagih berdasarkan tarif penyedia tanpa markup tambahan dari OrcaRouter. Token input termasuk prompt; token output adalah teks yang dihasilkan model. Sebagai contoh, input 500.000 token dan output 100.000 token akan dikenakan biaya $0.07 (input) + $0.028 (output) = $0.098. Perhatikan bahwa token dihitung oleh tokenizer penyedia.
Mengingat jendela konteksnya yang besar, biaya bisa bertambah jika Anda selalu menggunakan 1M token penuh. Namun, untuk banyak kasus penggunaan, ukuran input rata-rata lebih kecil. Biaya per token kompetitif, terutama dibandingkan dengan model padat dengan kemampuan serupa. Karena ini adalah model MoE, biaya komputasi per token lebih rendah, yang diteruskan OrcaRouter tanpa markup. Jika tugas Anda hanya memerlukan beberapa ratus token, model yang lebih murah mungkin lebih ekonomis. Untuk tugas konteks panjang, DeepSeek V3 sering memberikan rasio biaya-kinerja terbaik.
OrcaRouter tidak mengiklankan diskon caching secara terpisah untuk DeepSeek V3. Caching, jika ada, akan mengikuti kebijakan penyedia (DeepSeek), yang mungkin berlaku atau tidak. Pengguna harus mengasumsikan penagihan standar per token. Untuk optimasi biaya, pertimbangkan untuk menggunakan kembali jendela konteks secara efisien dengan memangkas input yang tidak diperlukan.
Gunakan API yang kompatibel dengan OpenAI milik OrcaRouter dengan URL dasar https://api.orcarouter.ai/v1. Tetapkan ID model menjadi "deepseek/deepseek-chat". Anda dapat menggunakan klien Python resmi OpenAI atau pustaka lain yang mendukung penyelesaian obrolan OpenAI. Contoh dalam Python: ```python import openai client = openai.OpenAI(base_url="https://api.orcarouter.ai/v1", api_key="YOUR_ORCAROUTER_API_KEY") response = client.chat.completions.create(model="deepseek/deepseek-chat", messages=[{"role":"user","content":"Hello"}]) ```
Model ini mendukung parameter penyelesaian chat standar: temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty, dan lainnya. max_tokens dapat diatur hingga 384.000. Model ini hanya teks, sehingga tidak ada input gambar atau audio. Untuk konteks panjang, Anda dapat mengirim array pesan besar; pastikan total token tidak melebihi 1.048.576. Tokenizer-nya sama dengan milik DeepSeek sendiri; OrcaRouter menangani penghitungan token sesuai dengan penyedia.
Ubah base_url menjadi https://api.orcarouter.ai/v1 dan model ID menjadi "deepseek/deepseek-chat". Pertahankan struktur kode yang sudah ada (messages, parameters). Tidak ada perubahan lain yang diperlukan jika Anda menggunakan OpenAI Python client atau sejenisnya. Pastikan API key Anda valid untuk OrcaRouter. Uji dengan permintaan kecil untuk memverifikasi batas token dan harga. Untuk aplikasi yang menggunakan streaming, format responsnya identik dengan streaming OpenAI.
GPT-4o mendukung input teks, gambar, dan audio; DeepSeek V3 hanya teks. GPT-4o memiliki jendela konteks 128k, sementara DeepSeek V3 mendukung 1M. Harga GPT-4o bervariasi tetapi umumnya lebih tinggi per token. Arsitektur MoE DeepSeek V3 dapat menghasilkan latensi yang lebih rendah untuk konteks panjang. Dalam hal penalaran dan pengkodean, keduanya kuat, tetapi GPT-4o memiliki kemampuan multimodal yang lebih luas. Pilih DeepSeek V3 jika Anda membutuhkan panjang konteks ekstrem dan pemrosesan teks yang efisien; pilih GPT-4o untuk tugas multimodal.
Claude 3.5 Sonnet menawarkan jendela konteks 200k, secara signifikan lebih kecil dari DeepSeek V3 yang 1M. Claude mendukung input teks dan gambar; DeepSeek V3 hanya teks. Harga Claude lebih tinggi per token (misalnya, $3 per juta input). DeepSeek V3 lebih murah. Claude dikenal karena kemampuannya mengikuti instruksi dengan baik dan keamanan; DeepSeek V3 unggul dalam matematika dan pemrograman. Untuk tugas dengan konteks panjang, DeepSeek V3 lebih hemat biaya dan menawarkan kapasitas lebih besar.
Llama 3.1 405B adalah model padat dengan jendela konteks 128k; konteks DeepSeek V3 jauh lebih besar. Llama 3.1 405B juga hanya teks. Harga untuk Llama 3.1 405B melalui layanan host biasanya lebih tinggi daripada DeepSeek V3. Arsitektur MoE DeepSeek V3 menggunakan parameter aktif yang lebih sedikit, berpotensi lebih cepat untuk generasi. Keduanya kuat dalam penalaran; DeepSeek V3 mungkin memiliki keunggulan dalam pengingatan konteks panjang karena jendelanya yang diperluas. Pilih DeepSeek V3 untuk panjang konteks ekstrem; Llama 3.1 untuk akses bobot terbuka atau varian yang disetel secara khusus.
Gunakan DeepSeek V3 saat tugas Anda memerlukan pemrosesan konteks yang sangat panjang (misalnya, seluruh buku, basis kode besar) atau menghasilkan output panjang (hingga 384k token). Jika tugas Anda pendek, model yang lebih kecil seperti DeepSeek V2 Lite atau Llama 3.1 8B akan lebih cepat dan lebih murah. Juga, jika Anda memerlukan input multimodal, pertimbangkan model lain. Rasio biaya-manfaat menguntungkan DeepSeek V3 untuk tugas apa pun yang konteksnya melebihi 128k token atau di mana panjang output melebihi batas tipikal diperlukan.
Kompatibel OpenAI — pakai SDK Anda yang sekarang
https://api.orcarouter.ai/v1import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key=os.environ["ORCAROUTER_API_KEY"],
)
response = client.chat.completions.create(
model="deepseek/deepseek-chat",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)include_reasoninglogprobsmax_tokensreasoningresponse_formatstopstreamstream_optionstemperaturethinkingtool_choicetoolstop_logprobstop_puser_id| Input / 1M token · Di luar jam sibuk | $0.147 |
| Output / 1M token · Di luar jam sibuk | $0.295 |
| Baca cache / 1M · Di luar jam sibuk | $0.020 |
| Jam sibuk | 01:00–04:00, 06:00–10:00 ×2 (UTC) |
| Input / 1M token · ×2 | $0.294 |
| Output / 1M token · ×2 | $0.590 |
| Baca cache / 1M · ×2 | $0.040 |
| Mata uang | USD |
Perkiraan berdasarkan harga daftar
Hanya perkiraan — jumlah token sebenarnya bergantung pada tokenizer penyedia.
Yang dibicarakan developer minggu ini
GET /api/public/models/deepseek/deepseek-chatBuka @misc{orcarouter_deepseek_chat,
title = {DeepSeek V3 API},
author = {DeepSeek},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/deepseek/deepseek-chat}
}DeepSeek. (2024). DeepSeek V3 API. OrcaRouter. https://www.orcarouter.ai/models/deepseek/deepseek-chat