นามแฝง DeepSeek สำหรับโหมดไม่คิดของ V4 Flash — บริบท 1M, การปฏิบัติตามคำสั่งและการเขียนโปรแกรมที่แข็งแกร่ง (นามแฝงดั้งเดิม กำลังจะถูกยกเลิก)
DeepSeek V3 เป็นโมเดลข้อความแบบ Mixture-of-Experts จาก DeepSeek ที่ออกแบบมาสำหรับงานที่ต้องการความเข้าใจและสร้างเนื้อหาบนบริบทที่ยาวมาก หน้าต่างบริบทขนาด 1,048,576…
DeepSeek V3 มีความสามารถโดดเด่นในการใช้เหตุผลกับบริบทที่ยาว เนื่องจากหน้าต่างโทเคนขนาด 1M สามารถรักษาความต่อเนื่องของข้อความที่ยาวหลายร้อยหน้า ทำให้เหมาะสำหรับการสรุปเอกสารทั้งฉบับ ติดตามเนื้อเรื่องที่ซับซ้อน หรือวิเคราะห์ฐานรหัสขนาดใหญ่ สถาปัตยกรรม MoE ช่วยให้สามารถมอบหมายส่วนต่างๆ ของงานให้กับเครือข่ายย่อย ‘ผู้เชี่ยวชาญ’ ที่เชี่ยวชาญเฉพาะด้าน ซึ่งช่วยเพิ่มประสิทธิภาพ นอกจากนี้ยังรองรับขีดจำกัดเอาต์พุตที่สูงถึง 384k โทเคน ทำให้สามารถสร้างรายงาน หนังสือ หรือบทสนทนาหลายรอบที่มีการตอบกลับอย่างละเอียดได้ เป็นเลิศเป็นพิเศษในด้านการใช้เหตุผลทางคณิตศาสตร์และการสร้างรหัส ซึ่งเป็นพื้นที่ที่ DeepSeek เน้นการฝึกฝน
สำหรับงานง่ายๆ เช่น ถาม-ตอบแบบสั้น, การจัดหมวดหมู่, หรือการสรุปเนื้อหาแบบเบาๆ การใช้โมเดลขนาดเล็ก (เช่น Llama 3.1 8B หรือ GPT-4o mini) อาจคุ้มค่าและเร็วกว่า DeepSeek V3 ถูกปรับให้เหมาะสมกับบริบทที่ยาวและเอาต์พุตสูง; การนำมาใช้ตอบเพียง 100 โทเค็นเป็นการสิ้นเปลืองความสามารถ หากความหน่วงเวลาจริง (latency) สำคัญและบริบทสั้น ควรพิจารณาโมเดลที่มีโอเวอร์เฮดต่ำกว่า นอกจากนี้ หากคุณต้องการอินพุตแบบหลายรูปแบบ (multimodal) DeepSeek V3 ไม่เหมาะสม
กรณีการใช้งานที่ดีที่สุด ได้แก่ การประมวลผลเอกสารที่ยาวมาก (เช่น สัญญาทางกฎหมาย งานวิจัย หนังสือทั้งเล่ม) ซึ่งต้องพิจารณาบริบททั้งหมด นอกจากนี้ยังมีประสิทธิภาพสำหรับแอปพลิเคชันแชทแบบหลายรอบที่รักษาประวัติการสนทนาสูงสุด 1M tokens เช่น การสนับสนุนลูกค้าขั้นสูง หรือการเล่าเรื่องแบบโต้ตอบ การสร้างและวิเคราะห์โค้ดในฐานโค้ดขนาดใหญ่ได้รับประโยชน์จากบริบทที่กว้างขวาง นอกจากนี้ งานที่ต้องการการสร้างข้อความแบบยาว เช่น การเขียนรายงาน การสร้างบทความ หรือการสร้างข้อมูลที่มีโครงสร้าง (เช่น JSON, XML) สามารถใช้ขีดจำกัดเอาต์พุต 384k ได้อย่างเต็มที่
คะแนน benchmark เฉพาะสำหรับ DeepSeek V3 ไม่ได้ถูกระบุในรายการนี้ อย่างไรก็ตาม ข้อมูลที่เปิดเผยต่อสาธารณะจาก DeepSeek ระบุว่า V3 บรรลุผลลัพธ์ที่แข่งขันได้ในการวัดผลด้านการให้เหตุผล (เช่น MATH, GSM8K) การเขียนโค้ด (เช่น HumanEval, MBPP) และงานด้านความเข้าใจภาษา (เช่น MMLU) สถาปัตยกรรม MoE ของมันช่วยให้ทำงานได้คล้ายกับโมเดล dense ที่มีพารามิเตอร์รวมมากกว่ามาก ในขณะที่ใช้การคำนวณต่อโทเค็นน้อยกว่า ผู้ใช้ควรปรึกษาเอกสารวิชาการอย่างเป็นทางการของ DeepSeek สำหรับตัวเลขโดยละเอียด
ความหน่วงขึ้นอยู่กับความยาวของอินพุต ความยาวของเอาต์พุต และโหลดปัจจุบัน เนื่องจาก DeepSeek V3 ใช้สถาปัตยกรรม Mixture-of-Experts จึงกระตุ้นเพียงพารามิเตอร์บางส่วนต่อโทเคน ซึ่งโดยทั่วไปส่งผลให้การสร้างผลลัพธ์เร็วกว่าเมื่อเปรียบเทียบกับโมเดลแบบ dense ที่มีจำนวนพารามิเตอร์รวมเท่ากัน บน OrcaRouter ความหน่วงยังได้รับอิทธิพลจากสภาพเครือข่ายและการปรับสมดุลโหลด สำหรับบริบทสั้น โมเดลตอบสนองได้อย่างรวดเร็ว สำหรับการประมวลผลบริบทที่ยาว เวลาในการเข้ารหัสเริ่มต้นจะปรับตามความยาวของอินพุต ไม่มีการระบุตัวเลขความหน่วงที่แน่นอน แต่ผู้ใช้สามารถคาดหวังประสิทธิภาพที่สมเหตุสมผลสำหรับโมเดลที่มีขนาดเท่านี้
จุดแข็ง ได้แก่ หน้าต่างบริบทขนาดใหญ่ (1M โทเค็น) ขีดจำกัดผลลัพธ์ที่สูง (384k โทเค็น) ประสิทธิภาพของ MoE ที่ทำให้ต้นทุนต่อโทเค็นต่ำลง และประสิทธิภาพด้านการให้เหตุผล/การเขียนโค้ดที่แข็งแกร่ง ข้อจำกัด: การป้อนข้อมูลเฉพาะข้อความ (ไม่มีรูปภาพ เสียง) ศักยภาพในการลดความลึกของความรู้เมื่อเทียบกับโมเดลหนาแน่นขนาดใหญ่ และโมเดลอาจไม่เหมาะสำหรับงานที่สั้นมากซึ่งถือว่าเกินความจำเป็น นอกจากนี้ พฤติกรรมของโมเดลในงานที่ต้องการความละเอียดอ่อนสูง (เช่น การเขียนเชิงสร้างสรรค์ น้ำเสียงทางอารมณ์) อาจแตกต่างกันไป แนะนำให้ทดสอบโดยผู้ใช้
ราคาอยู่ที่ $0.14 ต่อ 1 ล้านอินพุทโทเคน และ $0.28 ต่อ 1 ล้านเอาท์พุทโทเคน อัตราเหล่านี้คิดตามอัตราของผู้ให้บริการ โดยไม่มีมาร์กอัปเพิ่มเติมจาก OrcaRouter อินพุทโทเคนรวมถึงพรอมพ์ เอาท์พุทโทเคนคือข้อความที่โมเดลสร้างขึ้น ตัวอย่างเช่น อินพุท 500,000 โทเคนและเอาท์พุท 100,000 โทเคน จะมีค่าใช้จ่าย $0.07 (อินพุท) + $0.028 (เอาท์พุท) = $0.098 หมายเหตุ: โทเคนนับโดย tokenizer ของผู้ให้บริการ
ด้วยหน้าต่างบริบทที่ใหญ่ ต้นทุนอาจเพิ่มขึ้นหากคุณใช้โทเคนเต็ม 1M เสมอ อย่างไรก็ตาม สำหรับหลายกรณีการใช้งาน ขนาดอินพุตโดยเฉลี่ยจะเล็กกว่า ต้นทุนต่อโทเคนนั้นแข่งขันได้ โดยเฉพาะเมื่อเทียบกับโมเดลที่มีความหนาแน่นสูงที่มีความสามารถใกล้เคียงกัน เนื่องจากเป็นโมเดล MoE ต้นทุนการคำนวณต่อโทเคนจึงต่ำกว่า ซึ่ง OrcaRouter ส่งต่อโดยไม่มีมาร์กอัป หากงานของคุณต้องการเพียงไม่กี่ร้อยโทเคน โมเดลที่ถูกกว่าอาจคุ้มค่ากว่า สำหรับงานที่มีบริบทยาว DeepSeek V3 มักจะมีอัตราส่วนต้นทุนต่อประสิทธิภาพที่ดีที่สุด
OrcaRouter ไม่ได้โฆษณาแยกต่างหากถึงส่วนลดการแคชสำหรับ DeepSeek V3 การแคช หากมี จะเป็นไปตามนโยบายของผู้ให้บริการ (DeepSeek) ซึ่งอาจใช้หรือไม่ใช้ก็ได้ ผู้ใช้ควรถือว่ามีการคิดค่าบริการตามโทเค็นมาตรฐาน สำหรับการปรับต้นทุน ให้พิจารณาใช้คอนเทกซ์วินโดว์ซ้ำอย่างมีประสิทธิภาพโดยการตัดทอนข้อมูลนำเข้าที่ไม่จำเป็น
ใช้ API ที่เข้ากันได้กับ OpenAI ของ OrcaRouter โดยใช้ base URL https://api.orcarouter.ai/v1 ตั้งค่า model ID เป็น "deepseek/deepseek-chat" คุณสามารถใช้ official OpenAI Python client หรือไลบรารีใดๆ ที่รองรับ chat completions ของ OpenAI ตัวอย่างใน Python: ```python import openai client = openai.OpenAI(base_url="https://api.orcarouter.ai/v1", api_key="YOUR_ORCAROUTER_API_KEY") response = client.chat.completions.create(model="deepseek/deepseek-chat", messages=[{"role":"user","content":"Hello"}]) ```
โมเดลรองรับพารามิเตอร์แชทมาตรฐาน: temperature, top_p, max_tokens, stop, frequency_penalty, presence_penalty และอื่นๆ max_tokens สามารถตั้งค่าได้สูงสุด 384,000 โมเดลเป็นแบบข้อความเท่านั้น ไม่รองรับอินพุตรูปภาพหรือเสียง สำหรับบริบทยาว คุณสามารถส่งอาร์เรย์ข้อความขนาดใหญ่ได้ ตรวจสอบให้แน่ใจว่าจำนวนโทเค็นทั้งหมดไม่เกิน 1,048,576 ตัวโทเค็นไนเซอร์เหมือนกับของ DeepSeek เอง OrcaRouter จัดการนับโทเค็นตามผู้ให้บริการ
เปลี่ยน base_url เป็น https://api.orcarouter.ai/v1 และรหัสโมเดลเป็น "deepseek/deepseek-chat" ให้คงโครงสร้างโค้ดเดิมของคุณ (messages, parameters) ไว้ ไม่จำเป็นต้องเปลี่ยนแปลงอื่นใดหากคุณใช้ OpenAI Python client หรือเครื่องมือที่คล้ายกัน ตรวจสอบให้แน่ใจว่าคีย์ API ของคุณใช้ได้กับ OrcaRouter ทดสอบด้วยคำขอขนาดเล็กเพื่อยืนยันขีดจำกัดโทเค็นและราคา สำหรับแอปพลิเคชันที่ใช้สตรีมมิ่ง รูปแบบการตอบสนองจะเหมือนกับรูปแบบสตรีมมิ่งของ OpenAI ทุกประการ
GPT-4o รองรับอินพุตข้อความ รูปภาพ และเสียง ส่วน DeepSeek V3 รองรับเฉพาะข้อความเท่านั้น GPT-4o มีหน้าต่างบริบท 128k ส่วน DeepSeek V3 รองรับสูงสุด 1M ราคาของ GPT-4o แตกต่างกันไปแต่โดยทั่วไปจะสูงกว่าต่อโทเค็น สถาปัตยกรรม MoE ของ DeepSeek V3 อาจให้เวลาแฝงต่ำกว่าสำหรับบริบทที่ยาว ในด้านการใช้เหตุผลและการเขียนโค้ด ทั้งสองมีความแข็งแกร่ง แต่ GPT-4o มีความสามารถแบบมัลติโมดัลที่กว้างกว่า เลือก DeepSeek V3 หากคุณต้องการความยาวบริบทที่สูงมากและการประมวลผลข้อความที่มีประสิทธิภาพ เลือก GPT-4o สำหรับงานแบบมัลติโมดัล
Claude 3.5 Sonnet มีหน้าต่างบริบท 200k ซึ่งเล็กกว่าของ DeepSeek V3 ที่ 1M อย่างมาก Claude รองรับการป้อนข้อมูลข้อความและรูปภาพ ส่วน DeepSeek V3 รองรับเฉพาะข้อความเท่านั้น ราคาของ Claude สูงกว่าต่อโทเค็น (เช่น $3 ต่อล้านอินพุต) DeepSeek V3 ถูกกว่า Claude เป็นที่รู้จักในด้านการทำตามคำแนะนำและความปลอดภัยที่แข็งแกร่ง ส่วน DeepSeek V3 โดดเด่นในด้านคณิตศาสตร์และการเขียนโค้ด สำหรับงานที่ต้องใช้บริบทยาว DeepSeek V3 มีความคุ้มค่ามากกว่าและมีความจุมากกว่า
Llama 3.1 405B เป็นโมเดลแบบ dense ที่มีหน้าต่างบริบท 128k; บริบทของ DeepSeek V3 มีขนาดใหญ่กว่ามาก Llama 3.1 405B ยังรองรับเฉพาะข้อความด้วย ราคาสำหรับ Llama 3.1 405B ผ่านบริการโฮสต์มักจะสูงกว่า DeepSeek V3 สถาปัตยกรรม MoE ของ DeepSeek V3 ใช้พารามิเตอร์ที่ทำงานน้อยกว่า ทำให้การสร้างข้อความอาจเร็วกว่า ทั้งสองมีความสามารถในการให้เหตุผลที่ดี; DeepSeek V3 อาจมีข้อได้เปรียบในการจดจำบริบทระยะยาวเนื่องจากหน้าต่างที่ขยายใหญ่ขึ้น เลือก DeepSeek V3 สำหรับความยาวบริบทที่มากเป็นพิเศษ; เลือก Llama 3.1 สำหรับการเข้าถึงน้ำหนักแบบเปิดหรือตัวแปรที่ปรับแต่งเฉพาะ
ใช้ DeepSeek V3 เมื่องานของคุณต้องการประมวลผลบริบทที่ยาวมาก (เช่น หนังสือทั้งเล่ม, ฐานโค้ดขนาดใหญ่) หรือสร้างผลลัพธ์ที่ยาว (สูงสุด 384k โทเคน) หากงานของคุณสั้น โมเดลขนาดเล็กอย่าง DeepSeek V2 Lite หรือ Llama 3.1 8B จะเร็วกว่าและถูกกว่า นอกจากนี้ หากคุณต้องการอินพุตแบบ multimodal ให้พิจารณาโมเดลอื่นๆ อัตราส่วนคุ้มทุนเอื้อต่อ DeepSeek V3 สำหรับงานใดๆ ที่บริบทเกิน 128k โทเคน หรือต้องการความยาวผลลัพธ์เกินขีดจำกัดปกติ
เข้ากันได้กับ OpenAI — ใช้ SDK เดิมของคุณได้เลย
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="deepseek/deepseek-chat",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)include_reasoninglogprobsmax_tokensreasoningresponse_formatstopstreamstream_optionstemperaturethinkingtool_choicetoolstop_logprobstop_puser_id| อินพุต / 1M โทเค็น | $0.147 |
| เอาต์พุต / 1M โทเค็น | $0.295 |
| อ่านแคช / 1M | $0.020 |
| สกุลเงิน | USD |
ประมาณการจากราคาตั้ง
เป็นเพียงการประเมิน — จำนวน token จริงขึ้นอยู่กับ tokenizer ของผู้ให้บริการ
GET /api/public/models/deepseek/deepseek-chatเปิด @misc{orcarouter_deepseek_chat,
title = {DeepSeek V3 API},
author = {DeepSeek},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/deepseek/deepseek-chat}
}DeepSeek. (2024). DeepSeek V3 API. OrcaRouter. https://www.orcarouter.ai/models/deepseek/deepseek-chat