Nemotron 3.5 Super vs GPT-6 Astra: หน้าเอกสารที่สแกนหนึ่งหน้าเสียค่าใช้จ่ายเท่าใดในแต่ละตัว

OpenAI GPT-6 Astra คิดค่าบริการเอกสารที่สแกนตามจำนวนโทเคน NVIDIA Nemotron 3.5 Super คิดค่าบริการตามวินาทีการประมวลผลบน GPU ประโยคเดียวนี้คือเนื้อหาส่วนใหญ่ของการเปรียบเทียบครั้งนี้ และไม่ใช่ประโยคที่ผู้จำหน่ายรายใดจะนำไปขึ้นเป็นพาดหัวข่าว โมเดลของ NVIDIA — พารามิเตอร์รวม 1.2 แสนล้าน โดยเปิดใช้งาน 1.2 หมื่นล้านต่อโทเคน ตัวเข้ารหัสภาพ C-RADIO บนสถาปัตยกรรมผสมระหว่าง Mamba-2 และ Transformer แบบ mixture of experts ประกาศโดย NVIDIA เมื่อวันที่ 15 ตุลาคม 2026 ภายใต้ชื่อ NVIDIA Nemotron 3.5 Super VL และเผยแพร่บน Ollama ในชื่อ code>nemotron-3.5-super/code> — เปิดตัวสู่โลกโดยที่ไฟล์น้ำหนักของมันมีอายุครบสามวันแล้วบน Hugging Face ซึ่งอัปโหลดเมื่อวันที่ 12 ตุลาคม Astra คือเรือธงของ OpenAI: บริบท 1,050,000 โทเคน เอาต์พุตสูงสุด 128,000 โทเคน รองรับอินพุตทั้งข้อความ รูปภาพ และไฟล์ ให้เหตุผลตลอดเวลา และราคาตามประกาศคือ 10 ดอลลาร์ต่อล้านโทเคนอินพุต และ 50 ดอลลาร์ต่อล้านโทเคนเอาต์พุต

ราคาสองจุดนั้นต่างกันเป็นสิบเท่าในอินพุต และยี่สิบห้าเท่าในเอาต์พุต ซึ่งทำให้คำถามที่น่าสนใจนั้นคมชัดเป็นพิเศษ ที่ปริมาณเท่าใดที่เช็คพอยต์เปิดแบบต้นทุนคงที่จึงจะเอาชนะมิเตอร์ $10/$50 สำหรับงานเอกสาร — และคำตอบจะเปลี่ยนไปหรือไม่เมื่อเอกสารนั้นเป็นหนึ่งหน้าพิกเซลแทนที่จะเป็นหนึ่งหน้าข้อความ

พวกเขาไม่ได้แข่งขันกันเพื่อคำขอเดียวกัน

สิ่งแรกที่ต้องทำความเข้าใจให้ชัดเจนคือ ในด้านความสามารถที่วัดได้ โมเดลทั้งสองนี้ไม่ใกล้เคียงกันเลย และไม่มีผู้จำหน่ายรายใดอ้างเป็นอย่างอื่น

• ดัชนีจากบุคคลที่สาม — Astra อยู่ที่ประมาณ 54.7 บนบอร์ดที่ให้คะแนนโมเดลเหล่านี้ โดยมี Coding Index อยู่ที่ 76.9 และ Agentic Index อยู่ที่ 51.6 ซึ่งบันทึกทั้งหมดไว้ในรายการแค็ตตาล็อกของ Astra เอง · เช็กพอยต์ของ NVIDIA อยู่ที่ประมาณ 26 นั่นคือช่องว่างประมาณ 28 จุด และไม่ได้รับการวัดจากผู้จำหน่ายรายใดเลย

• บริบท — 1,050,000 โทเคนสำหรับ Astra พร้อมเพดานเอาต์พุต 128,000 โทเคน · 1,000,000 สำหรับเช็กพอยต์ของ NVIDIA โดยไม่มีเพดานเอาต์พุตที่เผยแพร่เลยแม้แต่รายการเดียว และข้อเตือนของตัวการ์ดเองว่าการตั้งค่าหน่วยความจำและรันไทม์เป็นตัวกำหนดค่าที่ใช้งานได้จริง

• พื้นผิวการให้เหตุผล — Astra ให้เหตุผลแบบเปิดตลอดเวลาด้วยระดับความพยายามที่กำหนดค่าได้ตั้งแต่ต่ำถึงสูงสุด ส่งคืนร่องรอยการให้เหตุผลแบบเต็มผ่าน Responses API และรองรับเอาต์พุตแบบมีโครงสร้าง ค่าซีด และการค้นหาเว็บในฐานะเครื่องมือ · เช็กพอยต์ของ NVIDIA มีโหมดคิดแบบเปิด/ปิดที่สลับผ่านเทมเพลตแชต และมีตารางเกณฑ์มาตรฐานที่เผยแพร่ แต่ไม่มีพื้นผิวแบบโฮสต์ใด ๆ เลย

• รูปแบบอินพุต — ข้อความ รูปภาพ และไฟล์สำหรับ Astra · ข้อความ รูปภาพ และวิดีโอสำหรับ NVIDIA checkpoint โดยมี vision projector ขนาด 1.6 GiB ในทุกแท็กที่เผยแพร่ เพื่อให้เส้นทางของรูปภาพพร้อมใช้งานอยู่เสมอ

• ราคา — 10 ดอลลาร์สำหรับอินพุต และ 50 ดอลลาร์สำหรับเอาต์พุตต่อล้านโทเค็น พร้อมระดับบริบทแบบยาวสำหรับพรอมป์ต์ที่เกิน 272,000 โทเค็น · ไม่มีราคา เนื่องจากโมเดลนี้ไม่มีเอนด์พอยต์

• สิ่งที่คุณจะได้รับ — คีย์ API และเทรซ · H100 สี่ตัว หรือ GB200 สองตัวในแบบ BF16 หรือการ์ด 96 GB หนึ่งใบสำหรับแท็ก 4-bit ค่าเริ่มต้นที่ 82.3 GiB ภายใต้ OpenMDW-1.1 ซึ่งอนุญาตให้ใช้ในเชิงพาณิชย์ได้

อ่านรายการนั้นแล้วข้อสรุปก็ชัดเจนเอง ถ้างานต้องใช้การคิดวิเคราะห์ระดับแนวหน้า Astra คือโมเดลที่ต้องเลือก และการเปรียบเทียบก็จบลงตรงนั้น สิ่งที่ทำให้หน้านี้น่าอ่านคือกรณีที่งานนั้นไม่จำเป็นต้องใช้การคิดวิเคราะห์ระดับแนวหน้า เพราะนั่นคือจุดที่เช็กพอยต์ขนาด 1.2 แสนล้านพารามิเตอร์ซึ่งมีตัวเข้ารหัสภาพเริ่มคุ้มค่าในเชิงเศรษฐกิจ — และมันเป็นสัดส่วนของไปป์ไลน์เอกสารจริงที่สูงกว่าที่ใครๆ อยากจะยอมรับ

การคำนวณต้นทุนต่อหน้า ด้วยตัวเลขจริง

ลองยกตัวอย่างงานจริง: คลังเอกสารใบแจ้งหนี้ที่สแกนแล้ว 200 หน้าต่อวัน โดยแต่ละหน้าถูกเรนเดอร์ที่ความละเอียดสูงพอที่จะอ่านหมายเลขอ้างอิงที่เขียนด้วยลายมือได้ สมมติว่าเป็น 1,500 โทเคนรูปภาพต่อหน้า หลังจากที่ตัวเข้ารหัสทำงานเสร็จ บวกกับพรอมป์ต์ 300 โทเคน และคำตอบ 150 โทเคน นั่นก็ประมาณ 1,950 โทเคนขาเข้า และ 150 ขาออกต่อหน้า หรือ 390,000 โทเคนอินพุต และ 30,000 โทเคนเอาต์พุตต่อวันทั่วทั้งคลังเอกสาร

ตามอัตราที่ Astra ประกาศไว้ นั่นคือ $3.90 สำหรับอินพุต และ $1.50 สำหรับเอาต์พุต — ประมาณ $5.40 ต่อวัน หรือราว $160 ต่อเดือน สำหรับงานที่ GPU ตัวเดียวทำเสร็จได้ในชั่วข้ามคืน ถ้าอัปความละเอียดให้สูงขึ้น เพิ่มหน้าที่ทำให้เข้าเกณฑ์ long-context ที่สูงกว่า 272,000 prompt tokens หรือรันคลังข้อมูลสองรอบเพราะรอบแรกผิด ตัวเลขจะขยับไปในทิศทางเดียวเท่านั้น นี่คือรูปร่างของปัญหา: ที่ราคา $10 และ $50 เวิร์กโฟลว์แบบต่อหน้าจะมีบิลต่อหน้า และบิลก็สเกลตามสิ่งที่เติบโตขึ้นพอดี — จำนวนหน้า

บนเช็กพอยต์ของ NVIDIA งานเดียวกันมีค่าใช้จ่ายเท่ากับเศษส่วนของ GPU-hour ที่ 230,000 โทเค็นใช้ไป ซึ่งที่ 200 หน้าต่อวันก็เป็นแค่ความคลาดเคลื่อนจากการปัดเศษเมื่อเทียบกับค่าไฟฟ้า บิลคือการ์ด และการ์ดก็เหมือนกันไม่ว่าคุณจะประมวลผล 200 หน้าหรือ 20,000 หน้า

สามข้อควรระวังก่อนที่ใครจะรีบไปซื้อฮาร์ดแวร์ ข้อแรกคือเรื่องนี้จะไม่จริงอีกต่อไปเมื่อปริมาณงานต่ำ — การ์ด 96 GB และค่าไฟสำหรับรันมันมีค่าใช้จ่ายต่อเดือนสูงกว่าที่ทีมส่วนใหญ่ใช้จ่ายกับโทเค็น และที่ 200 หน้าต่อวัน คุณน่าจะขาดทุน ข้อที่สองคือควอนไทเซชันของ NVIDIA ที่คนส่วนใหญ่จะรันจริง คือ q4_K_M ไม่มีผลการประเมินที่เผยแพร่ที่ไหนเลย ตัวเลขทุกตัวบนการ์ด NVIDIA เป็น BF16 หรือ NVFP4 ดังนั้นความแม่นยำของเวอร์ชันที่คุณนำไปใช้จึงไม่เป็นที่ทราบ ข้อที่สามคือเอาต์พุตของ Astra ดีกว่าอย่างวัดผลได้ และบนคลังข้อมูลที่การอ่านหมายเลขอ้างอิงผิดมีต้นทุนจริง ความแม่นยำที่ดีกว่าสามารถกลบส่วนต่างราคาไม่ว่าจะมากแค่ไหน

ที่ซึ่ง Astra ไม่ได้เพียงแค่ดีกว่า แต่ดีกว่าในเชิงโครงสร้าง

การมองว่า Astra เป็นทางเลือกที่มีราคาแพงกว่าสำหรับตัวเลือกที่ถูกกว่านั้นเป็นเรื่องที่ไม่ซื่อสัตย์ ในหลายมิติ มันเป็นผลิตภัณฑ์คนละระดับ และความแตกต่างไม่ได้อยู่ที่คะแนน

Astra ส่งคืนร่องรอยการให้เหตุผลแบบเต็มผ่าน Responses API สำหรับไปป์ไลน์ที่ต้องแสดงเหตุผลประกอบการตัดสินใจ — ไม่ว่าจะเป็นการตัดสินข้อเรียกร้อง การตรวจสอบการปฏิบัติตามข้อกำหนด หรือการลงรหัสทางการแพทย์ — ร่องรอยที่ตรวจสอบได้ไม่ใช่ฟีเจอร์ แต่เป็นข้อกำหนดที่จำเป็น NVIDIA checkpoint มีโหมดคิดที่คุณสามารถเปิดหรือปิดได้ในเทมเพลตแชท และไม่มีอินเทอร์เฟซร่องรอยแบบโฮสต์เลย ซึ่งหมายความว่าคุณต้องสร้างเลเยอร์การตรวจสอบด้วยตัวเอง

Astra รองรับเอาต์พุตแบบมีโครงสร้างพร้อมสคีมาและ seed ในไปป์ไลน์การสกัดเอกสารที่เอาต์พุตต้องสอดคล้องกับเลย์เอาต์เรกคอร์ด โมเดลที่สามารถถูกจำกัดให้เป็นไปตามสคีมาจะผสานรวมได้ถูกกว่าโมเดลที่คุณต้องตรวจสอบแล้วลองใหม่ และต้นทุนของการลองใหม่จะมองไม่เห็นจนกว่ามันจะไม่เป็นเช่นนั้นอีกต่อไป

และพื้นผิวเครื่องมือของ Astra นั้นเป็นผลิตภัณฑ์ของบริษัทเองตั้งแต่ต้น: การเรียกใช้ฟังก์ชัน, response_format, seed และการค้นหาเว็บในฐานะเครื่องมือ สูตรการปรับใช้ของเช็กพอยต์ NVIDIA นำตัวแยกวิเคราะห์การเรียกเครื่องมือที่มันไม่ได้เขียนขึ้นเองกลับมาใช้ — สูตร vLLM ของผู้ขายเองระบุชื่อ code>qwen3_coder/code> เป็นตัวแยกวิเคราะห์การเรียกเครื่องมือ และ code>nemotron_v3/code> เป็นตัวแยกวิเคราะห์การให้เหตุผล นั่นเป็นการตัดสินใจทางวิศวกรรมที่สมเหตุสมผล และยังหมายความว่าพื้นผิวการเรียกเครื่องมือนั้นถูกยืมมาใช้ แทนที่จะออกแบบมาสำหรับโมเดลนี้โดยเฉพาะ และจะต้องผ่านการทดสอบก่อนที่จะเชื่อถือได้

สูตรของ vLLM ยังบอกคุณถึงสิ่งที่ผู้จำหน่ายคาดหวังให้รีพลิกาหนึ่งตัวจัดการ: tensor parallelism เท่ากับ 4, การใช้หน่วยความจำ GPU 0.85, ซีเควนซ์ที่ทำงานพร้อมกันสูงสุด 32, หนึ่งภาพและหนึ่งวิดีโอต่อพร้อมต์, การตัดทอนวิดีโอที่ 0.5 และ speculative decoding ผ่าน MTP head ที่มีมาในตัวพร้อมโทเค็น speculative จำนวนสามตัว ซีเควนซ์ที่ทำงานพร้อมกัน 32 รายการคือเพดานบนโหนดที่มี GPU สี่ตัว เพดานของ Astra คือขีดจำกัดอัตรา

กับดักในค่าเริ่มต้นของ NVIDIA และเหตุใดมันจึงปรากฏเป็นอันดับแรกในเอกสาร

นี่คือรายละเอียดที่จะตัดสินว่าการทดลองแรกจะสำเร็จหรือไม่ และจะมองเห็นได้ก็ต่อเมื่อคุณอ่านรีจิสทรีรันไทม์แทนที่จะอ่านโพสต์ของผู้ขาย

การ์ดระบุการตั้งค่าการสุ่มตัวอย่างไว้สองแบบ: temperature 1.0 กับ top_p 0.95 สำหรับงานข้อความ และ temperature 0.6 กับ top_p 0.95 สำหรับงานภาพ ค่าเริ่มต้นที่มาพร้อมใน manifest ของ Ollama คือคู่สำหรับข้อความ — code>{"temperature": 1.0, "top_p": 0.95}/code> พร้อมกับ code>draft_num_predict: 3/code>. ดังนั้นการตั้งค่าที่คนส่วนใหญ่จะได้ใช้กับโมเดลภาพนี้ ถูกจูนมาเพื่อครึ่งหนึ่งของมันที่ไม่ใช่งานภาพ หากสิ่งแรกที่คุณทำกับมันคือให้มันดูใบแจ้งหนี้ที่สแกน แล้วผลลัพธ์ที่ได้หลวมหรือเป็นข้อมูลที่โมเดลสร้างขึ้นเอง การตั้งค่าการสุ่มตัวอย่างคือสิ่งแรกที่ควรเปลี่ยน — ก่อนที่คุณจะสรุปอะไรเกี่ยวกับเช็กพอยต์

รายละเอียด registry อีกสองข้อที่ควรรู้ก่อนที่คุณจะดีพลอย จากแท็กที่เผยแพร่แล้วเก้ารายการ มีสี่รายการ — code>:latest/code>, code>:120b/code>, code>:120b-a12b/code> และ code>:120b-a12b-q4_K_M/code> — ชี้ไปที่เลเยอร์ q4_K_M เดียวกัน ดังนั้นแท็กที่ตั้งชื่อตามจำนวนพารามิเตอร์ทั้งหมดจึงไม่ใช่ไฟล์ที่คุณจะได้รับ และการตรวจสอบเวอร์ชันถูกบังคับใช้จริงไม่ใช่แค่คำแนะนำ: คอนฟิกประกาศ code>requires: 0.40.5/code>, ดังนั้นบนรันไทม์เวอร์ชันเก่า การ pull จะไม่ทำงานเลย

เปรียบเทียบสิ่งนั้นกับรูปแบบความล้มเหลวอีกด้านของการเปรียบเทียบนี้ ซึ่งก็คือเอนด์พอยต์ที่เปลี่ยนแปลงไป Astra เป็นบริการโฮสต์ พฤติกรรมของมันสามารถถูกแก้ไขได้ ไม่มีความเสี่ยงใดเป็นเหตุผลให้หลีกเลี่ยงโมเดลนี้ ความเสี่ยงทั้งสองเป็นความเสี่ยงที่แตกต่างกัน และต้องใช้มาตรการบรรเทาที่แตกต่างกัน — การเปลี่ยนแปลงคอนฟิกในด้านหนึ่ง และเส้นทางสำรองในอีกด้านหนึ่ง

คำตอบการกำหนดเส้นทาง ซึ่งเหมือนกันสำหรับทั้งสอง

Astra พร้อมใช้งานผ่านคีย์ของเรา OrcaRouter กำหนดเส้นทางให้ในราคาตามรายการของผู้ให้บริการที่ส่งผ่านมา โดยไม่มีมาร์กอัปต่อโทเคน — $10 และ $50 ต่อล้านโทเคน โดยระดับ long-context ตั้งราคาไว้เหมือนกับที่ OpenAI ตั้งราคาทุกประการ เปิดใช้งานฝั่งเราในวันเดียวกัน ไม่ต้องรอถึงรอบต่ออายุครั้งถัดไปของคุณ ถ้าคำถามคือ Astra รองรับปริมาณงานเอกสารของคุณหรือไม่ นั่นก็แค่ใช้คีย์เดียวและไม่ต้องจัดซื้อจัดจ้าง และคำตอบนั้นมีค่าใช้จ่ายแค่โทเคนไม่กี่ดอลลาร์

จุดตรวจของ NVIDIA ไม่ได้อยู่ในคีย์ของเรา เราให้บริการโมเดลมากกว่าสองร้อยรายการ และไม่มีรายการ NVIDIA Nemotron อยู่ในนั้น ดังนั้นบทความนี้ไม่ได้อ้างว่าคุณสามารถเรียกใช้มันที่นี่ได้ หากคุณต้องการจุดตรวจนั้น ช่องทางการ-build และการเผยแพร่ของ NVIDIA เองรวมถึงการดึงข้อมูลภายในเครื่องคือเส้นทางของคุณ

สิ่งที่แพลตฟอร์มมีไว้อย่างแท้จริงในการตัดสินใจนี้คือการจัดลำดับ รันคลังข้อมูลกับ Astra ก่อน แล้ววัดสองอย่าง: ต้นทุนต่อหน้า และอัตราความผิดพลาดต่อหน้า ตัวเลขสองตัวนี้รวมกันตัดสินทุกอย่าง ถ้าอัตราความผิดพลาดต่ำและปริมาณงานต่ำ ให้อยู่ในระบบมิเตอร์ไปตลอด — คุณจะไม่มีทางเอาชนะมันด้วยฮาร์ดแวร์ได้เลย ถ้าอัตราความผิดพลาดต่ำและปริมาณงานสูง ตอนนี้คุณมีเหตุผลที่ปกป้องได้ในการย้ายหน้าแบบทั่วไปไปยังการ์ดที่คุณเป็นเจ้าของ ขณะที่ยังคงเก็บหน้าที่ซับซ้อนไว้บนมิเตอร์ ถ้าอัตราความผิดพลาดสูง ไม่ว่าข้อได้เปรียบด้านราคาจากฝั่ง NVIDIA จะมากแค่ไหนก็ไม่ช่วยอะไร เพราะคณิตศาสตร์ของใบแจ้งหนี้ที่อ่านผิดไม่เกี่ยวกับโทเคน

ไม่ว่าคุณจะเลือกทางไหน ให้กำหนดเส้นทางของโมเดลใหม่ไว้เบื้องหลังระบบสำรองไว้เสมอ เช็กพอยต์ที่มีน้ำหนักอายุสี่วันย่อมมีประวัติการใช้งานจริงมาสี่วัน และประกันที่ถูกที่สุดสำหรับเรื่องนั้นคือโมเดลที่สองในการเรียกครั้งเดียวกัน Astra เป็นสิ่งที่สมเหตุสมผลที่จะมีไว้เบื้องหลังโมเดลเปิดอายุสี่วัน และยังเป็นโมเดลที่ผู้อ่านหน้านี้ส่วนใหญ่จะสรุปว่าไม่จำเป็นต้องแทนที่