บันไดราคาสามคอลัมน์สำหรับ GPT-6.2 Astra: Standard ที่ราคาอินพุต $8.00 และเอาต์พุต $40.00 ต่อล้านโทเค็น พร้อมสตรีมมิ่งและไม่มีช่วงเวลาลดราคา, หน้าต่าง 2 ชม. ที่ต่ำกว่า Standard 30% โดยระบุราคาอินพุต $5.60, แคช $0.28 และเอาต์พุต $28.00 โดยไม่มีสตรีมมิ่ง, และหน้าต่าง 8 ชม. ที่ต่ำกว่า Standard 40% โดยระบุราคาอินพุต $4.80, แคช $0.24 และเอาต์พุต $24.00 พร้อมข้อความส่วนท้ายว่าเป็นเป้าหมายมากกว่าการรับประกัน โลโก้ OrcaRouter อยู่ที่มุมขวาล่าง
Guides & Insights

GPT-6.2 Astra โหมดพื้นหลัง: ลด 40% จ่ายตามเวลานาฬิกา

ผู้เขียน

jinhao.song

วันที่เผยแพร่

โมเดลล่าสุด · 20ดูโมเดลทั้งหมด →
เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน
กลับไปยังโพสต์ทั้งหมด

เส้นทางที่ถูกที่สุดของ OpenAI สู่ GPT-6.2 Astra ไม่ได้เปลี่ยนราคาของโมเดล แต่เปลี่ยนว่าคุณยินดีจะรับคำตอบเมื่อใด ส่งคำขอเดิมผ่าน Responses API โดยตั้งค่า background เป็น true และ background_options.completion_window เป็น 8h โทเค็นของ GPT-6.2 Astra ที่ประกาศราคาไว้ที่ $8 สำหรับอินพุตและ $40 สำหรับเอาต์พุตต่อล้านโทเค็น จะถูกคิดเงินที่ $4.80 และ $24 สำหรับ GPT-6.2 Sol ราคา $2 และ $10 จะกลายเป็น $1.40 และ $7 น้ำหนักโมเดลเดิม การให้เหตุผลเดิม หน้าต่างคอนเท็กซ์เดิม GPT-6.2 Sol ซึ่งเป็นตัวที่ถูกกว่าของทั้งสอง ได้รับการปฏิบัติแบบเดียวกันทุกประการ: $1.40 และ $7 ในหน้าต่างแปดชั่วโมง เทียบกับ $2 และ $10 ที่ระดับมาตรฐาน สิ่งที่เปลี่ยนไปคือตำแหน่งของคุณในคิว

ข้อแลกเปลี่ยนนั้นเปิดตัวเมื่อวันที่ 17 พฤศจิกายน 2026 ในช่วงบันทึกการเปลี่ยนแปลงเดียวกับตัวโมเดลทั้งสองเอง และเป็นเรื่องง่ายที่จะตีความผิดว่าเป็นการลดราคา แต่ก็ไม่ใช่ การลดราคาจะติดตามโมเดลไปทุกที่ที่มีการเรียกใช้ ส่วน completion window เป็นเพียงแฟล็กบนเอนด์พอยต์เดียว และทุกคุณสมบัติที่ทำให้มันมีค่าสำหรับตัวจัดตารางของ OpenAI ล้วนเป็นคุณสมบัติที่คุณต้องยอมรับ ทั้งไม่มีการสตรีม ไม่มีการแชร์แคชกับทราฟฟิกปกติ และโควตาการจำกัดอัตราที่ตอนนี้คุณใช้ร่วมกับ Batch API

เหตุผลที่สิ่งนี้สมควรได้รับการกล่าวถึงมากกว่าหนึ่งบรรทัดในบันทึกการเปลี่ยนแปลงก็คือ ส่วนลดนี้ลึกกว่าปกติมากสำหรับระดับที่ยังคงคุณภาพของโมเดลไว้เต็มรูปแบบ Batch ลดราคา 50% มาหลายปีแล้ว แต่ Batch รับเฉพาะคำขอที่คุณส่งเป็นไฟล์แล้วลืมได้เท่านั้น นี่คือส่วนลด 40% สำหรับบทสนทนากับเอเจนต์แบบสด ซึ่งมีการโต้ตอบต่อเนื่องและมีเอาต์พุตจากเครื่องมือ ตราบใดที่บทสนทนายอมรับการเข้าคิวได้ สำหรับงานโปรดักชันจำนวนมาก นั่นคือความแตกต่างระหว่างคำถามเรื่องความสามารถในการจ่ายกับคำถามเรื่องสถาปัตยกรรม

window คืออะไรในแง่ของ API

โหมดเบื้องหลัง (Background mode) ไม่ใช่เรื่องใหม่: เป็นวิธีของ Responses API ในการรันคำขอที่ใช้เวลานานแบบอะซิงโครนัส คุณตั้งค่า background เป็น true รับ response ID กลับมาได้ทันที และเก็บผลลัพธ์ในภายหลังผ่าน webhook บน response.completed หรือโดยการ polling endpoint สำหรับ retrieve ขณะที่สถานะแสดงเป็น queued หรือ in_progress โหมดเบื้องหลังเป็นเรื่องของการไม่ถือ connection เปิดค้างไว้สำหรับการรัน agent ที่ใช้เวลายี่สิบนาทีมาโดยตลอด

ส่วนใหม่คือคิวเบื้องหลังตอนนี้มีหลายระดับพร้อมราคาแล้ว background_options.completion_window รองรับค่า soonest, 2h หรือ 8h Soonest เป็นค่าเริ่มต้นและไม่มีส่วนลด ถือเป็นกรณี "สร้างรายงานในขณะที่มีคนกำลังรออยู่" 2h ต่ำกว่า Standard 30% และ 8h ต่ำกว่า 40% โดยเอกสารระบุไว้ชัดเจนว่าเวลานับถอยหลังเป้าหมายจะเริ่มนับเมื่อ API ยอมรับคำขอเริ่มต้น และมีผลกับคำตอบนั้น

“ตั้งเป้าให้เสร็จภายในหน้าต่างเวลาที่เลือก” คือวลีที่ต้องอ่านสองครั้ง นี่เป็นเป้าหมายด้านการจัดตาราง ไม่ใช่การรับประกัน และไม่ใช่ความล่าช้าคงที่ อีกทั้งคำแนะนำของ API เองก็ระบุว่าเวลาเริ่มต้นขึ้นอยู่กับการจัดตาราง คำขอที่อยู่ในหน้าต่างแปดชั่วโมงไม่ได้ถูกพักไว้แปดชั่วโมงแล้วจึงรัน แต่จะรันเมื่อมีความจุเพียงพอ และหากเสร็จในสี่นาที คุณก็จะได้ผลในสี่นาที สิ่งที่คุณยอมสละไปคือสิทธิ์ในการบ่นเมื่อมันไม่เป็นไปตามนั้น

บันไดในหน่วยดอลลาร์

โมเดลทั้งสองที่หน้าต่างนี้ครอบคลุม โดยคิดราคาในแต่ละระดับต่อล้านโทเค็น โดยใช้อัตรา Standard ที่ OpenAI เผยแพร่เป็นเกณฑ์อ้างอิง:

GPT-6.2 Astra, Standard — อินพุต $8, อินพุตแคช $0.40, เอาต์พุต $40

• GPT-6.2 Astra, หน้าต่าง 2 ชม. — อินพุต $5.60, แคช $0.28, เอาต์พุต $28

• GPT-6.2 Astra, หน้าต่าง 8 ชม. — อินพุต $4.80, แคช $0.24, เอาต์พุต $24

• GPT-6.2 Sol, Standard — อินพุต $2, แคช $0.10, เอาต์พุต $10

• GPT-6.2 Sol, หน้าต่าง 2 ชม. — อินพุต $1.60, แคช $0.08, เอาต์พุต $8

• GPT-6.2 Sol หน้าต่าง 8 ชม. — อินพุต $1.40, แคช $0.06, เอาต์พุต $7

• เพื่อให้เห็นภาพ โมเดลเดียวกันในฝั่งความเร็วสูง — โหมด Fast คิดเป็นสองเท่าของอัตรา Standard คือ $16 และ $80; Ultrafast คิดเป็น 3× ของ Standard ที่ $24 และ $120 ถึงวันที่ 28 กุมภาพันธ์ 2027 และ 6× ที่ $48 และ $240 ตั้งแต่วันที่ 1 มีนาคม 2027

Three stacked bars showing what a 40% window does to a $4.00 Artificial Analysis task on GPT-6.2 Astra: $4.00 at Standard, about $2.80 in the 2h window and about $2.40 in the 8h window, beside a card breaking the $4.00 into $1.19 of cache reads, $1.10 of cache writes, $1.64 of output and $0.07 of uncached input. The OrcaRouter logo sits in the bottom-right corner.

นั่นคืออัตราค่าโทเคน และอัตราค่าโทเคนไม่ใช่ต้นทุนของงานหนึ่งงาน บิลถ่วงน้ำหนักของ Artificial Analysis สำหรับงาน Intelligence Index ที่เสร็จสมบูรณ์บน GPT-6.2 Astra อยู่ที่ $4.00 ที่ระดับ Standard บนดัชนี v5.0.1 ที่วัดที่ความพยายามสูงสุด หากส่วนลดตามหน้าต่างเวลาถูกนำไปใช้อย่างสม่ำเสมอทั่วทุกหมวดหมู่ในบิลนั้น งานเดียวกันจะมีต้นทุน $2.80 ในหน้าต่างสองชั่วโมง และ $2.40 ในหน้าต่างแปดชั่วโมง เมื่อคิดจากหนึ่งหมื่นงาน นั่นคือ $28,000 และ $24,000 แทนที่จะเป็น $40,000

คำว่า “if” ตรงนั้นมีบทบาทสำคัญจริง ๆ เอกสารของ OpenAI อธิบายว่าส่วนลดนี้ใช้กับอัตราค่าโทเคนของโมเดลในแต่ละคำขอที่เข้าเกณฑ์ รวมถึงคำขอติดตามผล และหน้าค่าราคาของบริษัทก็ใช้ถ้อยคำเดียวกัน ทั้งสองหน้าไม่ได้แยกส่วนลดตามหมวดหมู่โทเคน และบิลค่าโทเคนของโมเดลนี้ไม่ได้มีสัดส่วนใหญ่เป็นอินพุตดิบ: ในการวัดของ Artificial Analysis นั้น $1.19 จาก $4.00 เป็นการอ่านจากแคช $1.10 เป็นการเขียนลงแคช และมีเพียง $0.065 เป็นอินพุตที่ไม่ได้แคช โดยมี $1.64 เป็นเอาต์พุต การเขียนลงแคชมีอัตราราคาของตัวเอง — $10 ต่อล้านโทเคนสำหรับแคช 30 นาที และ $20 สำหรับแคช 12 ชั่วโมง — ดังนั้นงานที่มีลักษณะเด่นคือการเขียนพรอมต์ขนาดใหญ่ลงแคชอาจไม่ได้ลดลงพอดี 40% ให้มอง 40% เป็นรูปแบบของส่วนลด และวัดบิลของคุณเองแทนที่จะสมมติตัวคูณ

สี่เงื่อนไขที่คุณได้รับสืบทอด

ส่วนลดนี้ใช้ไม่ได้กับทุกคำขอ และข้อยกเว้นคือจุดที่การนำไปใช้งานมักเกิดข้อผิดพลาด

• ประมวลผลแบบมาตรฐานเท่านั้น ช่วงเวลาที่มีส่วนลดต้องตั้งค่า service_tier เป็น default หากคุณปล่อยไว้ที่ auto คำขอจะเข้าเกณฑ์ก็ต่อเมื่อ API เลือกโหมดมาตรฐานเท่านั้น ซึ่งหมายความว่าส่วนลดของคุณกลายเป็นการเสี่ยงโชคที่คุณมองไม่เห็นล่วงหน้า

• ไม่มีการสตรีม การสตรีมใช้ได้เฉพาะกับ soonest เท่านั้น สำหรับ 2h และ 8h คุณต้องไม่ระบุ stream หรือตั้งค่าเป็น false และคุณจะไม่สามารถสตรีมการตอบกลับในภายหลังได้หากการตอบกลับนั้นไม่ได้ถูกสร้างขึ้นมาด้วยการสตรีม

• ขีดจำกัดอัตราเดียวที่ใช้ร่วมกันคำขอในหน้าต่างสองชั่วโมงและแปดชั่วโมงใช้ขีดจำกัดอัตราของ Batch/Background ร่วมกับงาน Batch API และโทเค็นอินพุตจะถูกนับ ณ เวลาที่ส่งงาน การทดลองที่ส่งเอกสารหนึ่งล้านโทเค็นไปยังเบื้องหลังแปดชั่วโมงไม่ได้แค่รอ แต่ยังใช้ส่วนที่เหลือซึ่งงาน Batch ของคุณกำลังใช้อยู่

• คำขอติดตามผลต้องตรงกัน การรันของเอเจนต์เป็นลูกโซ่ และส่วนลดจะคงอยู่ตลอดลูกโซ่ได้ก็ต่อเมื่อคำขอติดตามผลแต่ละครั้งระบุหน้าต่าง, continuation_id, โมเดล, โปรเจกต์ และการตั้งค่าพื้นหลังซ้ำเหมือนเดิม การใช้ continuation ID ซ้ำจะทำให้คำขอติดตามผลมีสิทธิ์ได้รับลำดับความสำคัญในคิวที่สูงขึ้นด้วย หากเปลี่ยนสิ่งใดสิ่งหนึ่งในนั้น เทิร์นถัดไปจะเป็นคำขอแบบ Standard

A 2x2 grid of cards headed 'Four things the window takes with it': Standard processing only with the Flex tier gone, no streaming so you receive the finished response rather than tokens, a rate limit shared with Batch jobs where input tokens count at submission, and a split prompt cache whose window-written entries are invisible to Standard requests. The OrcaRouter logo sits in the bottom-right corner.

มีเงื่อนไขที่ห้าซ่อนอยู่ในกฎของแคช และมันคือเงื่อนไขที่มีหางยาวที่สุด คำขอมาตรฐานที่อยู่นอกหน้าต่างที่ได้รับส่วนลดไม่สามารถนำรายการแคชพรอมต์ที่สร้างโดยคำขอเบื้องหลังแบบสองชั่วโมงหรือแปดชั่วโมงกลับมาใช้ซ้ำได้ แม้พรอมต์จะเหมือนกันทุกประการ และในทางกลับกันก็เช่นกัน หากครึ่งหนึ่งของทราฟฟิกของคุณทำงานภายในหน้าต่าง และอีกครึ่งหนึ่งทำงานตามต้องการ คุณได้แยกแคชพรอมต์ของคุณออกเป็นสองส่วนอย่างเงียบ ๆ และกำลังจ่ายเพื่อเขียนคำนำหน้าเดียวกันถึงสองครั้ง ส่วนลดในด้านหนึ่งของการแยกนั้นถูกหักลบด้วยการเขียนแคชในอีกด้านหนึ่ง และโมเดลที่มีค่าการเขียนแคช 10 ดอลลาร์ต่อล้านนั้นเป็นโมเดลที่ผิดอย่างยิ่งที่จะแยกแคช

ต้นทุนที่ไม่ได้อยู่ในใบแจ้งหนี้

ส่วนลดนี้แลกโทเค็นด้วยเวลา และเวลาไม่ได้ถูกจำกัดด้วยหน้าต่างเวลา ลองพิจารณาการตรวจเอกสารข้ามคืนที่เอกสารประกอบเองใช้เป็นตัวอย่าง: คำขอหนึ่งรายการที่ใช้แปดชั่วโมง การเรียกเครื่องมือหนึ่งครั้ง และการติดตามผลที่นำเอกสารซึ่งดึงกลับมาใส่กลับไป การตอบสนองทั้งสองรายการเข้าเงื่อนไขส่วนลด 40% และเป้าหมายจะเริ่มนับใหม่สำหรับรายการที่สอง ในกรณีที่ดีที่สุด การรันทั้งหมดจะเสร็จก่อนอาหารเช้า ในกรณีที่แย่ที่สุด การตอบสนองทั้งสองรายการจะใช้เวลาใกล้เคียงเป้าหมายเต็มของแต่ละรายการ ซึ่งทำให้เพดานเวลาตั้งแต่ต้นจนจบอยู่ที่ประมาณสิบหกชั่วโมงแทนที่จะเป็นแปดชั่วโมง

การคำนวณนั้นไม่ขยายผลได้ดีนักสำหรับเอเจนต์ที่ทำงานยาวนาน เวิร์กโฟลว์ 12 เทิร์นที่ส่งทุกเทิร์นผ่านหน้าต่าง 8 ชั่วโมงมีเพดานที่ 4 วัน และการจัดตารางจริงอยู่ระหว่างกรณีดีที่สุดกับเพดานดังกล่าว โดยไม่มีการเผยแพร่การกระจาย วิธีนำไปใช้อย่างตรงไปตรงมาคือตัดสินใจเป็นรายเวิร์กโฟลว์ ไม่ใช่รายการเรียก: pipeline ที่ผลลัพธ์ถูกนำไปใช้ในเช้าวันถัดไปเหมาะโดยธรรมชาติ ส่วนเซสชันเชิงโต้ตอบไม่เหมาะ ไม่ว่าจะประหยัดโทเค็นได้มากเพียงใด หน้าต่างนี้คือการเสนอราคาเพื่อความจุราคาถูก และคำเสนอราคาจะได้รับการเติมเมื่อมีความจุให้เติม

ช่องโหว่ของ Flex ที่ไม่มีใครพูดถึง

ก่อนจะมีหน้าต่างเหล่านี้ วิธีซื้อส่วนลดสำหรับตระกูลโมเดลนี้คือ service_tier: flex: ต่ำกว่า Standard 50% โดยมีลำดับความสำคัญต่ำกว่า Flex ยังมีอยู่ในโมเดลรุ่นเก่า — GPT-6 Astra ระบุราคาไว้ที่ $5 และ $25 ในตาราง Flex เทียบกับ $10 และ $50 ที่ Standard — แต่คู่มือ background ของ OpenAI ระบุไว้ชัดเจนว่าเริ่มตั้งแต่ GPT-6.2 Astra และ Sol โมเดลใหม่จะเปิดตัวโดยไม่มี Flex processing และงานที่ใช้เวลานานควรใช้หน้าต่าง completion ที่มีส่วนลดด้วย Standard processing แทน

อ่านตัวเลขสองตัววางเคียงกันก็เห็นทิศทางได้ชัดเจน ในรุ่นก่อน ผู้เรียกที่ยอมรอสามารถซื้อได้ในราคาลด 50% ในรุ่นนี้ ระดับส่วนลดที่ลึกที่สุดคือ 40% และต้องทำให้งานถูกจัดเป็นเบื้องหลัง สิ่งที่มาแทนไม่ใช่การปรับปรุงตรง ๆ เหนือตัวเลือกเดิม แต่เป็นตัวเลือกที่แคบลงในส่วนลดที่น้อยลง และมันมาพร้อมรูปแบบคำขอ — แบบอะซิงโครนัส ไม่สตรีมมิ่ง มี ID การตอบกลับเดียว — ที่ไม่ใช่ทุกการเชื่อมต่อจะนำไปใช้ได้

Batch ยังลงลึกกว่า และเป็นเครื่องมือที่ไม่เหมาะกับครึ่งหนึ่งของสิ่งนี้

Batch API ยังคงมีส่วนลด 50% พร้อมการดำเนินการเสร็จภายใน 24 ชั่วโมง และหากพิจารณาเฉพาะราคาแล้ว ก็เหนือกว่าทุกหน้าต่างของโหมดเบื้องหลัง ความแตกต่างนี้เป็นเชิงโครงสร้าง ไม่ใช่แค่เรื่องของระดับ Batch รับไฟล์ JSONL ของคำขอที่เป็นอิสระต่อกันและส่งคืนไฟล์ผลลัพธ์ โดยกระบวนการทำงานไม่มีความจำระหว่างบรรทัด โหมดเบื้องหลังใช้สำหรับการตอบกลับทีละครั้ง โดยส่งสถานะการสนทนาต่อไปผ่าน previous_response_idและลำดับการเรียกใช้เครื่องมือที่แอปพลิเคชันต้องดำเนินการในระหว่างนั้น

ดังนั้นการตัดสินใจจึงไม่ใช่ “อันไหนถูกกว่า” แต่เป็น “งานของฉันมีจุดกึ่งกลางหรือไม่” การเรียกจำแนกประเภทแบบอิสระจำนวน 5,000 ครั้งจัดอยู่ใน Batch และก็จัดมาตลอด การรันเอเจนต์หนึ่งครั้งที่อ่านเอกสาร เรียกใช้ฟังก์ชัน แล้วเขียนรายงาน ไม่สามารถแสดงออกมาเป็น batch ได้เลย — คำขอที่สองของมันยังไม่มีอยู่จนกว่าคำขอแรกจะส่งผลลัพธ์กลับมา นั่นคือช่องว่างที่ windows เติมเต็ม และมันเป็นช่องว่างที่มีอยู่จริง: 40% คือส่วนลดแรกที่ OpenAI เสนอสำหรับงานที่มีสถานะและมีหลายรอบ

เชิงอรรถเกี่ยวกับการจัดเก็บข้อมูลที่ส่งผลต่อการปฏิบัติตามข้อกำหนด

โหมดเบื้องหลังจะจัดเก็บข้อมูลการตอบกลับไว้ชั่วคราวแม้ในกรณีที่ store เป็น false หรือโปรเจกต์ใช้ Zero Data Retention เนื่องจาก API จำเป็นต้องใช้ข้อมูลในการรันคำขอและทำให้ผลลัพธ์สามารถเรียกดูได้ ข้อมูลจะถูกเข้ารหัสเมื่อจัดเก็บสำหรับทุกหน้าต่าง รวมถึง soonest และคำแนะนำคือให้คุณบันทึกอินพุตต้นฉบับและเอาต์พุตการตอบกลับแบบเต็มด้วยตนเองในขณะที่ยังสามารถเรียกดูได้ ไม่มีการระบุ time-to-live สำหรับพื้นที่จัดเก็บชั่วคราวนั้น

สำหรับทีมที่เลือก Zero Data Retention สำหรับงานที่มีการกำกับดูแล คำว่า "จัดเก็บไว้ชั่วคราว" เป็นประโยคที่ต้องส่งไปถึงผู้ที่ลงนามอนุมัติการตรวจสอบการจัดการข้อมูล และต้องส่งไปก่อนที่งานระยะแปดชั่วโมงงานแรกจะถูกเข้าคิว ไม่ใช่ส่งไปทีหลัง ส่วนลดไม่ได้เปลี่ยนสถานะด้านการปฏิบัติตามข้อกำหนดของ endpoint แต่เปลี่ยนระยะเวลาที่คำขอและผลลัพธ์ของคำขอจะอยู่ในสถานะที่คุณมองไม่เห็น

สิ่งที่ routing เพิ่มและไม่เพิ่มที่นี่

มีเรื่องหนึ่งที่ควรพูดให้ชัดเจน เพราะเป็นเรื่องที่เข้าใจผิดได้ง่ายเมื่อมีการประกาศส่วนลด: นี่เป็นฟีเจอร์ด้านการจัดกำหนดการ ไม่ใช่ราคาตามรายการ OrcaRouter ส่งผ่านราคาตามรายการของผู้ให้บริการโดยบวกเพิ่ม 0% ซึ่งเป็นเหตุผลว่าทำไมการลดราคาของ OpenAI ที่เกิดขึ้นจริงจึงปรากฏฝั่งเราในวันเดียวกัน — แต่ช่วงเวลาเสร็จสิ้น (completion window) เป็นแฟล็กบน endpoint ของ OpenAI เอง และไม่ได้ติดไปพร้อมกับโมเดล การเรียก GPT-6.2 Astra ผ่านเราเตอร์ไม่สามารถจำลองส่วนลด 40% ได้ และไม่มีเราเตอร์ใดทำได้ เพราะส่วนลดนี้เป็นสิทธิ์ของระบบจัดกำหนดการที่จะให้

นั่นเหลือสองสิ่งที่การจัดเส้นทางทำได้ดีจริงในรูปแบบการติดตั้งใช้งานนี้ อย่างแรกคือการเลือกโมเดล: จากสี่โมเดลที่หน้าต่างเวลาครอบคลุม — GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra และ GPT-6 Luna — ฝั่งราคาประหยัดมีอยู่ในแคตตาล็อกของเราแล้วด้วย GPT-6 Luna และ GPT-6.1 Sol ในราคาตามรายการ ดังนั้นการตัดสินใจเรื่องระดับชั้นและเรื่องผู้ให้บริการจึงขึ้นอยู่กับคีย์เดียวแทนที่จะเป็นสองสัญญา อย่างที่สองคือการปกป้องการเรียกที่รอไม่ได้ ระบบที่ใส่งานข้ามคืนไว้ในหน้าต่างแปดชั่วโมงได้ทำให้เส้นทางที่ไวต่อความหน่วงสำคัญมากขึ้น ไม่ใช่ลดลง และการสลับระบบสำรองอัตโนมัติบนเส้นทางนั้นคือสิ่งที่หยุดไม่ให้เหตุขัดข้องของผู้ให้บริการรายเดียวเปลี่ยนการเรียกที่ใช้เวลาห้าวินาทีให้กลายเป็นการล่ม คิวและการสลับระบบสำรองเป็นส่วนเสริมซึ่งกันและกัน: คุณใช้ความอดทนในจุดที่คุณมีมัน ดังนั้นคุณจึงมีกำลังพอที่จะเข้มงวดในที่อื่นได้

OpenAI's developer documentation page for Responses API background mode, showing the background flag set to true, the background_options object with its completion_window values of soonest, 2h and 8h, and the notes on polling or webhook notification of the completed response.

หลักการง่ายๆ

หากคำตอบถูกใช้โดยมนุษย์ที่กำลังเฝ้าดูอยู่ ไม่มีอะไรในส่วนนี้ที่ใช้บังคับ: ให้ใช้ เร็วที่สุด สตรีมมัน และจ่ายแบบ Standard หากคำตอบถูกใช้โดยงานที่ตั้งเวลาไว้ รายงานที่ต้องส่งก่อนประชุมตอนเช้า หรือไปป์ไลน์ที่ขั้นถัดไปจะรันคืนนี้ หน้าต่างแปดชั่วโมงคือส่วนลด 40% สำหรับโทเค็นคุณภาพเต็ม และคำถามจริงเพียงข้อเดียวคือ การเชื่อมต่อของคุณอยู่ได้ไหมโดยไม่มีการสตรีมและใช้พรอมป์ต์แคชแบบแยกส่วน หน้าต่างสองชั่วโมงที่ 30% คือทางสายกลางที่กระอักกระอ่วน — ลึกพอที่จะคุ้มกับการเปลี่ยนสถาปัตยกรรมก็ต่อเมื่องานมีกำหนดส่งภายในสองชั่วโมงจริง ๆ ซึ่งงานที่มีลักษณะเป็นแบตช์ส่วนใหญ่ไม่ใช่

ตัวเลขที่ต้องจับตาดูไม่ใช่เปอร์เซ็นต์ส่วนลด แต่เป็นสัดส่วนของทราฟฟิกของคุณที่รออยู่แล้ว ทีมที่รันเอเจนต์ข้ามคืนได้รับส่วนลด 40% จากบิลที่ยังไงก็ต้องจ่ายอยู่แล้ว ส่วนทีมที่รันแบบอินเทอร์แอกทีฟกำลังได้รับข้อเสนอส่วนลดที่ใช้ไม่ได้ บนโมเดลที่ไม่ขายระดับ Flex 50% ที่เคยเป็นทางเลือกสำรองอีกต่อไป กลุ่มที่สองควรอ่านหน้าราคาก่อนหน้าสถาปัตยกรรม เพราะเมื่อวันที่ 17 พฤศจิกายน วิธีที่ถูกที่สุดในการเรียก GPT-6.2 Astra ไม่ได้เป็นระดับที่คุณเลือกอีกต่อไป แต่กลายเป็นตารางเวลาที่คุณต้องยอมรับ

การเปรียบเทียบในบทความนี้1

ตรวจพบจากบทความนี้ · เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน

© 2026 OrcaRouter

สำหรับผู้ให้บริการ

ให้บริการแพลตฟอร์มการอนุมานอยู่หรือไม่ นำโมเดลของคุณขึ้น OrcaRouter

[email protected]

เข้าร่วมคอมมูนิตี้ของเรา

Discord[email protected]XLinkedInGitHubYouTube