
GPT-6.2 Astra โหมดพื้นหลัง: ลด 40% จ่ายตามเวลานาฬิกา
- Orcaใหม่OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 ต่อ 1 ล้านโทเค็น · 185 tok/s
- tencentใหม่Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 ต่อ 1 ล้านโทเค็น · 214 tok/s
- Googleใหม่Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 ต่อ 1 ล้านโทเค็น · 87 tok/s
- Anthropicใหม่Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 ต่อ 1 ล้านโทเค็น · 97 tok/s
- orcaใหม่Orca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 ต่อ 1 ล้านโทเค็น · 90 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 ต่อ 1 ล้านโทเค็น · 76 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 ต่อ 1 ล้านโทเค็น · 112 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447ความฉลาด
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 ต่อ 1 ล้านโทเค็น · 210 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929ความฉลาด
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 ต่อ 1 ล้านโทเค็น · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733ความฉลาด
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 ต่อ 1 ล้านโทเค็น · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740ความฉลาด
เส้นทางที่ถูกที่สุดของ OpenAI สู่ GPT-6.2 Astra ไม่ได้เปลี่ยนราคาของโมเดล แต่เปลี่ยนว่าคุณยินดีจะรับคำตอบเมื่อใด ส่งคำขอเดิมผ่าน Responses API โดยตั้งค่า background เป็น true และ background_options.completion_window เป็น 8h โทเค็นของ GPT-6.2 Astra ที่ประกาศราคาไว้ที่ $8 สำหรับอินพุตและ $40 สำหรับเอาต์พุตต่อล้านโทเค็น จะถูกคิดเงินที่ $4.80 และ $24 สำหรับ GPT-6.2 Sol ราคา $2 และ $10 จะกลายเป็น $1.40 และ $7 น้ำหนักโมเดลเดิม การให้เหตุผลเดิม หน้าต่างคอนเท็กซ์เดิม GPT-6.2 Sol ซึ่งเป็นตัวที่ถูกกว่าของทั้งสอง ได้รับการปฏิบัติแบบเดียวกันทุกประการ: $1.40 และ $7 ในหน้าต่างแปดชั่วโมง เทียบกับ $2 และ $10 ที่ระดับมาตรฐาน สิ่งที่เปลี่ยนไปคือตำแหน่งของคุณในคิว
ข้อแลกเปลี่ยนนั้นเปิดตัวเมื่อวันที่ 17 พฤศจิกายน 2026 ในช่วงบันทึกการเปลี่ยนแปลงเดียวกับตัวโมเดลทั้งสองเอง และเป็นเรื่องง่ายที่จะตีความผิดว่าเป็นการลดราคา แต่ก็ไม่ใช่ การลดราคาจะติดตามโมเดลไปทุกที่ที่มีการเรียกใช้ ส่วน completion window เป็นเพียงแฟล็กบนเอนด์พอยต์เดียว และทุกคุณสมบัติที่ทำให้มันมีค่าสำหรับตัวจัดตารางของ OpenAI ล้วนเป็นคุณสมบัติที่คุณต้องยอมรับ ทั้งไม่มีการสตรีม ไม่มีการแชร์แคชกับทราฟฟิกปกติ และโควตาการจำกัดอัตราที่ตอนนี้คุณใช้ร่วมกับ Batch API
เหตุผลที่สิ่งนี้สมควรได้รับการกล่าวถึงมากกว่าหนึ่งบรรทัดในบันทึกการเปลี่ยนแปลงก็คือ ส่วนลดนี้ลึกกว่าปกติมากสำหรับระดับที่ยังคงคุณภาพของโมเดลไว้เต็มรูปแบบ Batch ลดราคา 50% มาหลายปีแล้ว แต่ Batch รับเฉพาะคำขอที่คุณส่งเป็นไฟล์แล้วลืมได้เท่านั้น นี่คือส่วนลด 40% สำหรับบทสนทนากับเอเจนต์แบบสด ซึ่งมีการโต้ตอบต่อเนื่องและมีเอาต์พุตจากเครื่องมือ ตราบใดที่บทสนทนายอมรับการเข้าคิวได้ สำหรับงานโปรดักชันจำนวนมาก นั่นคือความแตกต่างระหว่างคำถามเรื่องความสามารถในการจ่ายกับคำถามเรื่องสถาปัตยกรรม
window คืออะไรในแง่ของ API
โหมดเบื้องหลัง (Background mode) ไม่ใช่เรื่องใหม่: เป็นวิธีของ Responses API ในการรันคำขอที่ใช้เวลานานแบบอะซิงโครนัส คุณตั้งค่า background เป็น true รับ response ID กลับมาได้ทันที และเก็บผลลัพธ์ในภายหลังผ่าน webhook บน response.completed หรือโดยการ polling endpoint สำหรับ retrieve ขณะที่สถานะแสดงเป็น queued หรือ in_progress โหมดเบื้องหลังเป็นเรื่องของการไม่ถือ connection เปิดค้างไว้สำหรับการรัน agent ที่ใช้เวลายี่สิบนาทีมาโดยตลอด
ส่วนใหม่คือคิวเบื้องหลังตอนนี้มีหลายระดับพร้อมราคาแล้ว background_options.completion_window รองรับค่า soonest, 2h หรือ 8h Soonest เป็นค่าเริ่มต้นและไม่มีส่วนลด ถือเป็นกรณี "สร้างรายงานในขณะที่มีคนกำลังรออยู่" 2h ต่ำกว่า Standard 30% และ 8h ต่ำกว่า 40% โดยเอกสารระบุไว้ชัดเจนว่าเวลานับถอยหลังเป้าหมายจะเริ่มนับเมื่อ API ยอมรับคำขอเริ่มต้น และมีผลกับคำตอบนั้น
“ตั้งเป้าให้เสร็จภายในหน้าต่างเวลาที่เลือก” คือวลีที่ต้องอ่านสองครั้ง นี่เป็นเป้าหมายด้านการจัดตาราง ไม่ใช่การรับประกัน และไม่ใช่ความล่าช้าคงที่ อีกทั้งคำแนะนำของ API เองก็ระบุว่าเวลาเริ่มต้นขึ้นอยู่กับการจัดตาราง คำขอที่อยู่ในหน้าต่างแปดชั่วโมงไม่ได้ถูกพักไว้แปดชั่วโมงแล้วจึงรัน แต่จะรันเมื่อมีความจุเพียงพอ และหากเสร็จในสี่นาที คุณก็จะได้ผลในสี่นาที สิ่งที่คุณยอมสละไปคือสิทธิ์ในการบ่นเมื่อมันไม่เป็นไปตามนั้น
บันไดในหน่วยดอลลาร์
โมเดลทั้งสองที่หน้าต่างนี้ครอบคลุม โดยคิดราคาในแต่ละระดับต่อล้านโทเค็น โดยใช้อัตรา Standard ที่ OpenAI เผยแพร่เป็นเกณฑ์อ้างอิง:
GPT-6.2 Astra, Standard — อินพุต $8, อินพุตแคช $0.40, เอาต์พุต $40
• GPT-6.2 Astra, หน้าต่าง 2 ชม. — อินพุต $5.60, แคช $0.28, เอาต์พุต $28
• GPT-6.2 Astra, หน้าต่าง 8 ชม. — อินพุต $4.80, แคช $0.24, เอาต์พุต $24
• GPT-6.2 Sol, Standard — อินพุต $2, แคช $0.10, เอาต์พุต $10
• GPT-6.2 Sol, หน้าต่าง 2 ชม. — อินพุต $1.60, แคช $0.08, เอาต์พุต $8
• GPT-6.2 Sol หน้าต่าง 8 ชม. — อินพุต $1.40, แคช $0.06, เอาต์พุต $7
• เพื่อให้เห็นภาพ โมเดลเดียวกันในฝั่งความเร็วสูง — โหมด Fast คิดเป็นสองเท่าของอัตรา Standard คือ $16 และ $80; Ultrafast คิดเป็น 3× ของ Standard ที่ $24 และ $120 ถึงวันที่ 28 กุมภาพันธ์ 2027 และ 6× ที่ $48 และ $240 ตั้งแต่วันที่ 1 มีนาคม 2027

นั่นคืออัตราค่าโทเคน และอัตราค่าโทเคนไม่ใช่ต้นทุนของงานหนึ่งงาน บิลถ่วงน้ำหนักของ Artificial Analysis สำหรับงาน Intelligence Index ที่เสร็จสมบูรณ์บน GPT-6.2 Astra อยู่ที่ $4.00 ที่ระดับ Standard บนดัชนี v5.0.1 ที่วัดที่ความพยายามสูงสุด หากส่วนลดตามหน้าต่างเวลาถูกนำไปใช้อย่างสม่ำเสมอทั่วทุกหมวดหมู่ในบิลนั้น งานเดียวกันจะมีต้นทุน $2.80 ในหน้าต่างสองชั่วโมง และ $2.40 ในหน้าต่างแปดชั่วโมง เมื่อคิดจากหนึ่งหมื่นงาน นั่นคือ $28,000 และ $24,000 แทนที่จะเป็น $40,000
คำว่า “if” ตรงนั้นมีบทบาทสำคัญจริง ๆ เอกสารของ OpenAI อธิบายว่าส่วนลดนี้ใช้กับอัตราค่าโทเคนของโมเดลในแต่ละคำขอที่เข้าเกณฑ์ รวมถึงคำขอติดตามผล และหน้าค่าราคาของบริษัทก็ใช้ถ้อยคำเดียวกัน ทั้งสองหน้าไม่ได้แยกส่วนลดตามหมวดหมู่โทเคน และบิลค่าโทเคนของโมเดลนี้ไม่ได้มีสัดส่วนใหญ่เป็นอินพุตดิบ: ในการวัดของ Artificial Analysis นั้น $1.19 จาก $4.00 เป็นการอ่านจากแคช $1.10 เป็นการเขียนลงแคช และมีเพียง $0.065 เป็นอินพุตที่ไม่ได้แคช โดยมี $1.64 เป็นเอาต์พุต การเขียนลงแคชมีอัตราราคาของตัวเอง — $10 ต่อล้านโทเคนสำหรับแคช 30 นาที และ $20 สำหรับแคช 12 ชั่วโมง — ดังนั้นงานที่มีลักษณะเด่นคือการเขียนพรอมต์ขนาดใหญ่ลงแคชอาจไม่ได้ลดลงพอดี 40% ให้มอง 40% เป็นรูปแบบของส่วนลด และวัดบิลของคุณเองแทนที่จะสมมติตัวคูณ
สี่เงื่อนไขที่คุณได้รับสืบทอด
ส่วนลดนี้ใช้ไม่ได้กับทุกคำขอ และข้อยกเว้นคือจุดที่การนำไปใช้งานมักเกิดข้อผิดพลาด
• ประมวลผลแบบมาตรฐานเท่านั้น ช่วงเวลาที่มีส่วนลดต้องตั้งค่า service_tier เป็น default หากคุณปล่อยไว้ที่ auto คำขอจะเข้าเกณฑ์ก็ต่อเมื่อ API เลือกโหมดมาตรฐานเท่านั้น ซึ่งหมายความว่าส่วนลดของคุณกลายเป็นการเสี่ยงโชคที่คุณมองไม่เห็นล่วงหน้า
• ไม่มีการสตรีม การสตรีมใช้ได้เฉพาะกับ soonest เท่านั้น สำหรับ 2h และ 8h คุณต้องไม่ระบุ stream หรือตั้งค่าเป็น false และคุณจะไม่สามารถสตรีมการตอบกลับในภายหลังได้หากการตอบกลับนั้นไม่ได้ถูกสร้างขึ้นมาด้วยการสตรีม
• ขีดจำกัดอัตราเดียวที่ใช้ร่วมกันคำขอในหน้าต่างสองชั่วโมงและแปดชั่วโมงใช้ขีดจำกัดอัตราของ Batch/Background ร่วมกับงาน Batch API และโทเค็นอินพุตจะถูกนับ ณ เวลาที่ส่งงาน การทดลองที่ส่งเอกสารหนึ่งล้านโทเค็นไปยังเบื้องหลังแปดชั่วโมงไม่ได้แค่รอ แต่ยังใช้ส่วนที่เหลือซึ่งงาน Batch ของคุณกำลังใช้อยู่
• คำขอติดตามผลต้องตรงกัน การรันของเอเจนต์เป็นลูกโซ่ และส่วนลดจะคงอยู่ตลอดลูกโซ่ได้ก็ต่อเมื่อคำขอติดตามผลแต่ละครั้งระบุหน้าต่าง, continuation_id, โมเดล, โปรเจกต์ และการตั้งค่าพื้นหลังซ้ำเหมือนเดิม การใช้ continuation ID ซ้ำจะทำให้คำขอติดตามผลมีสิทธิ์ได้รับลำดับความสำคัญในคิวที่สูงขึ้นด้วย หากเปลี่ยนสิ่งใดสิ่งหนึ่งในนั้น เทิร์นถัดไปจะเป็นคำขอแบบ Standard

มีเงื่อนไขที่ห้าซ่อนอยู่ในกฎของแคช และมันคือเงื่อนไขที่มีหางยาวที่สุด คำขอมาตรฐานที่อยู่นอกหน้าต่างที่ได้รับส่วนลดไม่สามารถนำรายการแคชพรอมต์ที่สร้างโดยคำขอเบื้องหลังแบบสองชั่วโมงหรือแปดชั่วโมงกลับมาใช้ซ้ำได้ แม้พรอมต์จะเหมือนกันทุกประการ และในทางกลับกันก็เช่นกัน หากครึ่งหนึ่งของทราฟฟิกของคุณทำงานภายในหน้าต่าง และอีกครึ่งหนึ่งทำงานตามต้องการ คุณได้แยกแคชพรอมต์ของคุณออกเป็นสองส่วนอย่างเงียบ ๆ และกำลังจ่ายเพื่อเขียนคำนำหน้าเดียวกันถึงสองครั้ง ส่วนลดในด้านหนึ่งของการแยกนั้นถูกหักลบด้วยการเขียนแคชในอีกด้านหนึ่ง และโมเดลที่มีค่าการเขียนแคช 10 ดอลลาร์ต่อล้านนั้นเป็นโมเดลที่ผิดอย่างยิ่งที่จะแยกแคช
ต้นทุนที่ไม่ได้อยู่ในใบแจ้งหนี้
ส่วนลดนี้แลกโทเค็นด้วยเวลา และเวลาไม่ได้ถูกจำกัดด้วยหน้าต่างเวลา ลองพิจารณาการตรวจเอกสารข้ามคืนที่เอกสารประกอบเองใช้เป็นตัวอย่าง: คำขอหนึ่งรายการที่ใช้แปดชั่วโมง การเรียกเครื่องมือหนึ่งครั้ง และการติดตามผลที่นำเอกสารซึ่งดึงกลับมาใส่กลับไป การตอบสนองทั้งสองรายการเข้าเงื่อนไขส่วนลด 40% และเป้าหมายจะเริ่มนับใหม่สำหรับรายการที่สอง ในกรณีที่ดีที่สุด การรันทั้งหมดจะเสร็จก่อนอาหารเช้า ในกรณีที่แย่ที่สุด การตอบสนองทั้งสองรายการจะใช้เวลาใกล้เคียงเป้าหมายเต็มของแต่ละรายการ ซึ่งทำให้เพดานเวลาตั้งแต่ต้นจนจบอยู่ที่ประมาณสิบหกชั่วโมงแทนที่จะเป็นแปดชั่วโมง
การคำนวณนั้นไม่ขยายผลได้ดีนักสำหรับเอเจนต์ที่ทำงานยาวนาน เวิร์กโฟลว์ 12 เทิร์นที่ส่งทุกเทิร์นผ่านหน้าต่าง 8 ชั่วโมงมีเพดานที่ 4 วัน และการจัดตารางจริงอยู่ระหว่างกรณีดีที่สุดกับเพดานดังกล่าว โดยไม่มีการเผยแพร่การกระจาย วิธีนำไปใช้อย่างตรงไปตรงมาคือตัดสินใจเป็นรายเวิร์กโฟลว์ ไม่ใช่รายการเรียก: pipeline ที่ผลลัพธ์ถูกนำไปใช้ในเช้าวันถัดไปเหมาะโดยธรรมชาติ ส่วนเซสชันเชิงโต้ตอบไม่เหมาะ ไม่ว่าจะประหยัดโทเค็นได้มากเพียงใด หน้าต่างนี้คือการเสนอราคาเพื่อความจุราคาถูก และคำเสนอราคาจะได้รับการเติมเมื่อมีความจุให้เติม
ช่องโหว่ของ Flex ที่ไม่มีใครพูดถึง
ก่อนจะมีหน้าต่างเหล่านี้ วิธีซื้อส่วนลดสำหรับตระกูลโมเดลนี้คือ service_tier: flex: ต่ำกว่า Standard 50% โดยมีลำดับความสำคัญต่ำกว่า Flex ยังมีอยู่ในโมเดลรุ่นเก่า — GPT-6 Astra ระบุราคาไว้ที่ $5 และ $25 ในตาราง Flex เทียบกับ $10 และ $50 ที่ Standard — แต่คู่มือ background ของ OpenAI ระบุไว้ชัดเจนว่าเริ่มตั้งแต่ GPT-6.2 Astra และ Sol โมเดลใหม่จะเปิดตัวโดยไม่มี Flex processing และงานที่ใช้เวลานานควรใช้หน้าต่าง completion ที่มีส่วนลดด้วย Standard processing แทน
อ่านตัวเลขสองตัววางเคียงกันก็เห็นทิศทางได้ชัดเจน ในรุ่นก่อน ผู้เรียกที่ยอมรอสามารถซื้อได้ในราคาลด 50% ในรุ่นนี้ ระดับส่วนลดที่ลึกที่สุดคือ 40% และต้องทำให้งานถูกจัดเป็นเบื้องหลัง สิ่งที่มาแทนไม่ใช่การปรับปรุงตรง ๆ เหนือตัวเลือกเดิม แต่เป็นตัวเลือกที่แคบลงในส่วนลดที่น้อยลง และมันมาพร้อมรูปแบบคำขอ — แบบอะซิงโครนัส ไม่สตรีมมิ่ง มี ID การตอบกลับเดียว — ที่ไม่ใช่ทุกการเชื่อมต่อจะนำไปใช้ได้
Batch ยังลงลึกกว่า และเป็นเครื่องมือที่ไม่เหมาะกับครึ่งหนึ่งของสิ่งนี้
Batch API ยังคงมีส่วนลด 50% พร้อมการดำเนินการเสร็จภายใน 24 ชั่วโมง และหากพิจารณาเฉพาะราคาแล้ว ก็เหนือกว่าทุกหน้าต่างของโหมดเบื้องหลัง ความแตกต่างนี้เป็นเชิงโครงสร้าง ไม่ใช่แค่เรื่องของระดับ Batch รับไฟล์ JSONL ของคำขอที่เป็นอิสระต่อกันและส่งคืนไฟล์ผลลัพธ์ โดยกระบวนการทำงานไม่มีความจำระหว่างบรรทัด โหมดเบื้องหลังใช้สำหรับการตอบกลับทีละครั้ง โดยส่งสถานะการสนทนาต่อไปผ่าน previous_response_idและลำดับการเรียกใช้เครื่องมือที่แอปพลิเคชันต้องดำเนินการในระหว่างนั้น
ดังนั้นการตัดสินใจจึงไม่ใช่ “อันไหนถูกกว่า” แต่เป็น “งานของฉันมีจุดกึ่งกลางหรือไม่” การเรียกจำแนกประเภทแบบอิสระจำนวน 5,000 ครั้งจัดอยู่ใน Batch และก็จัดมาตลอด การรันเอเจนต์หนึ่งครั้งที่อ่านเอกสาร เรียกใช้ฟังก์ชัน แล้วเขียนรายงาน ไม่สามารถแสดงออกมาเป็น batch ได้เลย — คำขอที่สองของมันยังไม่มีอยู่จนกว่าคำขอแรกจะส่งผลลัพธ์กลับมา นั่นคือช่องว่างที่ windows เติมเต็ม และมันเป็นช่องว่างที่มีอยู่จริง: 40% คือส่วนลดแรกที่ OpenAI เสนอสำหรับงานที่มีสถานะและมีหลายรอบ
เชิงอรรถเกี่ยวกับการจัดเก็บข้อมูลที่ส่งผลต่อการปฏิบัติตามข้อกำหนด
โหมดเบื้องหลังจะจัดเก็บข้อมูลการตอบกลับไว้ชั่วคราวแม้ในกรณีที่ store เป็น false หรือโปรเจกต์ใช้ Zero Data Retention เนื่องจาก API จำเป็นต้องใช้ข้อมูลในการรันคำขอและทำให้ผลลัพธ์สามารถเรียกดูได้ ข้อมูลจะถูกเข้ารหัสเมื่อจัดเก็บสำหรับทุกหน้าต่าง รวมถึง soonest และคำแนะนำคือให้คุณบันทึกอินพุตต้นฉบับและเอาต์พุตการตอบกลับแบบเต็มด้วยตนเองในขณะที่ยังสามารถเรียกดูได้ ไม่มีการระบุ time-to-live สำหรับพื้นที่จัดเก็บชั่วคราวนั้น
สำหรับทีมที่เลือก Zero Data Retention สำหรับงานที่มีการกำกับดูแล คำว่า "จัดเก็บไว้ชั่วคราว" เป็นประโยคที่ต้องส่งไปถึงผู้ที่ลงนามอนุมัติการตรวจสอบการจัดการข้อมูล และต้องส่งไปก่อนที่งานระยะแปดชั่วโมงงานแรกจะถูกเข้าคิว ไม่ใช่ส่งไปทีหลัง ส่วนลดไม่ได้เปลี่ยนสถานะด้านการปฏิบัติตามข้อกำหนดของ endpoint แต่เปลี่ยนระยะเวลาที่คำขอและผลลัพธ์ของคำขอจะอยู่ในสถานะที่คุณมองไม่เห็น
สิ่งที่ routing เพิ่มและไม่เพิ่มที่นี่
มีเรื่องหนึ่งที่ควรพูดให้ชัดเจน เพราะเป็นเรื่องที่เข้าใจผิดได้ง่ายเมื่อมีการประกาศส่วนลด: นี่เป็นฟีเจอร์ด้านการจัดกำหนดการ ไม่ใช่ราคาตามรายการ OrcaRouter ส่งผ่านราคาตามรายการของผู้ให้บริการโดยบวกเพิ่ม 0% ซึ่งเป็นเหตุผลว่าทำไมการลดราคาของ OpenAI ที่เกิดขึ้นจริงจึงปรากฏฝั่งเราในวันเดียวกัน — แต่ช่วงเวลาเสร็จสิ้น (completion window) เป็นแฟล็กบน endpoint ของ OpenAI เอง และไม่ได้ติดไปพร้อมกับโมเดล การเรียก GPT-6.2 Astra ผ่านเราเตอร์ไม่สามารถจำลองส่วนลด 40% ได้ และไม่มีเราเตอร์ใดทำได้ เพราะส่วนลดนี้เป็นสิทธิ์ของระบบจัดกำหนดการที่จะให้
นั่นเหลือสองสิ่งที่การจัดเส้นทางทำได้ดีจริงในรูปแบบการติดตั้งใช้งานนี้ อย่างแรกคือการเลือกโมเดล: จากสี่โมเดลที่หน้าต่างเวลาครอบคลุม — GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra และ GPT-6 Luna — ฝั่งราคาประหยัดมีอยู่ในแคตตาล็อกของเราแล้วด้วย GPT-6 Luna และ GPT-6.1 Sol ในราคาตามรายการ ดังนั้นการตัดสินใจเรื่องระดับชั้นและเรื่องผู้ให้บริการจึงขึ้นอยู่กับคีย์เดียวแทนที่จะเป็นสองสัญญา อย่างที่สองคือการปกป้องการเรียกที่รอไม่ได้ ระบบที่ใส่งานข้ามคืนไว้ในหน้าต่างแปดชั่วโมงได้ทำให้เส้นทางที่ไวต่อความหน่วงสำคัญมากขึ้น ไม่ใช่ลดลง และการสลับระบบสำรองอัตโนมัติบนเส้นทางนั้นคือสิ่งที่หยุดไม่ให้เหตุขัดข้องของผู้ให้บริการรายเดียวเปลี่ยนการเรียกที่ใช้เวลาห้าวินาทีให้กลายเป็นการล่ม คิวและการสลับระบบสำรองเป็นส่วนเสริมซึ่งกันและกัน: คุณใช้ความอดทนในจุดที่คุณมีมัน ดังนั้นคุณจึงมีกำลังพอที่จะเข้มงวดในที่อื่นได้

หลักการง่ายๆ
หากคำตอบถูกใช้โดยมนุษย์ที่กำลังเฝ้าดูอยู่ ไม่มีอะไรในส่วนนี้ที่ใช้บังคับ: ให้ใช้ เร็วที่สุด สตรีมมัน และจ่ายแบบ Standard หากคำตอบถูกใช้โดยงานที่ตั้งเวลาไว้ รายงานที่ต้องส่งก่อนประชุมตอนเช้า หรือไปป์ไลน์ที่ขั้นถัดไปจะรันคืนนี้ หน้าต่างแปดชั่วโมงคือส่วนลด 40% สำหรับโทเค็นคุณภาพเต็ม และคำถามจริงเพียงข้อเดียวคือ การเชื่อมต่อของคุณอยู่ได้ไหมโดยไม่มีการสตรีมและใช้พรอมป์ต์แคชแบบแยกส่วน หน้าต่างสองชั่วโมงที่ 30% คือทางสายกลางที่กระอักกระอ่วน — ลึกพอที่จะคุ้มกับการเปลี่ยนสถาปัตยกรรมก็ต่อเมื่องานมีกำหนดส่งภายในสองชั่วโมงจริง ๆ ซึ่งงานที่มีลักษณะเป็นแบตช์ส่วนใหญ่ไม่ใช่
ตัวเลขที่ต้องจับตาดูไม่ใช่เปอร์เซ็นต์ส่วนลด แต่เป็นสัดส่วนของทราฟฟิกของคุณที่รออยู่แล้ว ทีมที่รันเอเจนต์ข้ามคืนได้รับส่วนลด 40% จากบิลที่ยังไงก็ต้องจ่ายอยู่แล้ว ส่วนทีมที่รันแบบอินเทอร์แอกทีฟกำลังได้รับข้อเสนอส่วนลดที่ใช้ไม่ได้ บนโมเดลที่ไม่ขายระดับ Flex 50% ที่เคยเป็นทางเลือกสำรองอีกต่อไป กลุ่มที่สองควรอ่านหน้าราคาก่อนหน้าสถาปัตยกรรม เพราะเมื่อวันที่ 17 พฤศจิกายน วิธีที่ถูกที่สุดในการเรียก GPT-6.2 Astra ไม่ได้เป็นระดับที่คุณเลือกอีกต่อไป แต่กลายเป็นตารางเวลาที่คุณต้องยอมรับ
การเปรียบเทียบในบทความนี้1
ตรวจพบจากบทความนี้ · เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน
