OpenAI GPT-4o-mini รุ่นตัวอย่างที่มีบริบทขยายสำหรับการสร้างข้อความที่เน้นการค้นหาด้วยต้นทุนต่ำ
โมเดลนี้เป็นรุ่นตัวอย่าง (preview) ของ GPT-4o-mini จาก OpenAI ซึ่งได้รับการปรับให้เหมาะสมสำหรับการสร้างข้อความที่เน้นการค้นหา (search-oriented text generation)…
โมเดลมีความสามารถโดดเด่นในการทำความเข้าใจและสร้างข้อความจากบริบทขนาดใหญ่ (สูงสุด 128k โทเค็น) และสามารถสร้างผลลัพธ์ได้สูงสุด 16,384 โทเค็น โดยยังคงจุดแข็งหลักของ GPT-4o-mini ไว้ คือ การอนุมานที่รวดเร็ว การทำตามคำสั่งที่ดี และคุ้มค่าด้านต้นทุน การปรับแต่งสำหรับการแสดงตัวอย่างผลการค้นหาน่าจะช่วยเพิ่มความสามารถในการดึงข้อมูลส่วนที่เกี่ยวข้อง เปรียบเทียบข้อมูล และตอบคำถามที่ต้องสแกนข้อความยาวๆ ได้ดีขึ้น สามารถใช้สำหรับการสรุป การตอบคำถาม การสกัดข้อมูล และการสนทนาหลายรอบตราบใดที่อินพุตยังเป็นข้อความ ไม่รองรับการเรียกฟังก์ชันหรือการใช้เครื่องมือโดยค่าเริ่มต้น ถึงแม้คุณจะสามารถรวมผลการค้นหาภายนอกลงในพรอมต์ของคุณได้
ตามการออกแบบ โมเดลนี้เหมาะที่สุดสำหรับงานที่ผู้ใช้ป้อนข้อความยาวๆ ซึ่งมีข้อมูลที่จำเป็นสำหรับการสร้างคำตอบ เช่น การวิเคราะห์ชุดผลลัพธ์จากการค้นหา (ที่ให้มาเป็นข้อความ) การเปรียบเทียบรายละเอียดสินค้า การดึงข้อเท็จจริงสำคัญจากงานวิจัย หรือการสรุปบันทึกการประชุม ความจุ 128k ช่วยให้ประมวลผลหนังสือทั้งเล่มหรือชุดเอกสารหลายฉบับในคำขอเดียว อย่างไรก็ตาม อาจไม่เหมาะสมสำหรับงานเขียนเชิงสร้างสรรค์ การสร้างโค้ด หรืองานที่ต้องใช้ความเข้าใจแบบหลายรูปแบบ สำหรับงานเหล่านั้น ให้พิจารณาใช้โมเดล GPT-4o-mini หรือ GPT-4o มาตรฐาน
หากงานของคุณง่ายมาก เช่น การถามตอบสั้นๆ หรือการจัดหมวดหมู่ และไม่จำเป็นต้องมีหน้าต่างบริบทขนาดใหญ่หรือการปรับแต่งเฉพาะสำหรับการค้นหา โมเดลที่ถูกกว่าเช่น GPT-4o-mini (ที่ไม่มี preview) หรือแม้แต่ GPT-3.5 Turbo ก็อาจเพียงพอ ราคาของโมเดล preview นั้นเท่ากับ GPT-4o-mini ดังนั้นค่าใช้จ่ายจึงไม่ใช่ปัจจัยที่แตกต่าง อย่างไรก็ตาม หากเวลาแฝงเป็นสิ่งที่สำคัญที่สุด GPT-4o-mini ก็เป็นหนึ่งในโมเดลที่เร็วที่สุดอยู่แล้ว ส่วนเวอร์ชัน preview น่าจะมีความเร็วใกล้เคียงกัน หากคุณไม่ต้องการจุดเน้นด้านการค้นหา GPT-4o-mini มาตรฐานอาจได้รับการทดสอบอย่างกว้างขวางและเสถียรกว่า
จำนวนโทเค็นเอาต์พุตสูงสุดต่อคำขอคือ 16,384 โทเค็น บริบทอินพุตสามารถมีได้สูงสุดถึง 128,000 โทเค็น ซึ่งเป็นขีดจำกัดที่กว้างขวางที่อนุญาตให้มีคำตอบยาวและบริบทที่ยาวมาก อย่างไรก็ตาม เนื่องจากโมเดลรองรับเฉพาะข้อความ โทเค็นทั้งหมดจึงต้องเป็นข้อความ ไม่มีการรองรับโครงสร้างข้อมูลโดยตรง เช่น การบังคับใช้สคีมา JSON แม้ว่าคุณสามารถสั่งให้โมเดลส่งออก JSON ได้ เวอร์ชันตัวอย่างอาจมีขีดจำกัดอัตรา เมื่อใช้ OrcaRouter ขีดจำกัดเหล่านั้นขึ้นอยู่กับระดับบัญชีของคุณและความพร้อมใช้งานของผู้ให้บริการแบ็คเอนด์
OpenAI ยังไม่ได้เผยแพร่คะแนนมาตรฐานแยกสำหรับโมเดลตัวอย่างเฉพาะนี้ อย่างไรก็ตาม GPT-4o-mini พื้นฐานเป็นที่รู้จักว่าสามารถทำผลลัพธ์ที่แข็งแกร่งในเกณฑ์มาตรฐาน NLP หลายรายการ ในขณะที่เร็วกว่าและถูกกว่า GPT-4o อย่างมาก ผู้ใช้ควรคาดหวังประสิทธิภาพทั่วไปที่ใกล้เคียงกัน โดยอาจมีผลลัพธ์ที่ดีกว่าในงานที่เกี่ยวข้องกับการดึงข้อมูลหรือการให้เหตุผลแบบบริบทยาวเนื่องจากการปรับแต่งการค้นหา หากไม่มีเกณฑ์มาตรฐานอย่างเป็นทางการ แนะนำให้ประเมินโมเดลด้วยชุดทดสอบของคุณเองเพื่อวัดประสิทธิภาพสำหรับโดเมนของคุณ
GPT-4o-mini เป็นหนึ่งในโมเดลที่เร็วที่สุดในตระกูล GPT-4 และเวอร์ชันพรีวิวนี้น่าจะมีความหน่วงที่ใกล้เคียงกัน เวลาเฉลี่ยจนถึงโทเค็นแรก (time-to-first-token) ต่ำ ทำให้เหมาะสำหรับแอปพลิเคชันแบบโต้ตอบ ความหน่วงที่แน่นอนขึ้นอยู่กับขนาดของคำขอ ความยาวของผลลัพธ์ และโหลดของผู้ให้บริการในขณะนั้น บริบทขนาด 128k อาจทำให้เวลาเฉลี่ยจนถึงโทเค็นแรกนานขึ้นเมื่อเทียบกับบริบทที่สั้นกว่า แต่เมื่อเริ่มสตรีมข้อมูล โทเค็นจะถูกสร้างขึ้นอย่างรวดเร็ว OrcaRouter ไม่เพิ่มภาระงานที่สำคัญ การเรียก API ได้รับการปรับให้มีความหน่วงต่ำที่สุด
จุดแข็งหลักคือการผสมผสานระหว่างความเร็วสูง ต้นทุนต่ำ และความสามารถในการจัดการบริบทที่ยาวมาก สำหรับงานที่คำตอบมีอยู่ในข้อความที่ให้มา โมเดลนี้สามารถดึงข้อมูลได้อย่างมีประสิทธิภาพโดยไม่ต้องเสียต้นทุนสูงเหมือน GPT-4o นอกจากนี้ยังสืบทอดความสามารถในการปฏิบัติตามคำสั่งที่แม่นยำของ GPT-4o-mini อย่างไรก็ตาม อาจไม่เทียบเท่ากับการใช้เหตุผลเชิงลึก ความคิดสร้างสรรค์ หรือความแม่นยำตามข้อเท็จจริงของโมเดลขนาดใหญ่อย่าง GPT-4o หรือ GPT-4 Turbo ในงานที่ซับซ้อนเกี่ยวกับการใช้เหตุผล โมเดลขนาดใหญ่มักทำงานได้ดีกว่า แต่มีเวลาแฝงและต้นทุนสูงกว่า
เป็นตัวอย่างเบื้องต้น โมเดลอาจมีบั๊กหรือพฤติกรรมที่ไม่สอดคล้องที่ยังไม่ถูกค้นพบ ยังไม่ได้รับการทดสอบอย่างกว้างขวางเท่ากับรุ่นที่เสถียร การปรับแต่งการค้นหาอาจทำให้เกิดผลลัพธ์ที่ไม่คาดคิดเมื่ออินพุตไม่มีข้อมูลเพียงพอ ซึ่งอาจนำไปสู่การสร้างภาพหลอน (hallucination) โมเดลไม่สามารถใช้เครื่องมือภายนอกหรือท่องเว็บได้ เว้นแต่คุณจะให้เนื้อหาที่เกี่ยวข้อง หากงานของคุณต้องการผลการค้นหาเว็บล่าสุด คุณจะต้องใส่ข้อมูลเหล่านั้นลงในพรอมต์ด้วยตนเอง นอกจากนี้ โมเดลไม่รองรับรูปภาพหรือเสียง ซึ่งจำกัดการใช้งานในสถานการณ์มัลติโมดัล
OrcaRouter ส่งต่อราคาจากผู้ให้บริการโดยไม่มีส่วนเพิ่ม (markup) สำหรับ openai/gpt-4o-mini-search-preview-2025-03-11 ราคาอยู่ที่ $0.15 ต่อ 1 ล้าน input tokens และ $0.60 ต่อ 1 ล้าน output tokens Input tokens รวมถึง prompt ทั้งหมด (ข้อความระบบ, ข้อความผู้ใช้, และประวัติใดๆ) ส่วน output tokens คือข้อความที่ถูกสร้างขึ้น ไม่มีค่าธรรมเนียมเพิ่มเติมจาก OrcaRouter ทำให้โมเดลนี้มีราคาที่ไม่แพงมากสำหรับการใช้งานปริมาณมาก โดยเฉพาะเมื่อประมวลผลบริบทที่ยาว
ไม่มีส่วนลดการแคชเฉพาะสำหรับโมเดลนี้บน OrcaRouter การกำหนดราคาเป็นแบบต่อโทเค็น จ่ายตามการใช้งาน ผู้ให้บริการบางรายเสนอการแคชพรอมต์ที่ช่วยลดต้นทุนสำหรับคำนำหน้าที่ซ้ำกัน แต่ยังไม่ได้รับการยืนยันสำหรับตัวอย่างนี้ โดยทั่วไป OpenAI อาจเสนอการแคชสำหรับบางโมเดลใน API ของพวกเขา แต่ตัวอย่างนี้อาจไม่มีสิทธิ์ ตรวจสอบเอกสารของ OpenAI สำหรับนโยบายการแคชล่าสุด บน OrcaRouter คุณจะถูกเรียกเก็บเงินในอัตราเดียวกันไม่ว่ารูปแบบการใช้งานจะเป็นอย่างไร
ที่ราคา $0.15 อินพุต / $0.60 เอาต์พุตต่อล้านโทเค็น มันเหมือนกับ GPT-4o-mini มาตรฐาน ซึ่งทำให้มันถูกกว่า GPT-4o ($2.50 อินพุต / $10 เอาต์พุต) และ GPT-4 Turbo ($10 อินพุต / $30 เอาต์พุต) อย่างมาก มันแพงกว่าโมเดลเก่าอย่าง GPT-3.5 Turbo ($0.50/$1.50 ต่อล้าน?) อย่างไรก็ตาม คุณค่ามาจากบริบทที่ใหญ่และการปรับแต่งการค้นหา หากคุณต้องการบริบทเต็ม ข้อได้เปรียบด้านต้นทุนเหนือโมเดลขนาดใหญ่นั้นมีนัยสำคัญ
ในการใช้งานโมเดล ให้ตั้งค่า API base URL ของคุณเป็น https://api.orcarouter.ai/v1, คีย์ API ของคุณ (จาก OrcaRouter) และรหัสโมเดลให้ตรงว่า "openai/gpt-4o-mini-search-preview-2025-03-11" ตัวอย่างการใช้งานกับ OpenAI Python client: ```python client = OpenAI(api_key="your_orcarouter_key", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4o-mini-search-preview-2025-03-11", messages=[{"role": "user", "content": "Your prompt"}] ) ``` พารามิเตอร์มาตรฐานของ chat completions ทั้งหมดรองรับ รวมถึง temperature, max_tokens, top_p, frequency_penalty, presence_penalty และ stop sequences สามารถใช้ streaming ได้โดยตั้งค่า stream=True
โมเดลรองรับพารามิเตอร์เดียวกันกับ OpenAI Chat Completions API พารามิเตอร์สำคัญ: temperature (ค่าเริ่มต้น 1.0, ช่วง 0-2), top_p (ค่าเริ่มต้น 1.0), max_tokens (ค่าเริ่มต้นแตกต่างกันไป ตั้งค่าได้สูงสุด 16384), stop (รายการสตริง), frequency_penalty (ค่าเริ่มต้น 0), presence_penalty (ค่าเริ่มต้น 0), และ logit_bias คุณยังสามารถส่ง user_id เพื่อการตรวจสอบได้ ยังไม่มีการสนับสนุนแบบ native สำหรับ response_format schema; หากคุณต้องการผลลัพธ์ที่มีโครงสร้าง ให้ใช้คำสั่ง prompt โมเดลให้ความสำคัญกับ system messages สำหรับการตั้งค่าบริบท
การย้ายข้อมูลไม่จำเป็นต้องเปลี่ยนแปลงโครงสร้างคำขอนอกเหนือจากการอัปเดต model ID ในการเรียก API ของคุณ ให้แทนที่สตริงโมเดลด้วย "openai/gpt-4o-mini-search-preview-2025-03-11" ตรวจสอบให้แน่ใจว่า base URL ของคุณชี้ไปที่ OrcaRouter (https://api.orcarouter.ai/v1) หากคุณยังไม่ได้ใช้ เนื่องจากเป็นรุ่นพรีวิว ให้ทดสอบอย่างละเอียด: การตอบสนองอาจแตกต่างในรูปแบบหรือความแม่นยำ คุณสามารถสลับระหว่างโมเดลในแอปพลิเคชันของคุณโดยการจัดเก็บ model ID ในการตั้งค่า จัดการประสิทธิภาพและค่าใช้จ่ายเพื่อให้แน่ใจว่ารุ่นพรีวิวตรงตามความต้องการของคุณก่อนนำไปใช้เต็มรูปแบบ
ทั้งสองรุ่นมีสถาปัตยกรรมพื้นฐานและราคาเดียวกัน GPT-4o-mini รุ่นมาตรฐานเป็นโมเดลเอนกประสงค์ที่ไม่มีการปรับแต่งการค้นหาเฉพาะ รุ่นพรีวิวได้รับการออกแบบมาเพื่อปรับปรุงประสิทธิภาพในงานที่เกี่ยวข้องกับการดึงและสังเคราะห์ข้อมูลจากบริบทข้อความขนาดใหญ่ เช่น การวิเคราะห์ผลการค้นหา ในทางปฏิบัติ รุ่นพรีวิวอาจจัดการกับพรอมต์ยาวที่มีข้อเท็จจริงมากมายได้แม่นยำกว่า ในขณะที่รุ่นมาตรฐานอาจเหมาะกว่าสำหรับการสนทนาแบบปลายเปิด การเขียนเชิงสร้างสรรค์ หรืองานที่ไม่จำเป็นต้องมีพฤติกรรมการค้นหา หากแอปพลิเคชันของคุณทำงานกับ GPT-4o-mini รุ่นมาตรฐานอยู่แล้ว การทดสอบรุ่นพรีวิวมีความเสี่ยงต่ำเนื่องจาก API ที่เหมือนกัน
GPT-4o คือโมเดลมัลติโมดัลเรือธงของ OpenAI ที่มีความสามารถในการใช้เหตุผลสูงกว่า เข้าใจภาพ และมีหน้าต่างบริบทที่ใหญ่กว่า (128k โทเคนเช่นกัน) อย่างไรก็ตาม มันมีราคาแพงกว่าอย่างมาก ($2.50/$10 ต่อล้านโทเคน) และช้ากว่า ตัวอย่างการค้นหาของ GPT-4o-mini ยอมลดความลึกในการใช้เหตุผลบางส่วนเพื่อความเร็วและต้นทุน สำหรับงานที่ใช้ข้อความล้วนและไม่ต้องการการให้เหตุผลหลายขั้นตอนที่ซับซ้อน ตัวอย่างนี้อาจเพียงพอในราคาเพียงเศษเสี้ยว สำหรับงานที่ต้องการอินพุตแบบมัลติโมดัลหรือความแม่นยำสูงกว่า GPT-4o ยังคงเหนือกว่า
Claude 3 Haiku (Anthropic) และ Gemini 1.5 Flash (Google) ก็เป็นโมเดลที่เร็ว ราคาถูก และมีบริบทขนาดใหญ่เช่นกัน Haiku มีบริบท 200k โทเคน ส่วน Flash สูงถึง 1M ราคาแตกต่างกันไป การแสดงตัวอย่างการค้นหาของ GPT-4o-mini มีเอกลักษณ์เพราะเป็นการแสดงตัวอย่างของรุ่นที่ปรับแต่งสำหรับการค้นหาจาก OpenAI หากไม่มีการเปรียบเทียบเกณฑ์มาตรฐานโดยตรง ก็ยากที่จะบอกว่าอันไหนดีที่สุด ทั้งสามโมเดลนั้นยอดเยี่ยมสำหรับงานการดึงข้อมูล การเลือกอาจขึ้นอยู่กับความเข้ากันได้ของระบบนิเวศ รูปแบบ prompt และประสิทธิภาพเฉพาะกับข้อมูลของคุณ OrcaRouter ให้การเข้าถึงแบบรวมศูนย์ไปยังทั้งหมดนี้ ทำให้สามารถทดสอบ A/B ได้ง่าย
เลือกโมเดลนี้หากความต้องการหลักของคุณคือประสิทธิภาพด้านต้นทุน เวลาตอบสนองที่รวดเร็ว และคุณกำลังทำงานกับอินพุตที่เป็นข้อความเท่านั้นที่ไม่ต้องการการให้เหตุผลขั้นสูง โมเดลนี้เหมาะสำหรับแอปพลิเคชันที่มีปริมาณงานสูง ซึ่งบริบทของแต่ละคำขอมีขนาดใหญ่ (เช่น การประมวลผลเอกสารยาวๆ) แต่ผลลัพธ์ค่อนข้างสั้น หากคุณต้องการความแม่นยำที่ดีที่สุด โดยเฉพาะกับคำถามที่คลุมเครือหรือซับซ้อน หรือหากคุณต้องการประมวลผลรูปภาพ GPT-4o เป็นตัวเลือกที่ดีกว่า โมเดลพรีวิวยังเหมาะสำหรับการสร้างต้นแบบและการทดสอบก่อนที่จะตัดสินใจใช้โมเดลที่มีต้นทุนสูงกว่า
เข้ากันได้กับ OpenAI — ใช้ SDK เดิมของคุณได้เลย
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini-search-preview-2025-03-11",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatstreamstructured_outputsweb_search_options| อินพุต / 1M โทเค็น | $0.150 |
| เอาต์พุต / 1M โทเค็น | $0.600 |
| สกุลเงิน | USD |
ประมาณการจากราคาตั้ง
เป็นเพียงการประเมิน — จำนวน token จริงขึ้นอยู่กับ tokenizer ของผู้ให้บริการ
GET /api/public/models/openai/gpt-4o-mini-search-preview-2025-03-11เปิด @misc{orcarouter_gpt_4o_mini_search_preview_2025_03_11,
title = {openai/gpt-4o-mini-search-preview-2025-03-11 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11}
}openai. (n.d.). openai/gpt-4o-mini-search-preview-2025-03-11 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11