โมเดลหลักของ OpenAI, GPT-4 เป็นโมเดลภาษาหลายรูปแบบขนาดใหญ่ที่สามารถแก้ปัญหาที่ยากได้อย่างแม่นยำมากกว่าโมเดลก่อนหน้า เนื่องจากมีความรู้ทั่วไปที่กว้างขึ้นและการให้เหตุผลขั้นสูง...
OpenAI GPT-4 เป็นโมเดลภาษาขนาดใหญ่ที่ออกแบบมาสำหรับงานที่ใช้ข้อความ โดยรองรับเฉพาะการป้อนข้อมูลที่เป็นข้อความและสร้างผลลัพธ์เป็นข้อความเท่านั้น โมเดลมีหน้าต่างบริบท (context window) จำนวน 8,191…
GPT-4 แสดงประสิทธิภาพที่แข็งแกร่งในการใช้เหตุผล การเขียนเชิงสร้างสรรค์ การสรุปความ การแปล และการสร้างโค้ด สามารถจัดการคำสั่งที่ซับซ้อนและสร้างคำตอบที่สอดคล้องและมีรายละเอียดในหลากหลายโดเมน ในการวัดประสิทธิภาพ AA Coding benchmark GPT-4 ได้คะแนน 13.1 ซึ่งบ่งชี้ถึงความสามารถในการแก้ปัญหาอย่างมีประสิทธิภาพในงานเขียนโปรแกรม โมเดลนี้ยังเป็นที่รู้จักในด้านความสามารถในการทำตามคำแนะนำที่ละเอียดอ่อนและรักษาความสม่ำเสมอตลอดการสนทนาที่ยาวนาน ทำให้เหมาะสำหรับแอปพลิเคชันเช่นแชทบอท การสร้างเนื้อหา และการช่วยพัฒนาซอฟต์แวร์ อย่างไรก็ตาม มันไม่ได้ถูกปรับให้เหมาะสมสำหรับการสตรีมแบบเรียลไทม์หรือข้อกำหนดที่ต้องการความหน่วงต่ำอย่างมาก
GPT-4 โดดเด่นในงานที่ต้องอาศัยความเข้าใจอย่างลึกซึ้งและการสร้างภาษาธรรมชาติ กรณีการใช้งานทั่วไป ได้แก่ การเขียนเรียงความหรือรายงาน การร่างอีเมล การสร้างและดีบักโค้ดในหลายภาษา การสร้างสรุปเอกสารยาวๆ การตอบคำถามตามบริบทที่ให้มา และการจำลองบทสนทนาของเอเจนต์ GPT-4 ยังสามารถจัดการงานด้านการจำแนก การแยกข้อมูล และการใช้เหตุผลได้อีกด้วย สำหรับงานที่เกี่ยวข้องเฉพาะข้อความและอยู่ภายในหน้าต่างบริบท 8,191 โทเคน GPT-4 จะให้ผลลัพธ์ที่มีคุณภาพสูง แต่ไม่เหมาะสำหรับแอปพลิเคชันแบบเรียลไทม์ที่มีข้อจำกัดด้านเวลาแฝงที่เข้มงวด หรือสำหรับการจัดการบริบทที่มีขนาดใหญ่เกินขีดจำกัดโทเคนของมัน
หากแอปพลิเคชันของคุณต้องการเฉพาะผลลัพธ์ที่สั้นและเรียบง่าย หรือคุณกำลังดำเนินการประมวลผลแบบกลุ่มที่ต้นทุนเป็นปัจจัยหลัก คุณอาจเลือกใช้โมเดลที่ประหยัดกว่าที่มีบน OrcaRouter เช่น GPT-3.5-Turbo ราคาของ GPT-4 ที่ $30 ต่อ 1M input tokens สูงกว่าทางเลือกอื่นๆ อย่างมีนัยสำคัญ สำหรับงานเช่นการจัดประเภทพื้นฐาน การสกัดคีย์เวิร์ด หรือ Q&A ง่ายๆ โมเดลขนาดเล็กสามารถให้ผลลัพธ์ที่เทียบเคียงได้ในต้นทุนที่ต่ำกว่า นอกจากนี้ หากกรณีการใช้งานของคุณไม่ต้องการความลึกในการใช้เหตุผลของ GPT-4 โมเดลที่เบากว่าอาจเพียงพอ OrcaRouter ช่วยให้คุณทดสอบโมเดลหลายตัวและเปรียบเทียบการแลกเปลี่ยนระหว่างต้นทุนและคุณภาพ
ใช่ GPT-4 สามารถสร้างโค้ดในภาษาโปรแกรมต่าง ๆ รวมถึง Python, JavaScript, C++ และอื่น ๆ นอกจากนี้ยังช่วยในการดีบักโดยการวิเคราะห์ข้อความแสดงข้อผิดพลาดหรือชิ้นส่วนโค้ด คะแนน AA Coding ของโมเดลที่ 13.1 สะท้อนถึงความสามารถในการแก้ปัญหาการเขียนโค้ด ตัวอย่างเช่น คุณสามารถให้คำอธิบายปัญหาและได้รับโซลูชันที่ใช้งานได้ หรือขอให้ GPT-4 ตรวจสอบโค้ดที่มีอยู่เพื่อหาจุดบกพร่องหรือประสิทธิภาพที่ไม่ดี อย่างไรก็ตาม ควรตรวจสอบโค้ดที่สร้างขึ้นเสมอเพื่อความถูกต้องและความปลอดภัย เนื่องจากโมเดลอาจสร้างโค้ดที่ดูสมเหตุสมผลแต่มีข้อบกพร่อง
การทดสอบมาตรฐาน AA Coding ประเมินประสิทธิภาพของโมเดลในงานเขียนโปรแกรม ซึ่งโดยทั่วไปเกี่ยวข้องกับการเขียนโค้ดเพื่อแก้ปัญหาทางอัลกอริทึม GPT-4 ทำคะแนนได้ 13.1 ในการทดสอบนี้ ตัวเลขนี้แสดงถึงประสิทธิภาพโดยเฉลี่ยจากชุดความท้าทายด้านการเขียนโค้ด โดยคะแนนที่สูงกว่าบ่งชี้ถึงความแม่นยำและความสมบูรณ์ที่มากขึ้น ในบริบทนี้ ประสิทธิภาพของผู้เชี่ยวชาญมนุษย์ในการทดสอบดังกล่าวมักจะสูงกว่า แต่คะแนนของ GPT-4 ทำให้มันอยู่ในกลุ่มโมเดลชั้นนำสำหรับการสร้างโค้ด การทดสอบนี้เป็นตัวบ่งชี้หนึ่งของความสามารถในการใช้เหตุผลและการแก้ปัญหาของโมเดลในด้านเทคนิค
แม้ว่าจะไม่ได้ระบุตัวเลขเฉพาะที่เหนือกว่า AA Coding ในที่นี้ แต่ GPT-4 เป็นที่รู้จักว่าสามารถให้ผลลัพธ์ที่แข็งแกร่งในเกณฑ์มาตรฐาน NLP หลากหลายประเภท รวมถึงงานด้านความเข้าใจภาษา การแปล และการสรุปความ โดยทั่วไปแล้ว GPT-4 มีประสิทธิภาพเหนือกว่าโมเดลรุ่นก่อนอย่าง GPT-3.5 ในการประเมินส่วนใหญ่ อย่างไรก็ตาม ประสิทธิภาพอาจแตกต่างกันไปตามงานและชุดข้อมูลที่แน่นอน หน้าต่างบริบทขนาด 8,191 โทเค็นของโมเดลช่วยให้ประมวลผลอินพุตที่ค่อนข้างยาวได้ ซึ่งเป็นประโยชน์สำหรับงานที่ต้องใช้การให้เหตุผลในระดับเอกสาร บน OrcaRouter คุณสามารถทดสอบ GPT-4 ด้วยข้อมูลของคุณเองเพื่อประเมินความเหมาะสม
Latency สำหรับ GPT-4 ขึ้นอยู่กับความยาวของ input tokens และ output tokens รวมถึงโหลดโดยรวมของ API โดยทั่วไป GPT-4 จะช้ากว่าโมเดลขนาดเล็กอย่าง GPT-3.5 เนื่องจากมีขนาดใหญ่กว่าและการคำนวณที่ซับซ้อนกว่า สำหรับ prompt สั้น ๆ เวลาตอบสนองอาจเป็นไม่กี่วินาที สำหรับ output ที่ยาว อาจใช้เวลาหลายสิบวินาที OrcaRouter ให้ endpoint API มาตรฐานที่สตรีมการตอบกลับหากคุณตั้งค่า stream=True สำหรับแอปพลิเคชันแบบเรียลไทม์ที่ต้องการความหน่วงต่ำ ควรพิจารณาใช้โมเดลที่เร็วกว่า ตัวเลขความหน่วงที่แน่นอนไม่ได้ถูกเผยแพร่ แต่สามารถประมาณได้ผ่านการทดสอบ
GPT-4 มีข้อจำกัดหลายประการ มันประมวลผลเฉพาะข้อความ ดังนั้นจึงไม่สามารถจัดการภาพหรือเสียงได้โดยตรง หน้าต่างบริบท 8,191 โทเค็นหมายความว่ามันไม่สามารถประมวลผลเอกสารที่ยาวมากในครั้งเดียว โมเดลอาจสร้างข้อมูลที่ดูสมเหตุสมผลแต่ไม่ถูกต้อง (ภาพหลอน) และอาจไวต่อการใช้ถ้อยคำในพรอมพ์ มันไม่มีหน่วยความจำในตัวนอกเหนือจากบริบทการสนทนาปัจจุบัน ราคาค่อนข้างสูงเมื่อเทียบกับโมเดลขนาดเล็ก สุดท้ายนี้ เช่นเดียวกับ LLM ทั้งหมด มันสามารถสร้างเนื้อหาที่ลำเอียงหรือไม่ปลอดภัยหากไม่มีคำแนะนำที่เหมาะสม ใช้การกลั่นกรองและการตรวจสอบที่เหมาะสมในระบบการผลิต
OrcaRouter คิดค่าบริการตามอัตราของผู้ให้บริการสำหรับ GPT-4 โดยไม่มีมาร์กอัปเพิ่มเติม ค่าใช้จ่ายสำหรับ input tokens อยู่ที่ $30.00 ต่อ 1 ล้าน tokens และ output tokens อยู่ที่ $60.00 ต่อ 1 ล้าน tokens ทั้ง input และ output tokens จะถูกคิดค่าใช้จ่ายแยกกัน ซึ่งหมายความว่าค่าใช้จ่ายรวมสำหรับคำขอหนึ่งครั้งคือ (input_tokens * $30/1M) + (output_tokens * $60/1M) ตัวอย่างเช่น คำขอที่มี input tokens 1000 tokens และ output tokens 500 tokens จะมีค่าใช้จ่ายเท่ากับ 0.001 * $30 + 0.0005 * $60 = $0.03 + $0.03 = $0.06 ไม่มีค่าธรรมเนียมเพิ่มเติมจาก OrcaRouter นอกเหนือจากการคิดค่าใช้จ่ายตามการใช้งาน
OrcaRouter อาจเสนอตัวเลือกการแคชสำหรับพรอมต์หรือคำตอบที่ซ้ำกัน ซึ่งสามารถลดต้นทุนได้หากคุณส่งคำขอที่เหมือนกันหลายครั้ง ตรวจสอบเอกสารของ OrcaRouter สำหรับรายละเอียดเกี่ยวกับการแคชและวิธีเปิดใช้งาน สำหรับ GPT-4 เนื่องจากการกำหนดราคาต่อโทเค็นและค่อนข้างสูง การแคชจึงมีประโยชน์สำหรับคำถามแบบคงที่ นอกจากนี้ คุณสามารถควบคุมต้นทุนโดยการจัดการการใช้โทเค็น: ทำให้พรอมต์สั้น ใช้เอาต์พุตที่สั้นลง และตั้งค่า max_tokens อย่างเหมาะสม ไม่มีส่วนลดตามปริมาณบน OrcaRouter สำหรับ GPT-4; ราคาเท่ากันต่อล้านโทเค็น
GPT-4 เป็นหนึ่งในโมเดลที่มีราคาแพงกว่าที่มีให้บริการบน OrcaRouter สำหรับการเปรียบเทียบ GPT-3.5-Turbo มีราคาถูกกว่าอย่างมาก (มักจะน้อยกว่า $1 ต่อ 1 ล้าน tokens ขาเข้า) โมเดลขนาดเล็กจากผู้ให้บริการรายอื่นก็ประหยัดกว่าเช่นกัน หากงานของคุณไม่ต้องการระดับการให้เหตุผลของ GPT-4 การเปลี่ยนไปใช้โมเดลที่ถูกกว่าสามารถประหยัดได้อย่างมาก OrcaRouter ให้คุณทดสอบหลายโมเดลด้วยอินเทอร์เฟซ API เดียวกัน ดังนั้นคุณสามารถประเมินคุณภาพเทียบกับต้นทุน นโยบายไม่มีส่วนเพิ่มหมายความว่าคุณจ่ายเฉพาะอัตราของผู้ให้บริการ ไม่มีค่าพรีเมียมสำหรับการใช้ OrcaRouter
ใช่ OrcaRouter ดำเนินงานบนพื้นฐานการจ่ายตามการใช้งาน คุณจะถูกเรียกเก็บเฉพาะ tokens ที่คุณใช้เท่านั้น ไม่มีข้อผูกมัดล่วงหน้าหรือข้อกำหนดการใช้งานขั้นต่ำ คุณต้องมีเครดิตเพียงพอหรือบัญชีที่มีเงินทุนเพื่อเรียกใช้ API ราคาคิดต่อ 1M tokens ตามที่อธิบายไว้ สำหรับการวางแผนงบประมาณ คุณสามารถประมาณค่าใช้จ่ายตามปริมาณ tokens ที่คาดหวัง OrcaRouter มีการวิเคราะห์การใช้งานในแดชบอร์ด โปรดทราบว่าคำขออาจล้มเหลวหากยอดเงินในบัญชีของคุณไม่เพียงพอ
ในการเรียกใช้ GPT-4 ให้ใช้ API endpoint ที่เข้ากันได้กับ OpenAI ซึ่งให้บริการโดย OrcaRouter: base URL https://api.orcarouter.ai/v1. ตั้งค่า model parameter เป็น "openai/gpt-4". คุณสามารถใช้ OpenAI client library ใดก็ได้โดยการเปลี่ยน base_url. ตัวอย่างการใช้ Python openai package: ```python import openai client = openai.OpenAI(api_key="YOUR_ORCAROUTER_KEY", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4", messages=[{"role": "user", "content": "Hello"}] ) print(response.choices[0].message.content) ``` อย่าลืมแทนที่ YOUR_ORCAROUTER_KEY ด้วย API key จริงของคุณ
คุณสามารถใช้พารามิเตอร์มาตรฐานของการสนทนาสำเร็จรูปของ OpenAI: `messages`, `max_tokens`, `temperature`, `top_p`, `frequency_penalty`, `presence_penalty`, `stop`, `stream`, ฯลฯ `model` ต้องเป็น `"openai/gpt-4"` พารามิเตอร์ `max_tokens` ไม่ควรเกิน 8192 ลบด้วยจำนวนโทเค็นที่ป้อน `temperature` ควบคุมการสุ่ม (0 ถึง 2) การตั้งค่า `stream` เป็น `true` จะเปิดใช้งานการสตรีมแบบทีละโทเค็น พารามิเตอร์ทั้งหมดจะถูกส่งใน JSON body OrcaRouter รองรับโครงสร้างเดียวกับ OpenAI ดูเอกสาร API ของ OpenAI สำหรับคำอธิบายพารามิเตอร์โดยละเอียด
ใช่ หากคุณใช้ไลบรารี OpenAI Python หรือ SDK ใดๆ ที่เข้ากันได้กับ API ของ OpenAI อยู่แล้ว คุณเพียงแค่เปลี่ยน `base_url` เป็น `https://api.orcarouter.ai/v1` และอัปเดตคีย์ API ของคุณ รหัสโมเดลเปลี่ยนจาก "gpt-4" เป็น "openai/gpt-4" ไม่จำเป็นต้องเปลี่ยนแปลงโค้ดอื่นๆ API ของ OrcaRouter ออกแบบมาให้เป็นตัวแทนแบบดรอปอินของ OpenAI API ซึ่งทำให้การย้ายข้อมูลเป็นเรื่องตรงไปตรงมา คุณสามารถทดสอบด้วยคำขอจำนวนน้อยเพื่อตรวจสอบพฤติกรรมก่อนที่จะเปลี่ยนเส้นทางการใช้งานจริง
ใช่ กำหนดพารามิเตอร์ `stream` เป็น `true` ในคำขอ API ของคุณ การตอบสนองจะเป็น iterator ของ chat completion chunks ซึ่งเป็นไปตามรูปแบบสตรีมของ OpenAI วิธีนี้ช่วยให้คุณแสดง tokens เมื่อถูกสร้างขึ้น การสตรีมสามารถช่วยลดความหน่วงที่ผู้ใช้รับรู้ได้ OrcaRouter จัดการการสตรีมโดยตรง เพียงตรวจสอบให้แน่ใจว่าโค้ดฝั่ง client ของคุณจัดการสตรีมอย่างถูกต้อง ตัวอย่างการใช้ไลบรารี OpenAI Python กับ `stream=True` จะให้วัตถุ `Stream`
โดยทั่วไปแล้ว GPT-4 มีความสามารถมากกว่าในด้านการใช้เหตุผล ความคิดสร้างสรรค์ และการทำตามคำแนะนำที่ซับซ้อน เมื่อเทียบกับ GPT-3.5-Turbo ในการวัดประสิทธิภาพเช่น AA Coding, GPT-4 ทำได้ดีกว่า GPT-3.5 (ซึ่งมีคะแนนต่ำกว่า) อย่างไรก็ตาม GPT-4 ก็มีราคาแพงกว่า ($30/$60 ต่อ 1 ล้าน tokens เทียบกับที่ถูกกว่ามากสำหรับ GPT-3.5) GPT-3.5 มีหน้าต่างบริบทที่ใหญ่กว่า (16,384 tokens) เมื่อเทียบกับ 8,191 ของ GPT-4 หากงานของคุณเรียบง่ายหรือคำนึงถึงงบประมาณ GPT-3.5 อาจเพียงพอ สำหรับการเขียนโค้ดที่ซับซ้อน การเขียนแบบยาว หรือการวิเคราะห์ที่ละเอียดอ่อน GPT-4 ให้ผลลัพธ์ที่ดีกว่า ทั้งสองเป็นโมเดลที่รองรับเฉพาะข้อความ ซึ่งมีให้บริการบน OrcaRouter
โมเดล Claude (เช่น Claude 3 Sonnet หรือ Opus) มีหน้าต่างบริบทที่ใหญ่กว่า (สูงสุด 200K โทเคน) และการป้อนข้อมูลแบบหลายรูปแบบในบางเวอร์ชัน GPT-4 เป็นแบบข้อความเท่านั้นและจำกัดไว้ที่ 8,191 โทเคน โมเดล Claude ยังมีราคาที่แตกต่างกัน ในการวัดประสิทธิภาพการให้เหตุผล ทั้งสองตระกูลมีการแข่งขันกัน แต่คะแนน AA Coding ของ GPT-4 ที่ 13.1 อาจสูงหรือต่ำกว่า Claude variants ที่เฉพาะเจาะจง การเลือกระหว่างทั้งสองขึ้นอยู่กับความต้องการเฉพาะของคุณ: Claude สำหรับเอกสารยาวหรือหลายรูปแบบ, GPT-4 สำหรับการสร้างข้อความประสิทธิภาพสูงภายในขีดจำกัดบริบท OrcaRouter รองรับทั้งสองแบบ ดังนั้นคุณสามารถเปรียบเทียบได้โดยตรง
โมเดลโอเพนซอร์สอย่าง Llama 3 (70B) บางครั้งสามารถเทียบชั้น GPT-4 ในงานบางอย่างได้ แต่มักต้องการการโฮสต์ที่ซับซ้อนกว่าและมีข้อแลกเปลี่ยนที่แตกต่างกัน GPT-4 เป็นกรรมสิทธิ์แต่สามารถเข้าถึงได้ผ่าน API ที่เรียบง่ายพร้อมราคาที่คาดเดาได้ Llama 3 อาจมีหน้าต่างบริบทที่ใหญ่กว่าหรือต้นทุนต่อโทเคนที่ต่ำกว่าหากโฮสต์เอง แต่ต้องเสียค่าใช้จ่ายด้านโครงสร้างพื้นฐาน คุณภาพที่สม่ำเสมอของ GPT-4 และราคาที่ไม่มีส่วนเพิ่มผ่าน OrcaRouter ทำให้ใช้งานง่าย สำหรับการปรับแต่งแบบกำหนดเอง โมเดลโอเพนซอร์สให้ความยืดหยุ่นมากกว่า OrcaRouter ยังให้การเข้าถึงโมเดลโอเพนซอร์สบางตัวเพื่อการเปรียบเทียบ
มูลค่าของ GPT-4 ขึ้นอยู่กับกรณีการใช้งานของคุณ หากคุณต้องการการให้เหตุผลระดับสูง การสร้างโค้ด หรือผลลัพธ์ที่สร้างสรรค์ ต้นทุนที่สูงขึ้นอาจคุ้มค่า ในสถานการณ์ที่ความผิดพลาดมีค่าใช้จ่ายสูง (เช่น การร่างเอกสารทางกฎหมาย การดีบักที่ซับซ้อน) ความแม่นยำของ GPT-4 สามารถประหยัดเวลาและเงินได้ สำหรับงานที่ง่ายกว่า โมเดลที่ถูกกว่าเช่น GPT-3.5 ก็ให้ประสิทธิภาพที่เพียงพอในราคาที่ต่ำกว่ามาก OrcaRouter ช่วยให้คุณทดสอบ A/B โมเดลบนข้อมูลของคุณเพื่อวัดความแตกต่างด้านคุณภาพ ท้ายที่สุด การตัดสินใจคือการแลกเปลี่ยนระหว่างต้นทุนและคุณภาพ: ใช้ GPT-4 เมื่อคุณภาพของผลลัพธ์แปลเป็นมูลค่าทางธุรกิจที่จับต้องได้
เข้ากันได้กับ OpenAI — ใช้ SDK เดิมของคุณได้เลย
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyresponse_formatseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| อินพุต / 1M โทเค็น | $30.00 |
| เอาต์พุต / 1M โทเค็น | $60.00 |
| สกุลเงิน | USD |
ประมาณการจากราคาตั้ง
เป็นเพียงการประเมิน — จำนวน token จริงขึ้นอยู่กับ tokenizer ของผู้ให้บริการ
GET /api/public/models/openai/gpt-4เปิด @misc{orcarouter_gpt_4,
title = {GPT-4 API},
author = {OpenAI},
year = {2023},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4}
}OpenAI. (2023). GPT-4 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4