OpenAI GPT-4-0613: 8K บริบท, 13.1 AA Coding, โมเดลข้อความเท่านั้น ในราคา $30/$60 ต่อ 1M โทเค็น
OpenAI GPT-4-0613 เป็น checkpoint เฉพาะของโมเดลภาษาขนาดใหญ่ GPT-4 ที่เปิดตัวโดย OpenAI ในเดือนมิถุนายน 2023 โดยทำงานกับอินพุตที่เป็นข้อความเท่านั้นและสร้างเอาต์พุตที่เป็นข้อความ โมเดลรองรับ context…
GPT-4-0613 โดดเด่นในงานที่ต้องใช้การให้เหตุผลเชิงลึก การสร้างภาษาที่แม่นยำ และการปฏิบัติตามคำแนะนำที่ซับซ้อน กรณีการใช้งานทั่วไป ได้แก่ การสร้างและตรวจสอบโค้ดในภาษา เช่น Python, JavaScript และ C++ รวมถึงการแก้ไขข้อบกพร่องในโค้ดเบสที่มีอยู่ สามารถวิเคราะห์และสรุปคลังข้อความขนาดใหญ่ จัดทำรายงานที่มีโครงสร้าง และร่างเอกสารทางเทคนิคหรือกฎหมายโดยละเอียด โมเดลนี้ยังมีประสิทธิภาพในการแบ่งปัญหาที่มีหลายขั้นตอนออกเป็นลำดับขั้นตอนที่ชัดเจน ทำให้มีประโยชน์สำหรับการวางแผนและการแก้ปัญหา แม้ว่าจะทำงานเป็นหลักในภาษาอังกฤษ แต่ก็สามารถรองรับภาษาอื่นๆ ได้หลายภาษาด้วยความน่าเชื่อถือที่แตกต่างกัน สำหรับงานที่ไม่ต้องการความซับซ้อนในระดับนี้ โมเดลขนาดเล็กหรือราคาถูกกว่าอาจเป็นทางเลือกที่คุ้มค่ากว่า
GPT-4-0613 เป็นโมเดลพรีเมียมที่มีต้นทุนต่อโทเคนสูงกว่า จึงไม่เหมาะสำหรับงานที่มีปริมาณมากแต่ความซับซ้อนต่ำ เช่น การจำแนกข้อความอย่างง่าย การสนทนาพื้นฐาน หรือการแปลตรงไปตรงมา สำหรับภาระงานดังกล่าว โมเดลอย่าง GPT-3.5 Turbo ของ OpenAI หรือทางเลือกที่มีน้ำหนักเบาอื่นๆ อาจให้ประสิทธิภาพที่เพียงพอในราคาที่ต่ำกว่า นอกจากนี้ หากแอปพลิเคชันของคุณไม่จำเป็นต้องใช้หน้าต่างบริบทขนาด 8192 โทเคนเต็ม หรือไม่ค่อยต้องการความยาวเอาต์พุตสูงสุด โมเดลที่ถูกกว่าซึ่งมีบริบทเล็กกว่าอาจเหมาะสมกว่า ควรประเมินการแลกเปลี่ยนระหว่างคุณภาพเอาต์พุตและต้นทุนสำหรับกรณีการใช้งานเฉพาะของคุณเสมอ เพื่อพิจารณาว่า GPT-4-0613 คุ้มค่าหรือไม่
GPT-4-0613 ได้รับการฝึกฝนด้วยภาษาอังกฤษเป็นหลัก แต่มีความสามารถในการใช้งานภาษาอื่นๆ อีกมากมาย รวมถึงภาษาฝรั่งเศส สเปน เยอรมัน จีน และอาหรับ ประสิทธิภาพในภาษาที่ไม่ใช่ภาษาอังกฤษโดยทั่วไปนั้นแข็งแกร่งสำหรับงานที่มีโครงสร้าง เช่น การแปล การสรุปความ และการตอบคำถาม แต่อาจมีความแม่นยำต่ำกว่าและใช้สำนวนภาษาที่เป็นธรรมชาติไม่เท่ากับภาษาอังกฤษ จุดแข็งของโมเดลด้านการใช้เหตุผลและการทำตามคำแนะนำสามารถขยายไปสู่บริบทหลายภาษาได้ แต่ผู้ใช้ควรทดสอบในสถานการณ์เฉพาะที่ไม่ใช่ภาษาอังกฤษเพื่อยืนยันความเหมาะสม สำหรับแอปพลิเคชันที่ต้องการความแม่นยำสูงในภาษาที่ไม่ใช่ภาษาอังกฤษ ควรพิจารณาเสริมด้วยโมเดลเฉพาะภาษาหรือการตรวจสอบเพิ่มเติม
GPT-4-0613 เคารพข้อความระบบและคำแนะนำของผู้ใช้ ทำให้เหมาะสำหรับแอปพลิเคชันที่ต้องการการยึดมั่นในรูปแบบ โทนเสียง หรือโครงสร้างอย่างเคร่งครัด สามารถสร้างผลลัพธ์ในรูปแบบ JSON, markdown หรือรูปแบบอื่นๆ ที่ระบุ และสามารถปฏิบัติตามคำแนะนำแบบหลายขั้นตอนโดยคงบริบทไว้ โมเดลนี้มีความน่าเชื่อถือเป็นพิเศษสำหรับงานที่ต้องใช้การให้เหตุผลแบบทีละขั้นตอนหรือการกระตุ้นให้คิดเป็นลำดับ อย่างไรก็ตาม เช่นเดียวกับโมเดลขนาดใหญ่อื่นๆ บางครั้งอาจตีความคำแนะนำที่คลุมเครือไม่ถูกต้อง หรือสร้างผลลัพธ์ที่เบี่ยงเบนไปจากรูปแบบที่ต้องการ แนะนำให้ให้คำแนะนำที่ชัดเจนและเจาะจง และหากเป็นไปได้ ให้รวมตัวอย่างเพื่อแนะนำพฤติกรรมของโมเดล
คะแนนเกณฑ์มาตรฐาน AA Coding ที่ 13.1 สำหรับ GPT-4-0613 บ่งบอกถึงประสิทธิภาพในการประเมินเฉพาะทางด้านการเขียนโค้ด แม้ว่าวิธีการที่แน่ชัดของเกณฑ์มาตรฐานนี้จะไม่ได้ระบุรายละเอียดในข้อเท็จจริงที่ให้มา แต่โดยทั่วไปแล้วคะแนนที่สูงกว่าจะสะท้อนถึงความแม่นยำและความน่าเชื่อถือที่ดีกว่าในการสร้างโค้ด แก้ปัญหาการเขียนโปรแกรม และทำความเข้าใจโครงสร้างโค้ด คะแนนนี้ทำให้ GPT-4-0613 เป็นตัวเลือกที่แข็งแกร่งสำหรับงานเขียนโค้ด เช่น การแก้ไขบั๊ก การใช้งานอัลกอริทึม และการอธิบายโค้ด สิ่งสำคัญที่ควรทราบคือ คะแนนเกณฑ์มาตรฐานเป็นเพียงตัวชี้วัดและอาจไม่สามารถสะท้อนประสิทธิภาพในโลกจริงสำหรับงานเขียนโค้ดที่เฉพาะเจาะจงได้อย่างเต็มที่ ผู้ใช้ควรประเมินโมเดลบนชุดข้อมูลของตนเองเพื่อผลลัพธ์ที่ดีที่สุด
ไม่มีการระบุเวลาแฝง (latency) สำหรับ GPT-4-0613 ในข้อมูลที่ให้ไว้ แต่ในฐานะโมเดลความจุสูง โดยทั่วไปแล้วจะมีเวลาตอบสนองที่สูงกว่าเมื่อเทียบกับโมเดลขนาดเล็กอย่าง GPT-3.5 Turbo หรือ GPT-4o mini ความเร็วในการอนุมานขึ้นอยู่กับปัจจัยต่างๆ เช่น ความยาวของอินพุตและเอาต์พุต ความซับซ้อนของคำขอ และโครงสร้างพื้นฐานที่รองรับ ผ่าน OrcaRouter เวลาแฝงอาจได้รับผลกระทบจากสภาพเครือข่ายและความสามารถในการให้บริการของผู้ให้บริการด้วย สำหรับแอปพลิเคชันแบบเรียลไทม์ที่เวลาแฝงต่ำเป็นสิ่งสำคัญ ควรพิจารณาทดสอบโมเดลภายใต้โหลดที่คาดหวัง และอาจใช้โมเดลที่เร็วกว่าและถูกกว่าในส่วนของเวิร์กโฟลว์ที่มีความต้องการน้อยกว่า
จุดแข็งหลักของ GPT-4-0613 อยู่ที่การให้เหตุผลเชิงตรรกะ ความสามารถในการทำตามคำสั่งหลายขั้นตอนที่ซับซ้อน และความแม่นยำสูงในงานต่างๆ เช่น การสร้างโค้ดและการวิเคราะห์ข้อมูล มันสร้างผลลัพธ์ที่มีโครงสร้างดีและสอดคล้องกันแม้ในคำสั่งยาว ทำให้เหมาะสมสำหรับการร่างเอกสารหรือรายงานที่ครอบคลุม โมเดลแสดงความสม่ำเสมอที่แข็งแกร่งในหลายการโต้ตอบ ซึ่งเป็นประโยชน์สำหรับตัวแทนสนทนาที่ต้องรักษาบริบท คะแนนมาตรฐาน 13.1 ในการวัด AA Coding ตอกย้ำความน่าเชื่อถือสำหรับงานที่เกี่ยวข้องกับการเขียนโปรแกรม คุณสมบัติเหล่านี้ทำให้เป็นตัวเลือกที่ต้องการสำหรับการใช้งานที่ต้องการความแม่นยำและความลึก แม้จะมีต้นทุนที่สูงกว่า
GPT-4-0613 มีข้อจำกัดหลายประการ มันรองรับเฉพาะข้อความเท่านั้น และไม่สามารถประมวลผลรูปภาพ เสียง หรือวิดีโอได้ หน้าต่างบริบท (context window) ของมันถูกจำกัดไว้ที่ 8192 โทเค็น ซึ่งอาจไม่เพียงพอสำหรับเอกสารที่ยาวมากหรือการสนทนาหลายรอบที่มีประวัติที่กว้างขวาง โมเดลนี้บางครั้งอาจสร้างข้อมูลที่ฟังดูน่าเชื่อถือแต่ไม่ถูกต้อง (ภาพหลอน) โดยเฉพาะในหัวข้อที่อยู่นอกข้อมูลการฝึก ราคาของมันค่อนข้างสูงเมื่อเทียบกับทางเลือกอื่น ทำให้ไม่ประหยัดสำหรับแอปพลิเคชันที่มีปริมาณมาก นอกจากนี้ เนื่องจากเป็นภาพรวมจากเดือนมิถุนายน 2023 มันอาจไม่ทราบเหตุการณ์หรือความรู้ที่เกินกว่านั้น ผู้ใช้ควรตรวจสอบผลลัพธ์ที่สำคัญและพิจารณาใช้การสร้างแบบเพิ่มการดึงข้อมูล (retrieval-augmented generation - RAG) เพื่อให้คำตอบยึดโยงกับข้อมูลที่ทันสมัย
GPT-4-0613 มีราคาตามอัตราโดยตรงจากผู้ให้บริการ โดยไม่มีส่วนเพิ่มผ่าน OrcaRouter ราคาอยู่ที่ $30.00 ต่อ 1 ล้าน input tokens และ $60.00 ต่อ 1 ล้าน output tokens Input tokens หมายถึงข้อความทั้งหมดที่ผู้ใช้ส่งในคำขอ รวมถึงข้อความระบบ ประวัติการสนทนา และคำถามปัจจุบันของผู้ใช้ Output tokens คือข้อความที่โมเดลสร้างขึ้นเพื่อตอบกลับ ทั้ง input และ output tokens จะนับรวมในการใช้งานทั้งหมดและคิดค่าบริการตามนั้น ไม่มีค่าธรรมเนียมแพลตฟอร์มเพิ่มเติมนอกเหนือจากอัตราต่อ token ผู้ใช้จะถูกเรียกเก็บเงินตามจำนวน tokens ที่ประมวลผลจริงต่อการเรียก API
เนื่องจากโทเค็นเอาต์พุตมีราคาสูงเป็นสองเท่าของโทเค็นอินพุต ($60 ต่อ 1M โทเค็น เทียบกับ $30 ต่อ 1M โทเค็น) แอปพลิเคชันที่สร้างการตอบกลับยาวอาจมีค่าใช้จ่ายสูงกว่าการตอบกลับสั้นอย่างมาก ตัวอย่างเช่น คำขอที่มีโทเค็นอินพุต 10,000 โทเค็นและเอาต์พุต 2,000 โทเค็นจะมีค่าใช้จ่าย $0.30 สำหรับอินพุตและ $0.12 สำหรับเอาต์พุต รวมเป็น $0.42 หากเอาต์พุตเป็น 8,000 โทเค็น ค่าใช้จ่ายจะเพิ่มขึ้นเป็น $0.30 + $0.48 = $0.78 เพื่อจัดการค่าใช้จ่าย ให้พิจารณาจำกัดพารามิเตอร์ max_tokens ให้มีความยาวขั้นต่ำที่จำเป็นสำหรับกรณีการใช้งานของคุณ นอกจากนี้ การใช้ system prompts ที่สั้นลงและการตัดประวัติการสนทนาจะช่วยลดจำนวนโทเค็นอินพุต
ไม่มีข้อมูลเกี่ยวกับการแคชโทเค็นหรือส่วนลดตามปริมาณในข้อเท็จจริงที่มีให้สำหรับ GPT-4-0613 ผ่าน OrcaRouter ซึ่งหมายความว่าการเรียกใช้แต่ละครั้งจะถูกเรียกเก็บตามโทเค็นจริงที่ประมวลผล โดยไม่มีกลไกการแคชที่กำหนดไว้ล่วงหน้าที่จะลดต้นทุนสำหรับข้อความซ้ำ ผู้ใช้ควรติดต่อ OrcaRouter โดยตรงเพื่อสอบถามเกี่ยวกับคุณสมบัติการแคชหรือข้อตกลงราคาสำหรับองค์กร นอกจากนี้ยังเป็นไปได้ที่ OrcaRouter อาจเสนอตัวเลือกการปรับต้นทุนที่ไม่ได้บันทึกไว้ที่นี่ สำหรับตอนนี้ ให้ดำเนินการภายใต้สมมติฐานว่าโทเค็นทั้งหมดจะถูกเรียกเก็บในอัตราต่อโทเค็นที่ระบุไว้โดยไม่มีส่วนลดพิเศษ
เมื่อใช้ GPT-4-0613 ข้อแลกเปลี่ยนหลักคือระหว่างคุณภาพของผลลัพธ์และต้นทุน สำหรับงานที่ต้องการความแม่นยำสูงและการใช้เหตุผล ราคาระดับพรีเมียมมักจะคุ้มค่า อย่างไรก็ตาม สำหรับงานที่ง่ายหรือการประมวลผลจำนวนมาก ทางเลือกที่ถูกกว่าเช่น GPT-3.5 Turbo หรือ GPT-4o mini สามารถลดต้นทุนได้ถึง 90% นอกจากนี้ควรพิจารณาอัตราส่วนระหว่างอินพุตและเอาต์พุต: หากเวิร์กโฟลว์ของคุณต้องการอินพุตที่ยาวมาก (เช่น เอกสารเต็ม) แต่เอาต์พุตสั้น ต้นทุนอินพุตจะครอบงำ ในทางกลับกัน เอาต์พุตที่ยาวจะเพิ่มต้นทุนเอาต์พุตอย่างรวดเร็ว ประเมินว่าจุดแข็งเฉพาะของโมเดล (เช่น ความแม่นยำในการเขียนโค้ด) จำเป็นสำหรับงานของคุณหรือไม่ และทดสอบกับข้อมูลชุดย่อยก่อนที่จะนำไปใช้ในวงกว้าง
ในการเรียกใช้ GPT-4-0613 ผ่าน OrcaRouter ให้ใช้ปลายทาง API ที่เข้ากันได้กับ OpenAI ที่ base_url https://api.orcarouter.ai/v1 ตั้งค่าพารามิเตอร์ model เป็น "openai/gpt-4-0613" ในคำขอของคุณ คุณจะต้องมีคีย์ API จาก OrcaRouter เพื่อการตรวจสอบสิทธิ์ รูปแบบคำขอเป็นไปตามเอกสารประกอบของ OpenAI สำหรับการสนทนาแบบสมบูรณ์ (chat completions) ซึ่งรองรับพารามิเตอร์ต่างๆ เช่น messages (อาร์เรย์ของข้อความระบบและผู้ใช้), temperature (0 ถึง 2), top_p, max_tokens (สูงสุด 8192), n (จำนวนการตอบกลับ), stop (ลำดับที่ใช้หยุดการสร้าง), และ stream (บูลีนสำหรับการสตรีม) ตัวอย่างการใช้ไลบรารี openai ของ Python: import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "your_orcarouter_key"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Hello"}]).
GPT-4-0613 รองรับพารามิเตอร์การสนทนาแบบสมบูรณ์มาตรฐานของ OpenAI พารามิเตอร์สำคัญได้แก่ temperature (ค่าเริ่มต้น 1) ซึ่งควบคุมความสุ่ม — ค่าที่ต่ำกว่าทำให้ผลลัพธ์มีความแน่นอนมากขึ้น; top_p (ค่าเริ่มต้น 1) สำหรับการสุ่มแบบนิวเคลียส; max_tokens (ค่าเริ่มต้นกำหนดโดยจุดสิ้นสุด, สูงสุด 8192) เพื่อจำกัดความยาวของผลลัพธ์; n (จำนวนการสร้างข้อความสมบูรณ์ต่อคำขอ); และ stop (สตริงที่หยุดการสร้าง) คุณสามารถใช้ presence_penalty และ frequency_penalty เพื่อส่งเสริมหรือลดการซ้ำของหัวข้อ รองรับการสตรีมโดยตั้งค่า stream=True ซึ่งจะให้ผลลัพธ์เป็นโทเค็นแบบเพิ่มทีละส่วน พารามิเตอร์ทั้งหมดทำงานเหมือนกับ API ของ OpenAI เอง ทำให้สามารถย้ายข้อมูลได้อย่างราบรื่น เพื่อผลลัพธ์ที่ดีที่สุด ให้ตั้งค่า max_tokens ไม่เกินที่จำเป็นเพื่อควบคุมค่าใช้จ่าย และใช้ temperature ระหว่าง 0 ถึง 0.5 สำหรับงานที่ต้องการข้อเท็จจริง
การย้ายจาก API โดยตรงของ OpenAI ไปยัง OrcaRouter ต้องเปลี่ยนแปลงเพียงสองจุดในโค้ดของคุณ: อัปเดต base_url เป็น https://api.orcarouter.ai/v1 และเปลี่ยนรหัสโมเดลเป็น "openai/gpt-4-0613" ตรรกะการตรวจสอบสิทธิ์ที่มีอยู่ควรอัปเดตให้ใช้คีย์ API ของ OrcaRouter แทนคีย์ของ OpenAI พารามิเตอร์ที่คุ้นเคยทั้งหมด (messages, temperature, max_tokens ฯลฯ) ยังคงไม่เปลี่ยนแปลง ตัวอย่างเช่น การใช้ไลบรารี openai ของ Python ให้ตั้งค่า openai.api_base = "https://api.orcarouter.ai/v1" และ openai.api_key = "your_orcarouter_key" จากนั้นเรียก openai.ChatCompletion.create(model="openai/gpt-4-0613", ...) API ของ OrcaRouter ออกแบบมาให้ใช้งานแทนที่ได้ทันที ดังนั้นจึงไม่จำเป็นต้องแก้ไขโค้ดเพิ่มเติม ทดสอบด้วยคำขอขนาดเล็กเพื่อยืนยันการเชื่อมต่อและการเรียกเก็บเงิน
ข้อจำกัดอัตราการใช้งานสำหรับ GPT-4-0613 ผ่าน OrcaRouter ไม่ได้ระบุไว้ในข้อมูลที่มีอยู่ การยืนยันตัวตนต้องใช้คีย์ API ที่ OrcaRouter จัดเตรียมให้ ควรรวมคีย์นี้ไว้ในส่วนหัวของคำขอ (เช่น Authorization: Bearer <key>) อัตราการใช้งานที่แน่นอนอาจขึ้นอยู่กับแผน OrcaRouter หรือระดับบัญชีของคุณ สำหรับการใช้งานในระบบผลิต โปรดติดต่อ OrcaRouter เพื่อขอรายละเอียดเกี่ยวกับจำนวนคำขอสูงสุดต่อนาที (RPM) และจำนวนโทเค็นสูงสุดต่อนาที (TPM) ในกรณีที่ไม่มีข้อจำกัดที่ชัดเจน ควรใช้การถอยหลังแบบเอ็กซ์โปเนนเชียล (exponential backoff) เมื่อพบข้อผิดพลาดเกี่ยวกับอัตราการใช้งาน นอกจากนี้ โปรดเก็บคีย์ API ของคุณให้ปลอดภัยและไม่เปิดเผยในโค้ดฝั่งไคลเอ็นต์
GPT-4-0613 เป็นสแนปช็อตที่ใหม่กว่า GPT-4-0314 ซึ่งเผยแพร่ในเดือนมิถุนายน 2023 เทียบกับเดือนมีนาคม 2023 OpenAI ได้ระบุว่าการอัปเดตเดือนมิถุนายนช่วยเพิ่มความน่าเชื่อถือ ลดโอกาสในการสร้างเนื้อหาที่ต้องห้าม และให้การปฏิบัติตามคำแนะนำที่ดีขึ้น ทั้งสองรุ่นมีหน้าต่างบริบทเดียวกัน (8192 โทเค็น) และโครงสร้างราคาเดียวกัน คะแนนมาตรฐาน 13.1 ใน AA Coding เป็นของ GPT-4-0613 โดยเฉพาะ ในขณะที่ GPT-4-0314 อาจมีตัวเลขประสิทธิภาพที่แตกต่างกันเล็กน้อย ในทางปฏิบัติ ผู้ใช้หลายรายรายงานว่า GPT-4-0613 มีความสม่ำเสมอมากขึ้น และมีแนวโน้มที่จะเลี่ยงหรือปฏิเสธคำขอที่ไม่เป็นอันตรายน้อยลง หากคุณกำลังใช้ GPT-4-0314 อยู่ การย้ายไปยัง GPT-4-0613 นั้นตรงไปตรงมาและน่าจะเป็นประโยชน์
GPT-4o เป็นโมเดล multimodal ของ OpenAI ที่สามารถประมวลผลข้อความ รูปภาพ และเสียง และเร็วกว่าและถูกกว่า GPT-4-0613 ราคาของ GPT-4o อยู่ที่ $5 ต่อ 1M input tokens และ $15 ต่อ 1M output tokens ทำให้คุ้มค่ากว่าอย่างเห็นได้ชัด GPT-4-0613 ซึ่งเป็น text-only ไม่สามารถจัดการกับ input ที่ไม่ใช่ข้อความได้ อย่างไรก็ตาม GPT-4-0613 อาจให้การให้เหตุผลที่รอบคอบกว่าเล็กน้อยสำหรับงานที่ซับซ้อนเฉพาะข้อความ เนื่องจากเป็นโมเดลพื้นฐานเดียวกับ GPT-4 แต่ไม่มีการรวม multimodal สำหรับแอปพลิเคชันที่ต้องการความเข้าใจภาพหรือต้องการ latency ต่ำที่สุด GPT-4o มักเป็นตัวเลือกที่ดีกว่า สำหรับงานข้อความล้วนที่ต้องการความแม่นยำสูงสุดและต้นทุนมีความสำคัญน้อยกว่า GPT-4-0613 ยังคงเป็นตัวเลือกที่ใช้งานได้
GPT-3.5 Turbo เป็นทางเลือกที่ถูกกว่าและเร็วกว่า GPT-4-0613 อย่างมีนัยสำคัญ โดยมีราคาประมาณ $3 ต่อ 1M โทเคนอินพุต และ $6 ต่อ 1M โทเคนเอาต์พุต มันถูกปรับให้เหมาะสมสำหรับการสนทนาและคำสั่งง่ายๆ แต่ขาดความลึกในการใช้เหตุผล ความแม่นยำในการเขียนโค้ด และความสามารถในการปฏิบัติตามคำสั่งของ GPT-4-0613 เกณฑ์มาตรฐาน AA Coding และงานที่ต้องใช้เหตุผลที่ซับซ้อนแสดงให้เห็นถึงช่องว่างด้านประสิทธิภาพที่ชัดเจนโดย GPT-4-0613 มีความได้เปรียบ สำหรับแอปพลิเคชันที่มีปริมาณสูงและข้อกำหนดที่ตรงไปตรงมา GPT-3.5 Turbo จะประหยัดกว่า สำหรับการสร้างโค้ดที่สำคัญ การวิเคราะห์หลายขั้นตอน หรืองานภาษาเชิงลึก GPT-4-0613 ให้การปรับปรุงคุณภาพอย่างมากซึ่งสามารถชดเชยต้นทุนที่สูงกว่าได้ พิจารณาใช้ GPT-3.5 Turbo สำหรับงานย่อยที่ง่ายหรือต้องทำซ้ำภายในเวิร์กโฟลว์ขนาดใหญ่เพื่อสร้างสมดุลระหว่างต้นทุนและคุณภาพ
เข้ากันได้กับ OpenAI — ใช้ SDK เดิมของคุณได้เลย
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| อินพุต / 1M โทเค็น | $30.00 |
| เอาต์พุต / 1M โทเค็น | $60.00 |
| สกุลเงิน | USD |
ประมาณการจากราคาตั้ง
เป็นเพียงการประเมิน — จำนวน token จริงขึ้นอยู่กับ tokenizer ของผู้ให้บริการ
GET /api/public/models/openai/gpt-4-0613เปิด @misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613