โมเดลการฝังข้อความที่คุ้มค่าจาก OpenAI เหมาะสำหรับการค้นหาเชิงความหมายและการจัดกลุ่ม เข้าถึงผ่าน OrcaRouter โดยไม่มีส่วนเพิ่ม
openai/text-embedding-3-small คือโมเดล embedding ที่เปิดตัวโดย OpenAI ในเดือนมกราคม 2024 โมเดลนี้สร้างการแสดงข้อความในรูปแบบเวกเตอร์ที่จับความหมายเชิงความหมาย…
โมเดลนี้ทำงานได้ดีในงานที่ต้องการจับความหมายโดยรวมมากกว่ารายละเอียดปลีกย่อย มีการใช้อย่างแพร่หลายในการค้นหาเชิงความหมาย (semantic search) ซึ่งคำค้นหาจะถูกแปลงเป็น embeddings และจับคู่กับคลังของ document embeddings นอกจากนี้ยังทำงานได้ดีในการจัดกลุ่ม (clustering)—การจัดกลุ่มข้อความที่คล้ายกันโดยไม่ต้องมีป้ายกำกับ—และการจำแนกประเภท (classification) เมื่อ embeddings ถูกป้อนเข้าไปในตัวจำแนกเชิงเส้น (linear classifier) ในไปป์ไลน์การสร้างเสริมด้วยการดึงข้อมูล (retrieval-augmented generation: RAG) โมเดลนี้จะเข้ารหัสทั้งคำค้นหาและเอกสารอย่างมีประสิทธิภาพ ช่วยให้สามารถดึงข้อมูลตามความคล้ายคลึงได้อย่างรวดเร็ว ด้วยบริบท 8,192 โทเค็น ทำให้สามารถประมวลผลข้อความยาวๆ เช่น บทคัดย่องานวิจัยหรือความคิดเห็นของลูกค้าได้ในการเรียก embedding เพียงครั้งเดียว
หากกรณีการใช้งานของคุณเกี่ยวข้องกับข้อความที่สั้นมาก (เช่น คำหรือวลีเดี่ยวๆ) หรือคุณให้ความสำคัญกับความเร็วมากกว่าความแม่นยำ คุณอาจพิจารณาโมเดลที่เบากว่าจากผู้ให้บริการอื่นที่มีใน OrcaRouter เช่น โมเดลที่มีมิติข้อมูลต่ำกว่าหรือที่เชี่ยวชาญเฉพาะภาษา นอกจากนี้ หากงานของคุณหยาบมาก—เช่น แยกแยะเฉพาะระหว่างหมวดหมู่กว้างๆ ไม่กี่หมวด—โมเดลที่เรียบง่ายกว่าก็อาจเพียงพอ อย่างไรก็ตาม openai/text-embedding-3-small เป็นหนึ่งในตัวเลือกที่คุ้มค่าที่สุดจาก OpenAI อยู่แล้ว สำหรับแอปพลิเคชันที่คุณภาพของ embedding ส่งผลโดยตรงต่อประสิทธิภาพปลายทาง (เช่น การจัดอันดับสำหรับการค้นหา) ต้นทุนที่เพิ่มขึ้นเล็กน้อยมักจะคุ้มค่ากับผลลัพธ์ที่ดีกว่าเมื่อเทียบกับทางเลือกฟรี
text-embedding-3-small ของ OpenAI แสดงให้เห็นถึงความสามารถข้ามภาษาที่แข็งแกร่ง โดยมีประสิทธิภาพดีในการวัดมาตรฐานหลายภาษา เช่น ชุดย่อยหลายภาษาของ MTEB โมเดลนี้สามารถฝังข้อความในหลายสิบภาษาและสร้างเวกเตอร์ที่เทียบเคียงได้สำหรับเนื้อหาที่คล้ายคลึงกันข้ามภาษา ทำให้มีประโยชน์สำหรับแอปพลิเคชันระดับโลก เช่น การแนะนำผลิตภัณฑ์ระหว่างประเทศ หรือการจัดเส้นทางตั๋วสนับสนุนหลายภาษา อย่างไรก็ตาม สำหรับโดเมนเฉพาะทาง (เช่น กฎหมาย การแพทย์ โค้ด) โมเดลการฝังที่ปรับให้เข้ากับโดเมนนั้นอาจให้ความแม่นยำสูงกว่า หากข้อมูลของคุณเป็นเทคนิคสูง คุณอาจต้องการเปรียบเทียบโมเดลนี้กับทางเลือกอื่นเพื่อให้มั่นใจถึงประสิทธิภาพที่ดีที่สุด
จากผลลัพธ์ที่เปิดเผยต่อสาธารณะ openai/text-embedding-3-small ทำคะแนนเฉลี่ยประมาณ 62% บนเกณฑ์มาตรฐาน MTEB (Massive Text Embedding Benchmark) ซึ่งสะท้อนถึงประสิทธิภาพที่แข็งแกร่งในงานที่หลากหลาย รวมถึงการจำแนกประเภท การจัดกลุ่ม การจำแนกคู่ และการจัดอันดับใหม่ แม้ว่าจะตามหลัง text-embedding-3-large ที่ใหญ่กว่า (ซึ่งได้คะแนนประมาณ 65%) แต่ราคาต่อโทเค็นของมันประมาณหนึ่งในสิบของรุ่นใหญ่ ประสิทธิภาพของโมเดลนั้นแข็งแกร่งเป็นพิเศษในงานจัดกลุ่มและความคล้ายคลึงทางความหมาย สำหรับงานที่ต้องการความแม่นยำสูงใน STS (Semantic Textual Similarity) โมเดลขนาดเล็กยังคงทำงานได้อย่างแข่งขันได้
เวลาแฝงสำหรับคำขอ embedding ขึ้นอยู่กับความยาวของอินพุตและโหลดพร้อมกัน บน OrcaRouter โมเดลให้บริการผ่านโครงสร้างพื้นฐานของ OpenAI ดังนั้นเวลาแฝงทั่วไปจึงเทียบได้กับการเรียก OpenAI API โดยตรง สำหรับคำขอเดี่ยวที่มีความยาวเฉลี่ย (100-200 โทเคน) เวลาตอบสนองโดยทั่วไปต่ำกว่า 200ms ปริมาณงานสามารถเพิ่มได้โดยการรวมข้อความหลายรายการในการเรียก API ครั้งเดียว โมเดลรองรับการประมวลผลแบบรวมกลุ่ม และ OrcaRouter ส่งพารามิเตอร์การรวมกลุ่มเดียวกันกับ OpenAI API สำหรับงานที่มีปริมาณสูง ต้นทุนต่ำต่อโทเคนทำให้สามารถ embedding หลายล้านรายการได้โดยไม่เกินงบประมาณ
แม้จะมีจุดแข็ง แต่ openai/text-embedding-3-small ก็มีข้อจำกัด เวกเตอร์เริ่มต้น 512 มิติอาจสูญเสียความละเอียดอ่อนบางอย่างเมื่อเทียบกับรุ่นใหญ่ 1,536 มิติ โดยเฉพาะอย่างยิ่งสำหรับความแตกต่างทางความหมายในระดับละเอียด ประสิทธิภาพของโมเดลในงานที่ต้องการความรู้เชิงลึกเฉพาะโดเมนหรือการจัดการเอกสารที่ยาวมาก (ใกล้ 8,192 โทเคน) อาจลดลงหากข้อความมีสัญญาณรบกวนหรือมีโครงสร้างไม่ดี นอกจากนี้ เนื่องจากเป็นโมเดลเอนกประสงค์ อาจทำงานได้ไม่ดีเท่าในงานเฉพาะทาง เช่น การค้นหาโค้ดหรือการสกัดแนวคิดชีวการแพทย์ เมื่อเทียบกับโมเดลเฉพาะทาง OrcaRouter ให้การเข้าถึงโมเดลอื่นๆ สำหรับความต้องการเฉพาะเหล่านั้น
openai/text-embedding-3-small มีราคาอยู่ที่ $0.02 ต่อหนึ่งล้าน input tokens และ $0.02 ต่อหนึ่งล้าน output tokens เนื่องจากโมเดลสร้าง embeddings เท่านั้น (output tokens คือการแสดงผลในรูปแบบเวกเตอร์ ไม่ใช่ข้อความ) จำนวน output tokens จึงเป็นสัดส่วนกับ input ในทางปฏิบัติ คุณจะถูกเรียกเก็บเงินทั้ง input และ output tokens ในอัตราเดียวกัน OrcaRouter ส่งต่ออัตราของผู้ให้บริการโดยตรงโดยไม่มีการบวกเพิ่ม ดังนั้นต้นทุนรวมจึงเท่ากับ $0.02 ต่อหนึ่งล้าน input tokens และ $0.02 ต่อหนึ่งล้าน output tokens ไม่มีค่าธรรมเนียมแพลตฟอร์มเพิ่มเติมหรือค่าใช้จ่ายแอบแฝง ทำให้โมเดลนี้เป็นหนึ่งในตัวเลือกที่คุ้มค่าที่สุดสำหรับการทำ embedding ข้อความในระดับใหญ่
เมื่อเปรียบเทียบกับ text-embedding-3-large ของ OpenAI ($0.13 ต่อ 1M input tokens) โมเดลขนาดเล็กมีราคาถูกกว่า 6.5 เท่า สำหรับหลายๆ แอปพลิเคชัน การลดลงของประสิทธิภาพนั้นเล็กน้อย ทำให้โมเดลขนาดเล็กคุ้มค่ากว่า เมื่อเทียบกับ ada-002 รุ่นเก่า (ซึ่งถูกยกเลิกไปแล้ว) โมเดลขนาดเล็กมีราคาถูกกว่าและมีความสามารถมากกว่า บน OrcaRouter คุณยังสามารถค้นหาโมเดล embedding จากบุคคลที่สามที่มีราคาถูกกว่า; อย่างไรก็ตาม โมเดลเหล่านี้อาจไม่มีคุณภาพหรือความเข้ากันได้กับระบบนิเวศของ OpenAI เหมือนกัน โมเดล zero-markup จาก OrcaRouter ทำให้แน่ใจว่าคุณจ่ายเฉพาะสิ่งที่คุณจ่ายโดยตรง โดยไม่มีค่าธรรมเนียมเพิ่มเติม
OrcaRouter อาจใช้กลไกการแคชเพื่อลดการเรียก API ที่ซ้ำซ้อน หากคุณส่งข้อความอินพุตเดียวกันหลายครั้ง แพลตฟอร์มอาจส่งคืน embeddings ที่ถูกแคชโดยไม่คิดค่าใช้จ่ายโทเค็นเพิ่มเติม อย่างไรก็ตาม นโยบายการแคชไม่ได้ระบุไว้อย่างชัดเจนในข้อมูลที่ให้มา เพื่อลดค่าใช้จ่าย คุณสามารถสร้างเลเยอร์การแคชของตัวเองบนฝั่งไคลเอ็นต์โดยใช้เวกเตอร์ embedding ที่ส่งคืน เนื่องจากค่าใช้จ่ายโทเค็นต่ำอยู่แล้ว การแคชจึงช่วยประหยัดได้เพียงเล็กน้อย เว้นแต่คุณมีคิวรีที่ซ้ำกันมาก ติดต่อฝ่ายสนับสนุน OrcaRouter เพื่อขอรายละเอียดเกี่ยวกับพฤติกรรมการแคชฝั่งเซิร์ฟเวอร์
เพื่อใช้งาน openai/text-embedding-3-small ผ่าน OrcaRouter ให้ตั้งค่า base URL เป็น https://api.orcarouter.ai/v1 และระบุ model ID เป็น 'openai/text-embedding-3-small' API นี้ทำงานร่วมกับปลายทาง embedding ของ OpenAI ได้อย่างสมบูรณ์ ดังนั้นคุณสามารถใช้ OpenAI Python library หรือ HTTP client ใดๆ ก็ได้ในรูปแบบคำขอเดียวกัน เช่น ใน Python: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here') การตอบกลับประกอบด้วยเวกเตอร์ embedding และรายละเอียดการใช้งาน
API รองรับพารามิเตอร์เช่นเดียวกับ endpoint embedding ของ OpenAI ข้อบังคับ: ตั้งค่า 'model' เป็น 'openai/text-embedding-3-small' และ 'input' (สตริงหรืออาร์เรย์ของสตริง) ไม่บังคับ: 'dimensions' (จำนวนเต็ม 128 ถึง 512 ค่าเริ่มต้น 512) เพื่อลดขนาดเวกเตอร์เอาต์พุต ขนาดที่เล็กกว่าช่วยให้การประมวลผลปลายทางเร็วขึ้นและลดพื้นที่จัดเก็บ ในขณะที่ยังคงข้อมูลความหมายส่วนใหญ่ไว้ พารามิเตอร์ 'user' สามารถใช้สำหรับการจำกัดอัตราการร้องขอต่อลูกค้า OrcaRouter ยังยอมรับส่วนหัวมาตรฐานเช่น Authorization และ Content-Type สำหรับคำขอแบบแบตช์ ให้ส่งอาร์เรย์ของสตริงเป็น input API จะคืนค่ารายการ embedding ในลำดับที่สอดคล้องกัน
หากคุณกำลังใช้ API embedding ของ OpenAI อยู่ การย้ายไปใช้ OrcaRouter นั้นทำได้ง่าย เพียงเปลี่ยน base URL จาก https://api.openai.com/v1 เป็น https://api.orcarouter.ai/v1 และอัปเดตชื่อโมเดลเป็น 'openai/text-embedding-3-small' ไม่จำเป็นต้องเปลี่ยนแปลงโค้ดอื่นใด ไลบรารีไคลเอนต์ที่คุณมีอยู่ (Python, Node.js, curl ฯลฯ) จะทำงานเหมือนเดิม OrcaRouter รองรับวิธีการตรวจสอบสิทธิ์แบบเดียวกันโดยใช้ API key การเปลี่ยนนี้ช่วยให้คุณได้รับประโยชน์จากราคาที่ไม่มีส่วนเพิ่ม (zero-markup pricing) โดยไม่ต้องปรับเปลี่ยนไปป์ไลน์ embedding ของคุณ ตรวจสอบให้แน่ใจว่า key ของคุณมีสิทธิ์เข้าถึงโมเดลบน OrcaRouter
ความแตกต่างหลักคือ ขนาด ต้นทุน และประสิทธิภาพ text-embedding-3-large ให้เอาต์พุต 1,536 มิติ (ค่าเริ่มต้น) เทียบกับ 512 มิติสำหรับรุ่นเล็ก และมีค่าใช้จ่าย $0.13 ต่อ 1M อินพุตโทเคน ซึ่งแพงกว่า 6.5 เท่า ในการวัดประสิทธิภาพบน MTEB รุ่นใหญ่ได้คะแนนประมาณ 65% รุ่นเล็กประมาณ 62% สำหรับแอปพลิเคชันส่วนใหญ่ รุ่นเล็กให้อัตราส่วนความคุ้มค่าต่อต้นทุนที่ดีกว่า รุ่นใหญ่อาจเหมาะเมื่อต้องการความแม่นยำสูงสุดเท่าที่เป็นไปได้สำหรับงานต่างๆ เช่น การค้นหาความคล้ายคลึงกันแบบละเอียด หรือเมื่อไม่สามารถทนต่อการตกของค่า Recall ได้เลย OrcaRouter มีทั้งสองรุ่น คุณจึงสามารถทดสอบทั้งสองแบบกับข้อมูลของคุณเองได้
โมเดล embedding ก่อนหน้าของ OpenAI คือ text-embedding-ada-002 ตอนนี้ถูกเลิกใช้งานแล้ว และไม่สามารถใช้งานผ่านช่องทางทางการอีกต่อไป เมื่อเทียบกับ ada-002 แล้ว text-embedding-3-small มีประสิทธิภาพเฉลี่ยที่ดีกว่าใน MTEB (62% เทียบกับ ~61%) รองรับบริบทที่ใหญ่กว่า (8,192 เทียบกับ 2,048 โทเค็น) และมีต้นทุนที่ต่ำกว่าอย่างมาก ($0.02 เทียบกับ $0.10 ต่อ 1 ล้านอินพุตโทเค็น) ตามราคาปัจจุบัน โมเดลใหม่ยังแนะนำพารามิเตอร์ dimensions ซึ่งช่วยให้สามารถปรับต้นทุนและการจัดเก็บข้อมูลให้เหมาะสมยิ่งขึ้น หากคุณมีเวิร์กโฟลว์ที่ยังใช้ ada-002 อยู่ คุณควรย้ายไปใช้ text-embedding-3-small เพื่อคุณภาพที่ดีขึ้นและต้นทุนที่ต่ำลง
ภาษาไทยที่สละสลวยOrcaRouter โฮสต์โมเดล embedding จากผู้ให้บริการหลายราย ซึ่งมีความแตกต่างกันในด้านราคา มิติ และคุณภาพ ตัวอย่างเช่น บางโมเดลเสนอระดับฟรีหรือต้นทุนต่อโทเค็นที่ต่ำกว่า อย่างไรก็ตาม โมเดลเหล่านั้นมักมีหน้าต่างบริบทที่เล็กกว่า (เช่น 512 โทเค็น) หรือคะแนนมาตรฐานที่ต่ำกว่า openai/text-embedding-3-small สร้างสมดุลระหว่างต้นทุน ความยาวบริบท และคุณภาพ หากข้อมูลของคุณมีความเฉพาะด้านสูง โมเดลที่ออกแบบเฉพาะ (เช่น สำหรับโค้ดหรือกฎหมาย) อาจทำงานได้ดีกว่า แคตตาล็อกของ OrcaRouter ช่วยให้คุณเปรียบเทียบประสิทธิภาพและราคาได้ โมเดล small เป็นค่าเริ่มต้นที่เชื่อถือได้สำหรับงานทั่วไปทั้งภาษาอังกฤษและหลายภาษา
โมเดล embedding แบบโอเพนซอร์ส (เช่นจาก Hugging Face) สามารถโฮสต์ด้วยตนเองได้ ซึ่งอาจช่วยลดต้นทุนเมื่อมีปริมาณการใช้งานสูงมาก อย่างไรก็ตาม จำเป็นต้องมีโครงสร้างพื้นฐาน การบำรุงรักษา และความเชี่ยวชาญเพื่อให้ได้ค่า latency และความน่าเชื่อถือที่เทียบเท่ากับ API ของ OpenAI openai/text-embedding-3-small ที่เข้าถึงผ่าน OrcaRouter นั้นไม่มีค่าใช้จ่ายด้านโครงสร้างพื้นฐาน มี uptime ที่สม่ำเสมอ และเข้ากันได้กับระบบนิเวศของ OpenAI สำหรับปริมาณงานขนาดเล็กถึงกลาง การใช้ API ที่จัดการให้มักจะประหยัดกว่าเมื่อรวมเวลาทางวิศวกรรมเข้าไปด้วย สำหรับการปรับใช้ขนาดใหญ่มาก (embeddings หลายพันล้านรายการ) โมเดลที่โฮสต์ด้วยตนเองอาจมีต้นทุนถูกกว่า แม้ว่าจะไม่รับประกันความเท่าเทียมกันของคุณภาพ
เข้ากันได้กับ OpenAI — ใช้ SDK เดิมของคุณได้เลย
https://api.orcarouter.ai/v1dimensionsencoding_format| อินพุต / 1M โทเค็น | $0.020 |
|---|---|
| เอาต์พุต / 1M โทเค็น | $0.020 |
| สกุลเงิน | USD |
ประมาณการจากราคาตั้ง
เป็นเพียงการประเมิน — จำนวน token จริงขึ้นอยู่กับ tokenizer ของผู้ให้บริการ
เปรียบเทียบค่าใช้จ่ายรายเดือนของโมเดลต่าง ๆ ในเครื่องคำนวณค่าใช้จ่าย LLM
สิ่งที่นักพัฒนาพูดถึงในสัปดาห์นี้
GET /api/public/models/openai/text-embedding-3-smallเปิด @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small