מודל הטבעת טקסט חסכוני מ-OpenAI, אידיאלי לחיפוש סמנטי ולקיבוץ, נגיש דרך OrcaRouter ללא תוספת מחיר.
openai/text-embedding-3-small הוא מודל הטמעה (embedding) ששוחרר על ידי OpenAI בינואר 2024. הוא מייצר ייצוגים וקטוריים של טקסט הלוכדים משמעות סמנטית, ומאפשרים השוואה וחישובי דמיון. המודל מיועד לטקסט…
מודל זה מתפקד היטב במשימות הדורשות תפיסת משמעות כוללת ולא פרטים דקים. הוא נמצא בשימוש נרחב לחיפוש סמנטי, שבו שאילתות מוטמעות ומותאמות מול קורפוס של הטמעות מסמכים. הוא עובד היטב גם לקיבוץ – קיבוץ טקסטים דומים ללא תוויות מפורשות – ולסיווג כאשר ההטמעות מוזנות למסווג ליניארי. בצינורות של יצירה משופרת שליפה (RAG), הוא מקודד ביעילות גם שאילתות וגם מסמכים, ומאפשר שליפה מהירה מבוססת דמיון. הקשר של 8,192 טוקנים מאפשר לו לעבד קטעים ארוכים יותר, כגון תקצירי מחקר או משוב לקוחות, בקריאת הטמעה אחת.
אם מקרה השימוש שלך כולל טקסטים קצרים מאוד (למשל, מילים בודדות או ביטויים) או שאתה נותן עדיפות למהירות על פני דיוק, ייתכן שתרצה לבדוק מודלים קלים עוד יותר מספקים אחרים הזמינים ב-OrcaRouter, כגון אלה בעלי ממדיות נמוכה יותר או מותאמים לשפות ספציפיות. בנוסף, אם המשימה שלך גסה במיוחד—כמו הבחנה רק בין כמה קטגוריות רחבות—ייתכן שמודל פשוט יותר יספיק. עם זאת, openai/text-embedding-3-small הוא כבר אחת מהאפשרויות הזולות ביותר מ-OpenAI. עבור יישומים שבהם איכות ההטבעה משפיעה ישירות על ביצועי ההמשך (למשל, דירוג לחיפוש), העלות הקטנה הנוספת לעיתים קרובות מצדיקה את התוצאות הטובות יותר בהשוואה לחלופות ברמה החינמית.
OpenAI's text-embedding-3-small הפגין יכולות חוצות-שפות חזקות, וביצועים טובים במבחני השוואה רב-לשוניים כגון תתי-הקבוצות הרב-לשוניות של MTEB. הוא יכול להטמיע טקסט בעשרות שפות וליצור וקטורים דומים עבור תוכן דומה בין שפות. זה הופך אותו לשימושי עבור יישומים גלובליים כמו המלצת מוצרים בינלאומית או ניתוב קריאות תמיכה רב-לשוניות. עם זאת, עבור תחומים מיוחדים (למשל, משפטי, רפואי, קוד), מודל הטמעה מותאם-תחום עשוי להניב דיוק גבוה יותר. אם הנתונים שלך טכניים ביותר, ייתכן שתרצה להשוות מודל זה מול חלופות כדי להבטיח ביצועים מיטביים.
על פי תוצאות זמינות לציבור, openai/text-embedding-3-small משיגה ציון ממוצע של כ-62% במדד MTEB (Massive Text Embedding Benchmark). זה משקף ביצועים מוצקים במגוון משימות, כולל סיווג, אשכולות, סיווג זוגות ודירוג מחדש. בעוד שהיא מפגרת אחרי גרסת ה-text-embedding-3-large הגדולה יותר (שמקבלת כ-65%), העלות שלה לטוקן היא בערך עשירית מזו של הגרסה הגדולה. הביצועים של המודל חזקים במיוחד במשימות אשכולות ודמיון סמנטי. עבור משימות הדורשות דיוק גבוה ב-STS (Semantic Textual Similarity), המודל הקטן עדיין מתפקד בצורה תחרותית.
השהייה עבור בקשות הטמעה תלויה באורך הקלט ובעומס המקביל. ב-OrcaRouter, המודל מוגש באמצעות תשתית OpenAI, כך שהשהיות אופייניות דומות לקריאות ישירות ל-API של OpenAI. עבור שאילתה בודדת באורך ממוצע (100-200 טוקנים), זמן התגובה הוא בדרך כלל מתחת ל-200ms. ניתן להגדיל את התפוקה על ידי איגוד טקסטים מרובים בקריאת API אחת. המודל תומך בעיבוד אצווה, ו-OrcaRouter מעביר את אותם פרמטרי אצווה כמו ה-API של OpenAI. עבור עומסי עבודה בנפח גבוה, העלות הנמוכה לטוקן הופכת את ההטמעה של מיליוני רשומות לבת-ביצוע מבלי לשבור תקציבים.
למרות יתרונותיה, ל־openai/text-embedding-3-small יש מגבלות. הווקטור המוגדר כברירת מחדל בגודל 512 עשוי לאבד חלק מהניואנסים בהשוואה לווריאציה הגדולה בגודל 1,536, במיוחד עבור הבחנות סמנטיות דקות. ביצועי המודל במשימות הדורשות ידע מעמיק בתחום או טיפול במסמכים ארוכים מאוד (קרוב ל־8,192 טוקנים) עלולים להתדרדר אם הטקסט רועש או בנוי בצורה לקויה. בנוסף, היותו מודל לשימוש כללי, הוא עלול להפגין ביצועים נמוכים יותר במשימות ייעודיות כמו חיפוש קוד או חילוץ מונחים ביו־רפואיים בהשוואה למודלים ייעודיים. OrcaRouter מספקת גישה למודלים אחרים עבור צרכים ספציפיים אלו.
openai/text-embedding-3-small מתומחר ב-$0.02 למיליון טוקני קלט ו-$0.02 למיליון טוקני פלט. מכיוון שהמודל מייצר רק אמבדינגים (טוקני הפלט הם הייצוג הווקטורי, לא טקסט), כמות טוקני הפלט פרופורציונלית לקלט. בפועל, תחויב גם על טוקני קלט וגם על טוקני פלט באותו תעריף. OrcaRouter מעביר את תעריף הספק המדויק ללא תוספת מחיר, כך שהעלות הכוללת היא בדיוק $0.02 למיליון טוקני קלט ו-$0.02 למיליון טוקני פלט. אין עמלות פלטפורמה נוספות או חיובים נסתרים. דבר זה הופך את המודל לאחת האפשרויות המשתלמות ביותר להטמעת טקסט בקנה מידה.
בהשוואה ל-OpenAI text-embedding-3-large (0.13$ ל-1M טוקני קלט), המודל הקטן זול פי 6.5. עבור יישומים רבים, הירידה בביצועים מתונה, מה שהופך את המודל הקטן לערך טוב יותר. בהשוואה ל-ada-002 המודל הישן (שכבר לא נתמך), המודל הקטן גם זול יותר וגם בעל יכולת גבוהה יותר. ב-OrcaRouter, תוכלו למצוא גם מודלי embedding של צד שלישי במחירים נמוכים עוד יותר; עם זאת, ייתכן שהם לא מציעים את אותה איכות או תאימות למערכת האקולוגית של OpenAI. המודל ללא תוספת מחיר מ-OrcaRouter מבטיח שאתם משלמים רק מה שהייתם משלמים ישירות, ללא כל תוספת.
OrcaRouter עשויה ליישם מנגנוני שמירה במטמון כדי להפחית קריאות API מיותרות. אם תשלח את אותו טקסט קלט מספר פעמים, הפלטפורמה עשויה להחזיר הטמעות שנשמרו במטמון מבלי לגרור עלויות אסימון נוספות. עם זאת, מדיניות השמירה במטמון אינה מפורטת במפורש בעובדות שסופקו. כדי למזער עלויות, תוכל ליישם שכבת מטמון משלך בצד הלקוח באמצעות וקטורי ההטמעה המוחזרים. מכיוון שעלות האסימון כבר נמוכה מאוד, השמירה במטמון מספקת חיסכון שולי אלא אם יש לך שאילתות חוזרות במיוחד. צור קשר עם תמיכת OrcaRouter לפרטים על התנהגות השמירה במטמון בצד השרת.
כדי להשתמש ב- openai/text-embedding-3-small דרך OrcaRouter, הגדר את כתובת ה- base URL ל- https://api.orcarouter.ai/v1 וציין את מזהה המודל כ- 'openai/text-embedding-3-small'. ה- API תואם לחלוטין ל- endpoint ההטמעות של OpenAI, כך שתוכל להשתמש בספריית ה- Python של OpenAI או בכל לקוח HTTP עם אותו פורמט בקשה. לדוגמה, ב- Python: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here'). התגובה מכילה את וקטור ההטמעה ופרטי שימוש.
ה-API תומך באותם פרמטרים כמו נקודת הקצה להטבעה של OpenAI. חובה: 'model' מוגדר ל-'openai/text-embedding-3-small' ו-'input' (מחרוזת או מערך של מחרוזות). אופציונלי: 'dimensions' (מספר שלם, 128 עד 512, ברירת מחדל 512) להקטנת גודל וקטור הפלט. מימד קטן יותר מאיץ עיבוד במורד הזרם ומפחית אחסון תוך שמירה על רוב המידע הסמנטי. ניתן להשתמש בפרמטר 'user' להגבלת קצב ללקוח. OrcaRouter מקבל גם כותרות סטנדרטיות כמו Authorization ו-Content-Type. עבור בקשות אצווה, העבר מערך של מחרוזות כקלט; ה-API יחזיר רשימה של הטמעות בסדר המתאים.
אם אתה משתמש כרגע ב-API ההטמעה של OpenAI, המעבר ל-OrcaRouter הוא פשוט. שנה את כתובת הבסיס מ-https://api.openai.com/v1 ל-https://api.orcarouter.ai/v1, ועדכן את שם המודל ל-'openai/text-embedding-3-small'. אין צורך בשינויים נוספים בקוד. ספריית הלקוח הקיימת שלך (Python, Node.js, curl וכו') תפעל באופן זהה. OrcaRouter תומך באותה מערכת אימות באמצעות מפתח API. המעבר הזה מאפשר לך ליהנות מתמחור ללא תוספת מחיר מבלי לשנות את צנרת ההטמעה שלך. ודא שלמפתח שלך יש גישה למודל ב-OrcaRouter.
ההבדלים העיקריים הם גודל, עלות וביצועים. text-embedding-3-large פולט 1,536 ממדים (ברירת מחדל) לעומת 512 לגרסה הקטנה, ועולה $0.13 למיליון אסימוני קלט – יקר פי 6.5. במדד MTEB, הדגם הגדול מקבל כ-65% והקטן כ-62%. עבור רוב היישומים, המודל הקטן מציע יחס עלות-תועלת טוב יותר. המודל הגדול עשוי להיות מועדף כאשר נדרשת רמת הדיוק הגבוהה ביותר למשימות כמו חיפוש דמיון עדין, או כאשר לא ניתן להרשות לעצמך ירידה כלשהי ב-recall. OrcaRouter מספקת את שני המודלים, כך שתוכלו לבדוק את שניהם על הנתונים שלכם.
מודל ההטמעה הקודם של OpenAI, text-embedding-ada-002, כעת הוצא משימוש ואינו זמין עוד דרך ערוצים רשמיים. בהשוואה ל-ada-002, text-embedding-3-small מציע ביצועים ממוצעים טובים יותר ב-MTEB (62% לעומת ~61%), תומך בהקשר גדול יותר (8,192 לעומת 2,048 אסימונים), ועולה משמעותית פחות ($0.02 לעומת $0.10 ל-1M אסימוני קלט) בתמחור הנוכחי. המודל החדש גם מציג את הפרמטר dimensions, המאפשר אופטימיזציה נוספת של עלות ואחסון. אם יש לכם זרימות עבודה שעדיין משתמשות ב-ada-002, עליכם לעבור ל-text-embedding-3-small לשיפור איכות ועלות נמוכה יותר.
OrcaRouter מארח מודלי הטמעה (embedding models) מספקים מרובים, המשתנים במחיר, ממד ואיכות. לדוגמה, חלק מהמודלים מציעים שכבות חינמיות או עלויות נמוכות יותר לטוקן. עם זאת, למודלים אלה יש לעיתים חלונות הקשר קטנים יותר (למשל, 512 טוקנים) או ציוני בנצ'מרק נמוכים יותר. מודל openai/text-embedding-3-small מאזן בין עלות, אורך הקשר ואיכות. אם הנתונים שלך ספציפיים מאוד לתחום, מודל מותאם אישית (למשל, ספציפי לקוד או למשפטים) עשוי לעלות עליו בביצועים. הקטלוג של OrcaRouter מאפשר לך להשוות ביצועים ומחירים. המודל הקטן הוא ברירת מחדל אמינה למשימות אנגלית כלליות ורב-לשוניות.
מודלי אמבדינג בקוד פתוח (לדוגמה, מ-Hugging Face) ניתנים לאירוח עצמי, מה שעשוי להפחית עלויות בהיקפים גדולים מאוד. עם זאת, הם דורשים תשתית, תחזוקה ומומחיות כדי להשיג השהיה ואמינות הדומות ל-API של OpenAI. openai/text-embedding-3-small, הנגיש דרך OrcaRouter, מציע אפס תקורה תשתיתית, זמינות עקבית ותאימות למערכת האקולוגית של OpenAI. עבור עומסי עבודה בהיקף קטן עד בינוני, ה-API המנוהל הוא לעיתים קרובות חסכוני יותר כאשר לוקחים בחשבון זמן הנדסי. עבור פריסות בהיקף גדול במיוחד (מיליארדי אמבדינגים), מודלים באירוח עצמי עשויים להיות זולים יותר, אם כי שוויון האיכות אינו מובטח.
תואם OpenAI — המשיכו להשתמש ב-SDK שכבר יש לכם
https://api.orcarouter.ai/v1dimensionsencoding_format| קלט / 1M טוקנים | $0.020 |
|---|---|
| פלט / 1M tokens | $0.020 |
| מטבע | USD |
הערכה מבוססת מחיר מחירון
הערכה בלבד — ספירת הטוקנים בפועל תלויה בטוקנייזר של הספק.
על מה מפתחים מדברים השבוע
GET /api/public/models/openai/text-embedding-3-smallפתיחה @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small