הטבעות טקסט באיכות גבוהה באמצעות OrcaRouter ב-$0.13 למיליון אסימונים, ללא תוספת מחיר, עד 3072 ממדים.
OpenAI text-embedding-3-large הוא מודל הטמעה בקנה מידה גדול מהדור השלישי של סדרת הטמעות הטקסט של OpenAI. הוא ממיר קלט טקסט לייצוגים וקטוריים צפופים הלוכדים משמעות סמנטית. המודל תומך בממדים מ-256 עד…
מודל text-embedding-3-large מצטיין בדמיון סמנטי, סיווג טקסט, קיבוץ ושליפת מידע. הפלט הרב-ממדי שלו מאפשר הבחנה מדויקת בין טקסטים דומים. הוא בחירה פופולרית לבניית מסדי נתונים וקטוריים עבור RAG, שם איכות השליפה תלויה בדיוק ההטמעה. המודל גם מבצע היטב משימות של הסקת שפה טבעית וזיהוי כפילויות. עם זאת, הוא לא מיועד למשימות יצירתיות כמו השלמת טקסט או דיאלוג – השתמשו ב-GPT-4 או במודלי שפה אחרים לשם כך.
המודל יכול להפיק אמבדינגים (embeddings) במימדים שבין 256 ל-3072. המימד נקבע באמצעות פרמטר `dimensions` בבקשת ה-API. שימוש במימד נמוך יותר מפחית את הנפח הנדרש לאחסון ואת החישובים במורד הזרם, אך עלול לאבד מעט מהנאמנות הסמנטית. מימד ברירת המחדל הוא 3072, המספק את כוח ההבחנה הגבוה ביותר. אין מימד נתמך מחוץ לטווח זה. עבור רוב משימות השליפה (retrieval), מימד של 1024 עד 2048 מהווה איזון טוב בין דיוק לעלות.
אם היישום שלך רגיש לעיכובים או שאתה מטמיע מיליארדי טקסטים, העלות של 0.13$ למיליון טוקנים עלולה להצטבר. שקול להשתמש ב-text-embedding-3-small (0.02$ למיליון טוקנים) או במודלים בקוד פתוח כמו BERT-embedding עבור תקציבים נמוכים יותר. text-embedding-3-large הוא הטוב ביותר כאשר דיוק האחזור הוא קריטי, כמו בחיפוש משפטי, רפואי או מדעי, שבהם החמצת מסמך רלוונטי עלולה להיות בעלת השלכות גדולות.
OpenAI אינה מציעה כרגע כיוונון עדין עבור סדרת text-embedding-3. המודל משמש כמקודד קבוע. כדי להתאים אותו לתחום ספציפי, ניתן להשתמש באסטרטגיות הרחבת שליפה, כגון הוספת קטעים ספציפיים לתחום למסד הנתונים הווקטורי שלך. לחלופין, ניתן להשתמש בהטמעות כתכונות עבור מסווג במורד הזרם שמאומן על הנתונים המתויגים שלך. זרימת עבודה זו נפוצה בסביבות ארגוניות.
text-embedding-3-large משיג תוצאות מהשורה הראשונה במבחן MTEB (Massive Text Embedding Benchmark) במשימות כמו קיבוץ, סיווג ודירוג מחדש. למרות שלא מובאות כאן ציונים מדויקים, המודל מדורג באופן עקבי בשכבות העליונות בין מודלי ההטמעה הזמינים לציבור. גרסת 3072 הממדים שלו מציעה את הדיוק הגבוה ביותר, בעוד שממדים נמוכים יותר מוותרים על ירידה קטנה בביצועים בתמורה לצמצום אחסון ועיבוד. הוא עולה על קודמו, text-embedding-ada-002, ברוב המשימות.
השהיה תלויה במספר האסימונים בקלט ובעומס המודל. עבור טקסט קצר בודד (עד 100 אסימונים), המודל מגיב בדרך כלל תוך פחות מ-200ms דרך OrcaRouter. טקסטים ארוכים יותר (8000 אסימונים) עשויים לקחת 1-2 שניות. קונקורנטיות וגודל אצווה משפיעים על התפוקה—בקשות באצווה (כמה טקסטים בקריאת API אחת) יכולות להשיג תפוקה גבוהה יותר. OrcaRouter אינו מוסיף תקורה מעבר לזמן התגובה של הספק.
המודל אינו מיועד לתמיכה רב-לשונית מעבר לאנגלית (למרות שהוא מתמודד עם שפות אחרות מסוימות, הביצועים נמוכים יותר). כמו כן, חסרה בו יכולת מובנית לביצוע הוראות – הוא בעצם מקודד בלבד. מגבלת ה-8192 טוקנים מחייבת פיצול מסמכים ארוכים במיוחד. בנוסף, ההטמעות (embeddings) עלולות לקודד הטיות דמוגרפיות הקיימות בנתוני האימון, ולכן יש לבחון יישומים במורד הזרם לגבי הוגנות. לבסוף, הוא אינו מספק יכולת הסבר לשיפוטי הדמיון שלו.
text-embedding-3-large מתעלה באופן משמעותי על המודל הישן יותר ada-002 במדד MTEB, במיוחד במשימות הדורשות הבחנה דקה. המודל החדש מציג גם את הפרמטר `dimensions`, המאפשר הקטנת גודל הווקטור ללא צורך באימון מחדש. התמחור גבוה במקצת ($0.13 לעומת $0.10 לכל מיליון אסימונים עבור ada-002), אך השיפור בדיוק מצדיק לעיתים קרובות את העלות בתרחישי שליפה בעלי חשיבות גבוהה. עבור מקרי שימוש פשוטים, ada-002 נותרת אלטרנטיבה חסכונית וברת-ביצוע.
התמחור הוא $0.13 לכל מיליון אסימוני קלט, מחויב לפי תעריף הספק ללא תוספת מחיר. גם אסימוני פלט הם $0.13 למיליון אסימונים, אך עבור מודלי הטמעה (embedding models) אסימוני הפלט זניחים מכיוון שהמודל מחזיר וקטור. אסימוני הקלט כוללים את הטקסט שאתה שולח. אין עמלות נוספות עבור שימוש ב-API של OrcaRouter. המשמעות היא שהעלות הכוללת זהה בדיוק למה ש-OpenAI גובה, ללא חיובים נסתרים או תוספות תמחור בגלל הגבלות קצב.
התעריף של $0.13 לכל 1M טוקנים הוא מחיר הספק הסטנדרטי. OrcaRouter אינו מציע הנחות מעבר למחירי הספק. עם זאת, שימוש במידות פלט קטנות יותר (למשל, 1024) אינו משפיע על ספירת הטוקנים—אתה משלם לפי טוקן קלט ללא קשר למימד. עבור משתמשים בנפח גבוה מאוד, OpenAI עשויה להציע הנחות על שימוש מחויב באמצעות הסכמים מותאמים אישית, שתוכל לנצל באופן עצמאי.
OrcaRouter אינה שומרת תגובות embedding במטמון. כל בקשה מועברת לספק בזמן אמת ומחויבת בהתאם. אם תטמיעו טקסטים זהים שוב ושוב, תחויבו בכל פעם. כדי לחסוך בעלויות, הטמיעו שכבת מטמון משלכם בצד הלקוח, תוך אחסון embeddings עבור שאילתות תכופות. זה יעיל במיוחד עבור מערכי נתונים סטטיים כמו תיאורי מוצרים או תוכן FAQ.
OrcaRouter מעביר בקשות לספק ללא הגבלת קצב מלאכותית, אך הספק אוכף מגבלות קצב משלו. עבור text-embedding-3-large, המגבלות האופייניות הן סביב 3000–5000 בקשות לדקה עבור הדרגה הסטנדרטית. ניתן להגדיל את המגבלות על ידי יצירת קשר ישיר עם OpenAI. OrcaRouter מבצע ניסיונות חוזרים אוטומטית בשגיאות 429, אך ניסיונות חוזרים מוגזמים עלולים לגרור עלות נוספת. עקוב אחר השימוש שלך כדי להישאר במסגרת המגבלות.
שלח בקשת POST ל-https://api.orcarouter.ai/v1/embeddings עם פרמטר ה-model מוגדר ל-"openai/text-embedding-3-large". כלול מחרוזת קלט או מערך של מחרוזות. לחלופין, ניתן להגדיר את הפרמטר `dimensions` לערך בין 256 ל-3072. תוכל לספק מפתח API של משתמש בכותרת Authorization (Bearer token). התגובה עוקבת אחר אותו מבנה כמו OpenAI's Embeddings API, המכיל רשימת אובייקטים עם embeddings וספירות אסימוני שימוש.
הפרמטרים העיקריים הם `model` (חובה: "openai/text-embedding-3-large"), `input` (מחרוזת או מערך של מחרוזות, עד 8192 טוקנים כל אחת), ו-`dimensions` (מספר שלם, אופציונלי, ברירת מחדל 3072). OrcaRouter תומך גם בפרמטר `user` למעקב אחר שימוש לפי משתמש קצה. פרמטרים אחרים של OpenAI Embeddings API, כגון `encoding_format` (float או base64), נתמכים. עיין בתיעוד של OpenAI לקבלת הסט המלא.
שנה את כתובת ה-URL הבסיסית מ-https://api.openai.com/v1 ל-https://api.orcarouter.ai/v1 ועדכן את מזהה המודל מ-"text-embedding-3-large" ל-"openai/text-embedding-3-large". הקוד הקיים שלך המשתמש ב-OpenAI Python client או ב-HTTP library אמור לעבוד ללא שינויים נוספים. ה-API של OrcaRouter תואם באופן מלא, כך שאין צורך בשינויים בפורמט גוף הבקשה. ודא שיש לך מפתח API של OrcaRouter.
כן. העבירו מערך של מחרוזות בתור פרמטר `input`. ה-API יחזיר מערך של embeddings באותו הסדר. זה יעיל יותר מאשר שליחת בקשות בודדות בשל עלות תקשורת נמוכה יותר. כדי להשיג תפוקה מיטבית, חלקו טקסטים באורך דומה לקבוצות כדי להקטין זמן המתנה. המודל תומך בעד 2048 מחרוזות לכל קבוצה (בדקו מגבלות הספק), וכמות ה-tokens הכוללת בקלט בכל הקבוצה לא תעלה על 2048000 tokens לדקה.
הגרסה הקטנה משתמשת רק ב-512 ממדים ועולה $0.02 למיליון טוקנים – זול פי 6.5 בערך. היא מהירה יותר וחסכונית יותר באחסון, אך מקריבה דיוק, במיוחד במשימות סמנטיות עדינות. עבור אשכול פשוט או חיפוש ברמת דמיון נושאי, המודל הקטן עשוי להספיק. text-embedding-3-large מומלץ לשליפה בעלת חשיבות גבוהה שבה recall היא החשובה ביותר.
all-MiniLM-L6-v2 הוא מודל חינמי המתארח מקומי עם 384 ממדים ומהירות גבוהה. הוא מבצע ביצועים טובים במשימות רבות, אך נופל מ-text-embedding-3-large במדדים מורכבים כמו MTEB. הפשרה היא בין עלות לאיכות: למודלים בקוד פתוח יש אפס עלות לכל אסימון, אך הם דורשים חומרת מחשוב. text-embedding-3-large מציע דיוק מעולה, בעוד שההוצאה של $0.13 למיליון אסימונים עשויה להיות מוצדקת במערכות ייצור שבהן איכות אחזור היא בראש סדר העדיפויות.
המודלים embed-v3 של Cohere תומכים גם במידות משתנות וביכולות רב-לשוניות. הם דומים בביצועים על מדדים באנגלית אך עשויים לטפל טוב יותר בטקסטים שאינם באנגלית. התמחור דומה (בערך $0.10–0.15 לכל 1M טוקנים). הבחירה תלויה לעתים קרובות בהעדפת המערכת האקולוגית ובדרישות הרב-לשוניות הספציפיות. ל-text-embedding-3-large יש חלון הקשר גדול יותר (8192 לעומת 512 עבור Cohere) והוא משולב טוב יותר עם הכלים של OpenAI.
שקול חלופות אם מקרה השימוש שלך דורש תמיכה רב-לשונית מעבר לאנגלית, זקוק לפריסה מקומית לשמירה על פרטיות הנתונים, או דורש השהיה נמוכה במיוחד בתפוקה גבוהה. עבור משימות כמו יצירת טקסט, השתמש ב-GPT-4. עבור הטמעות של טקסט-תמונה, השתמש ב-CLIP או במודלים מולטי-מודליים. text-embedding-3-large הוא מקודד אנגלית לשימוש כללי; אם התחום שלך מתמחה מאוד, חפש מודלים בקוד פתוח שעברו כוונון עדין (fine-tuned).
תואם OpenAI — המשיכו להשתמש ב-SDK שכבר יש לכם
https://api.orcarouter.ai/v1dimensionsencoding_format| קלט / 1M טוקנים | $0.130 |
|---|---|
| פלט / 1M tokens | $0.130 |
| מטבע | USD |
הערכה מבוססת מחיר מחירון
הערכה בלבד — ספירת הטוקנים בפועל תלויה בטוקנייזר של הספק.
על מה מפתחים מדברים השבוע
GET /api/public/models/openai/text-embedding-3-largeפתיחה @misc{orcarouter_text_embedding_3_large,
title = {openai/text-embedding-3-large API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-large}
}openai. (n.d.). openai/text-embedding-3-large API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-large