EVIE-8B: טנסנט משחררת בשקט את מאחזר המסמכים החזותי המדויק ביותר שלה עד כה

לפני שלושה שבועות, EVIE-Preview-4.5B של Tencent היה מאחזר המסמכים החזותי הפתוח המדויק ביותר בלוחות ViDoRe, בהתבסס על נתונים ש-Tencent דיווחה בעצמה. ב-4 בספטמבר, Tencent החליפה בשקט את המודל הזה בראש לוח התוצאות שלה — לא עם מתחרה חיצוני, אלא עם אח גדול יותר ששוחרר באותו בוקר. EVIE-8B, מאחזר late-interaction עם 8.41B פרמטרים על גבי Qwen3.5-9B עם ייצוגים וקטוריים של 4096 ממדים לכל טוקן, הופיע כמשקלים וקוד ב-Hugging Face וב-GitHub ללא הכרזה, ללא פוסט בבלוג וללא מאמר. נקודת ביקורת (checkpoint) שלישית, EVIE-4.5B, הופיעה באותה דקה וכעת נמצאת בין השניים. כל הטענות המצורפות לשחרור הזה — הציונים, הארכיטקטורה, אפילו מה נועדו המודלים לעשות — נשענות כרגע על מה שמאגרי הקוד של Tencent עצמה אומרים, משום שאיש מחוץ ל-Tencent עדיין לא פרסם שום דבר על EVIE-8B. זו מה שבאמת ניתן לדעת מהמאגר, ומה שעדיין לא אושר.

מה שחררה Tencent ב-4 בספטמבר

ב-2026-09-04 הופיעו שני מאגרים חדשים בארגון tencent ב-Hugging Face, בהפרש של בערך דקה זה מזה: tencent/EVIE-8B ו-tencent/EVIE-4.5B. במקביל עלה מאגר GitHub מאוחד, Tencent/EVIE, שכלל את קוד האימון, את מנוע ההסקה ColQwen3.5 ואת מערך ההערכה של 138 המשימות. שני מאגרי המודלים מופצים ברישיון Apache-2.0, שניהם משתמשים בספריית colpali-engine, ושניהם נושאים את התג visual-document-retrieval pipeline. ה-EVIE-Preview-4.5B הישן יותר מ-17 באוגוסט נותר ב-Hugging Face תחת השם "Preview", אבל הוא כבר לא הדגל של המשפחה: בלוח התוצאות המעודכן שבתוך הכרטיס של EVIE-8B, Tencent מציבה שלושה צ'קפוינטים משלה בראש — EVIE-8B עם 66.75 ב-ViDoRe V3 nDCG@10, EVIE-4.5B עם 66.02, ו-EVIE-Preview-4.5B עם 65.36.

לא הייתה שום הודעה רשמית בשום מקום. הערת השחרור של כרטיס EVIE-8B אומרת שהמשקלים, צינורות ההסקה ומערכות ההערכה פורסמו כקוד פתוח, ומוסיפה כי "פרטים טכניים מלאים, ניתוחים ארכיטקטוניים והמאמר המחקרי הרשמי יעודכנו במהדורה עתידית." במאגר GitHub היו ארבעה commits וללא שחרורים נכון למועד כתיבת שורות אלה. אף אחד משני המאגרים החדשים לא מראה אימוץ משמעותי עדיין — אין forks קהילתיים עם תוצאות עצמאיות, אין הערכות מטעם צד שלישי, ומוני ההורדות עדיין קרובים לאפס יומיים אחרי שהמאגרים הפכו לציבוריים. לאור הראיות, זהו שחרור בסגנון "קודם המשקלים, אחר כך המאמר" מטעם Tencent, באותו דפוס שקט שבו השתמשה המעבדה עבור EVIE-Preview-4.5B ו-UI-Mate-9B באוגוסט.

כרטיס המודל tencent/EVIE-8B שלמעלה הוא הפן הציבורי של המהדורה: checkpoint לאחזור מסמכים ויזואליים המתויג לספריית colpali-engine, ברישיון Apache-2.0, עם אמבדינג של אינטראקציה מאוחרת ב-4096 ממדים וטבלת ה-ViDoRe המחודשת של המשפחה בסמוך לראש הכרטיס.

EVIE-8B, מורת הדגל

מבחינה ארכיטקטונית, EVIE-8B שייך למשפחת ה-late-interaction של ColPali/ColBERT. במקום למעוך עמוד לוקטור הטמעה אחד — המהלך המאבד שביצוע שליפה צפופה עם וקטור יחיד עושה — הוא מריץ שלד ראייה-שפה על תמונת העמוד ושומר ייצוג רב-וקטורי לכל טוקן, ולאחר מכן מדרג רלוונטיות עם אופרטור MaxSim: כל טוקן שאילתה לוקח את ההתאמה הטובה ביותר שלו על פני הטוקנים של העמוד, והמקסימות הללו מצטברות לציון הרלוונטיות. הבחירות הספציפיות של EVIE-8B הן שלד Qwen3.5-9B המריץ עם קשב דו-כיווני מלא (המודל מוגדר כמודל encoder, ולכן מסכת הסיבתיות מבוטלת על פני רצף הראייה-טקסט) והשלכה רחבה של 4096 ממדים לכל טוקן. הנקודה של הרוחב היא נאמנות: פריסה מרחבית, טיפוגרפיה, מבנה תרשימים ויחסים טבלאריים שורדים בייצוג במקום להימחק בממוצע.

טנסנט ממקמת את EVIE-8B במפורש כ"מורה הדגל". התלמיד EVIE-4.5B מאומן ממנו בשיטה שטנסנט מכנה EVIE-ARD — זיקוק יחסים שומר-עוגן ומודע-קיבולת, שמעביר טופולוגיה של יחסי-טוקנים ומשתמש בפיקוח מרווח עם שליליות קשות. במילים אחרות, למודל ה-8B יש שתי משימות: לקבוע את תקרת הדיוק של קו המוצרים, ולהיות עוגן האיכות שממנו התלמיד הקומפקטי מבצע זיקוק. בצד האימון, הכרטיס מדווח על 775,635 זוגות מסמך-שאילתה, כשהשליליות הקשות שנכרו נשפטות מחדש על ידי שופט רב-מודאלי שמקדם מועמדים הניתנים למענה לדרגת חיוביים, מסווה דוגמאות מעורפלות מחישוב ההפסד, ומשאיר רק דפים שאינם רלוונטיים לחלוטין כשליליים אמיתיים. נקודת הביקורת המשוחררת "a40" היא עצמה תערובת במרחב המשקלים, ב-α = 0.40, של שתי זרועות שאומנו בנפרד.

לוח התוצאות שטנסנט כתבה לעצמה

כל המספרים שלהלן מדווחים על ידי הספק. הם לקוחים מכרטיס המודל של Tencent עצמו והופקו באמצעות מערך ההערכה ש-Tencent מצרפת במאגר שלה; אף אחד מהם לא שוחזר באופן עצמאי, ו-EVIE-8B טרם הופעל על ידי איש מחוץ למעבדה.

פרמטרים / backbone — 8.41B, Qwen3.5-9B, תשומת לב מלאה דו-כיוונית.

• אמבדינג — 4096-ממדי רב-וקטורי לכל טוקן, אינטראקציה מאוחרת מסוג MaxSim.

• ViDoRe V1 (10 משימות, nDCG@5) — 92.18.

• ViDoRe V2 (4 משימות, nDCG@5) — 74.23.

• ViDoRe V3 (48 משימות, nDCG@10) — 66.75, עם סריקה לפי תחום, הכרטיס טוען לניצחונות בכל שמונת התחומים הציבוריים.

• JinaVDR (76 משימות, nDCG@10) — 83.30; ממוצע מאקרו nDCG@10 בארבעה לוחות — 79.51 בחבילת 138 המשימות.

• רישיון — Apache-2.0; המשקלים, קוד ההסקה וקוד ההערכה פתוחים.

השורה המעניינת ביותר בטבלה של Tencent היא זו שבה Tencent מנצח את Tencent. הכרטיס EVIE-Preview-4.5B מאוגוסט טען ל"מקום ראשון ב-ViDoRe V3" עם 65.36 nDCG@10, כשהוא גובר על 65.32 של webAI-ColVec1.1-8b. בטבלה המעודכנת בתוך הכרטיס של EVIE-8B, אותו 65.36 נמצא כעת במקום השלישי הכללי, אחרי 66.75 של EVIE-8B ו-66.02 של EVIE-4.5B. הפילוח לפי תחום של EVIE-8B מנצח את התצוגה המקדימה הישנה בכל שמונת התחומים הציבוריים של ViDoRe V3 — מדעי המחשב 81.86 לעומת 80.65, פיננסים EN 71.23 לעומת 70.50, פארמה 70.81 לעומת 69.20, וכן הלאה — עם רווח ממוצע של 1.39 נקודות. השאלה אם הרווח הזה שורד ריצה עצמאית היא בדיוק השאלה הפתוחה; אבל העקביות הפנימית ראויה לציון, כי מורה שלא יכול היה לנצח את התלמיד של עצמו היה דבר מוזר לשחרר.

הגרפיקה המשפחתית שלמעלה מציגה מחדש את דירוג שלושת נקודות הביקורת (checkpoints) שטנסנט פרסמה בכרטיס EVIE-8B ב-4 בספטמבר — EVIE-8B עם 66.75, EVIE-4.5B עם 66.02, EVIE-Preview-4.5B עם 65.36 ב-ViDoRe V3 nDCG@10 — כאשר התצוגה המקדימה של 128D מפנה את מקומה למורה של 4096D ולתלמיד Prefix-MRL.

מדוע ספינת הדגל אינה מודל הפריסה

יש סיבה שמוביל הדיוק נקרא מורה ולא ברירת מחדל. רוחב עולה באחסון ובכוח חישוב לניקוד, ו-4096 ממדים לכל טוקן הוא רוחב גדול מאוד. ב-BF16, וקטור טוקן אחד של EVIE-8B הוא 8 קיב לפני כל קוונטיזציה, ודף צפוף יכול לייצר מאות וקטורי-טוקן — פרוטוקול ההערכה של הכרטיס עצמו מגביל מסמכים ל-1,024 טוקנים ויזואליים לדף. טנסנט לא מפרסמת נתון גודל אינדקס עבור EVIE-8B, דבר בולט לעין, משום שכרטיס EVIE-Preview-4.5B פרסם נתונים מדויקים עבור האינדקס ה-128-ממדי שלו: 179.2 GiB של אינדקס BF16 גולמי למיליון דפים בתקציב האימון של 768 טוקנים, ו-420.5 GiB בשכבת ה-1,792 טוקנים המוערכת. השוואה וקטור-למול-וקטור: ההטמעות של EVIE-8B רחבות פי 32 מאלה של התצוגה המקדימה, כך שאינדקס EVIE-8B גולמי באותו תקציב טוקנים מגיע לטווח של טרה-בייטים רבים למיליון דפים — עוד לפני שמערכת השליפה שצריכה להחזיק אותו ב-RAM נכנסת בכלל לתמונה.

השחרור באותו היום של EVIE-4.5B הוא הסימן המובהק לאופן שבו טנסנט מצפה שהמתח הזה ייפתר. EVIE-4.5B הוא התלמיד בעל 4.61B פרמטרים עם השלכה יחידה בממד 2048 שנקטעת בזמן ריצה ל־64, 128, 256, 512, 1024, 2048 ממדים (טנסנט מכנה את הסכמה Prefix-MRL), וכן מעבר דחיסת טוקנים ללא אימון שהיא מכנה HAC, שמקבץ כ־750 טוקנים חזותיים של עמוד ל־32–64 וקטורים. כותרת הפרסום של טנסנט למודל הזה היא טביעת רגל אינדקס של 3.81 GiB למיליון עמודים — נתון שגם הוא, כמו השאר, מדווח על ידי הספק. כשקוראים את זה יחד, השחרור נראה פחות כמו "מודל 8B חדש אחד" ויותר כמו משפחה מכוונת: ה־8B קובע את הרף ומאמן את התלמיד, והתלמיד הוא זה שגודלו מתאים לשבת בפועל מאחורי אינדקס ייצור.

איך להריץ את EVIE-8B היום

EVIE-8B מגיע כמשקלים בלבד. אין API מתארח באף פלטפורמה — כולל OrcaRouter — ולכן הדרך היחידה כיום היא לארח את נקודת הביקורת בעצמך ולהריץ אותה דרך המסלול של ColQwen3.5 בתוך colpali-engine. ההתחלה המהירה בדף המודל קצרה: טען את המודל ב‑BF16 עם flash-attention, קרא ל‑enable_bidirectional_attention(), בצע embed לדפי התמונה ולשאילתת הטקסט, ולאחר מכן דרג עם ה‑MaxSim של הפרוססור. השלב הדו‑כיווני אינו קישוט אופציונלי — המבנה ששוחרר של colpali-engine בונה את ColQwen3.5 עם מסכות סיבתיות כברירת מחדל, ודף המודל בגרסת התצוגה המקדימה תיעד שהשארת המסכה במקום עולה בערך 1.1 נקודות במדד MaxSim של הפגיעה העליונה. אותו helper מגיע גם עבור EVIE-8B. נקודת ביקורת של BF16 בגודל 8.41B היא בסדר גודל של כ‑17 GB של משקלים לפי כלל האצבע של שני בתים לפרמטר, ולכן מדובר בהרצה על GPU יחיד עם שוליים פנויים, לא במודל קצה — והקורפוס יושב היכן שאתה מחזיק את האינדקס, לא על המודל.

מה EVIE-8B משנה במחסנית RAG למסמכים

לכל מי שבונה אחזור על סריקות, ניירת, תרשימים או טפסים, השינוי המעשי הוא שרף האיכות של אחזור מסמכים חזותי פתוח זז זה עתה, והוא זז לתוך משפחה שמשתרעת כעת על פני שלוש נקודות מחיר-ביצועים. אבל מאחזר נותן לך רק את הדפים. המודל שקורא את הדפים האלה וכותב את התשובה הוא החלטה נפרדת, וזו השכבה שבה ניתוב (routing) מוכיח את ערכו: OrcaRouter חושף API אחד על פני יותר מ-200 מודלים במחיר המחירון של הספקים וב-0% תוספת, כך שניתן להחליף את מודל הקורא שמאחורי המאחזר שלך בלי שכתוב, וכל הורדת מחיר של ספק על מודל מנותב נכנסת לתוקף ביום שבו היא מוכרזת. ההפרדה הזו חשובה אף יותר כאשר צד האחזור הוא checkpoint חדש לגמרי ובלתי מוכח — ניתן לאמץ את EVIE-8B לצורך אינדוקס, תוך שמירה על שכבת היצירה מאחורי ממשק שאינו קושר אותך לשום מודל יחיד.

מה לצפות בהמשך

שלושה דברים יהפכו את השחרור השקט הזה של מאגר קוד לסיפור מגובש. ראשית, ריצה בלתי־תלויה: עד שמישהו מחוץ לטנסנט ישחזר את המספרים של ViDoRe ושל JinaVDR, גם ה־"rank #1" של EVIE-8B וגם ה־"rank #1" של התצוגה המקדימה הישנה הם טענות מדווחות עצמית שנמצאות במתח זו עם זו. שנית, המאמר והניסויים המובטחים — הבחירה במימד 4096, נקודת הביקורת של ערבוב המשקלים, והמתכון לדיסטילציה — כולם כרגע הצהרות ללא כתיבה שתתמוך בהן. שלישית, השם: כעת ש־EVIE-4.5B תופסת את המקום ש־EVIE-Preview-4.5B אחזה בו לפני שלושה שבועות, זו שאלה פתוחה האם טנסנט שומרת על קו ה־"Preview" בחיים או מקפלת אותו לתוך המשפחה ששמה שונה. בהינתן הקצב — שלוש נקודות ביקורת לאחזור מסמכים חזותיים בשלושה שבועות — ההנחה השימושית יותר היא ששורת מוצרים זו זוכה להשקעה אינטנסיבית, והשחרורים השקטים הם דרכה של המעבדה לספק מוצר לפני המאמר.