Hy-Memory-30B-A3B מול Nemotron 3.5 Lightning 30B-A3B Base: אותן שלוש אותיות, שני אובייקטים שונים

Hy-Memory-30B-A3B וNVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 נושאים אריתמטיקת פרמטרים זהה — 30 מיליארד בסך הכול, 3 מיליארד פעילים — וכאן הדמיון מפסיק להיות מועיל. המודל של צוות Hunyuan, שנפתח לקוד פתוח ב15 באוקטובר 2026, הוא מוצר גמור: אומן לאחר-הכשרה במלואו כדי לבצע כתיבת זיכרון בתוך Mem0, MemOS ו-Hy-Memory, ומסופק עם מתכון הגשה תואם OpenAI וטבלת בנצ'מרקים הטוענת לניצחון על Claude Opus 5. זה של NVIDIA, ששוחרר ב11 באוגוסט 2026, אינו מוצר כלל. המילה "Base" בשמו היא כפשוטה — לא הוחלו עליו כיוונון עדין מפוקח, לא למידת חיזוק ולא זיקוק. זהו חומר גלם מאומן-מראש, שפורסם כדי שתוכלו לבנות על גביו מודל משלכם שאומן לאחר-הכשרה. מה שהמספרים אינם יכולים לספר לכם הוא אם משהו מכל זה השתבש בשטח: התקריות המתועדות בתחום ה-AI וכשלי הסוכנים סביב מודלים במחלקה הזו מרוכזים בארכיון תקריות ה-AI של OrcaRouter שבו כל רשומה נושאת את המקורות שלה, חומרה, דרגת ביטחון ודגל מחלוקת.

שני מודלים עם אותו מספר בשם, שאחד מהם מיועד לשימוש ואחד מהם מיועד לשינוי. ההשוואה שכדאי לערוך אינה מי מהם משיג ציון גבוה יותר — הם לא הוערכו על שום דבר משותף, ולאחד מהם אין התנהגות של מילוי הוראות שאפשר להעריך. ההשוואה שכדאי לערוך היא על ראיות: מה כל ספק פרסם, כמה מזה תוכלו לבדוק בעצמכם, ומה כל אחד מהם דורש מכם לפני שהוא עושה משהו בכלל.

מה כל מודל הוא בפועל

Hy-Memory-30B-A3B הוא טרנספורמר דליל קונבנציונלי עם תפקיד יוצא דופן. קובץ התצורה שלו מתאר 48 שכבות, הראשונה בלוק feed-forward צפוף ו-47 הנותרות תערובות מומחים, עם 128 מומחים בכל בלוק בניתוב top-8 בתוספת מומחה משותף יחיד, גודל מוסתר 2,048, רוחב ביניים של מומחה 768, 32 ראשי קשב מול 4 ראשי מפתח-ערך עם נרמול שאילתה-מפתח, והקשר של 262,144 פוזיציות. כ-60.1 GB ב-51 מקטעי BF16. הוא אומן בשני שלבים — Memory On-Policy Distillation, ואז Attributed Memory Reinforcement Learning — וכל מטרת התרגיל הייתה להחליף את המודל הכללי שמסגרות זיכרון פונות אליו כיום בכל תור. כשהוא מוגש עם vLLM 0.31.0, הוא מחזיר רשומות JSON מובנות המתארות מה סוכן צריך לזכור.

Nemotron 3.5 Lightning 30B-A3B Base הוא מכונה היברידית. NVIDIA משבצת לסירוגין בלוקים של מרחב-מצב Mamba-2 עם שכבות תערובת-מומחים וקשב, מוסיפה ראשי Multi-Token Prediction שאומנו בשלב ייעודי של אימון מקדים מתמשך, ואימנה מראש את כל המערכת תחת מתכון NVFP4 על יותר מ-20 טריליון טוקנים. הנקודה של המחסנית ההיברידית היא מטמון המפתח-ערך: בלוקי Mamba-2 מונעים ממנו לגדול באופן שבו גדל זה של Transformer קונבנציונלי, וזה מה שמאפשר ל-NVIDIA לטעון שאורך ההקשר מגיע לעד מיליון טוקנים. הוא מופץ בבנייות BF16, NVFP4 ו-FP8, עם המרות GGUF וכימותים ממספר צדדים שלישיים. הרישיון שלו הוא OpenMDW-1.1, המכסה את המשקלים, את נתוני האימון ואת המתכונים — הענקת זכויות רחבה יותר מזו של רישיון מודל טיפוסי.

צירוף המקרים במספר הפרמטרים אמיתי אך שטחי. שתיהן מפעילות כ-3 מיליארד פרמטרים לכל טוקן; זו ההחלטה העיצובית היחידה ששני הצוותים קיבלו באותו אופן.

הבאנר הזה הוא המרכיב האינפורמטיבי ביותר בעמוד. NVIDIA הציבה אותו בראש מאגר הבסיס בכוונה: הצ'קפוינט הזה אינו זה שרוב האנשים רוצים, והספק אומר זאת לפני שאתם מורידים 30 מיליארד פרמטרים.

ההבחנה שמכריעה את הכול: מאומן לאחר אימון לעומת מאומן מראש

צ'קפוינט בסיס אינו מציית להוראות. שאלו אותו שאלה והוא ימשיך את הטקסט, כי זה הדבר היחיד שהאימון המקדים לימד אותו. אין לו תבנית צ'אט ראויה לשמה, אין לו התנהגות של קריאה לכלים, אין לו גבול סירוב ואין לו מושג שלשיחה יש תורות. הכרטיס של NVIDIA אומר זאת במפורש, והבאנר "מחפשים את המודל שעבר פוסט-אימון?" בראש המאגר מפנה לצ'קפוינט התאום לכל מי שרוצה משהו שאפשר לשוחח איתו.

מה שצ'קפוינט בסיס נועד לו הוא שלך, פוסט-טריינינג. המשך אימון מקדים על קורפוס תחומי, או כיוונון עדין מפוקח, RL ודיסטילציה דרך NeMo RL, NeMo Gym ו-Megatron-LM — ערכת הכלים ש-NVIDIA מכנה בשם ומספקת עבורה מתכונים. אם יש לך יתרון בנתונים ודעה לגבי איך מודל צריך להתנהג, צ'קפוינט בסיס הוא נקודת ההתחלה שמאפשרת לך לפעול על שניהם. אם אין לך, הוא משקולת נייר בת 30 מיליארד פרמטרים.

Hy-Memory-30B-A3B נמצא בקצה הנגדי של אותו צינור. הוא כבר עבר שלב אימון-בתר (post-training), פעמיים, וכל הצעת הערך שלו היא שאינך צריך לעשות את העבודה הזאת — אתה לוקח את הסכימה שהכרטיס נותן לך, מפנה אותה אל ההרנס שלך, והוא כותב זיכרון. הוא צר מ-Nemotron בפער עצום, ומוגמר באופן שבו Nemotron במכוון אינו.

מפרט ואריזה, שורה אחת לכל מימד

• סה״כ / פרמטרים פעילים — 30B / ~3B לשניהם. זו השורה היחידה שבה הם מסכימים.

• ארכיטקטורה — ‏Hy-Memory-30B-A3B הוא טרנספורמר דליל עם בלוק צפוף אחד ו-47 בלוקי MoE, 128 מומחים ב-top-8 בתוספת מומחה משותף; ‏Nemotron 3.5 Lightning 30B-A3B Base הוא היברידי Mamba-2, המשזר שכבות מרחב-מצב, MoE וקשב עם ראשי חיזוי רב-אסימוני.

• הקשר — 262,144 פוזיציות עבור Hy-Memory-30B-A3B מהתצורה שלו; עד 1M טוקנים עבור Nemotron, כאשר 256K הוא הנתון המעשי המתועד על H100 בודד.

• פוסט-אימון — שני שלבים עבור Hy-Memory-30B-A3B (זיקוק על-מדיניות, ואחר כך RL מיוחס); ללא כלום עבור צ'קפוינט הבסיס של Nemotron.

• נפח המשקלים — 60.1 GB BF16 עבור Hy-Memory-30B-A3B, ללא דיוק אחר שפורסם, לעומת בניות BF16, NVFP4 ו-FP8 מבית NVIDIA וכן GGUF מהקהילה.

• רישיון — Apache 2.0 לעומת OpenMDW-1.1, אשר מכסה בנוסף גם נתוני אימון ומתכונים.

• מסלול הגשה — vLLM 0.31.0 מאחורי נקודת קצה תואמת OpenAI עבור Hy-Memory-30B-A3B; פוסט-אימון תחילה, ואז הגשה, עבור Nemotron.

• נקודת קצה מתארחת — אף אחד מהמודלים אינו נפרס על ידי ספק הסקה מתארח. שניהם הצעות של אירוח עצמי.

הוכחה: NVIDIA מפרסמת מתכון, Hunyuan מפרסמת טבלה

זהו ההבדל החד ביותר בין שתי המהדורות, והוא לא נוגע למספרים עצמם.

NVIDIA מפרסמת את מתודולוגיית ההערכה שלה באופן שאפשר לפעול לפיו. כרטיס הבסיס של Lightning מציין שנתוני הדיוק שלה נמדדו תחת מערך בדיקות עקבי — NeMo Gym ו-NeMo Evaluator SDK, שעוטפים מכולה בקוד פתוח של LM Evaluation Harness, כאשר RULER מופעל דרך NeMo Skills — ואז אומר את הדבר שספקים ממעטים לומר: ייתכן שמספרים אלה שונים מנתונים שספקים אחרים מדווחים על עצמם. הוא מקשר למתכוני שחזור. המספרים הם עדיין הרצה של NVIDIA עצמה, אבל מערך הבדיקות נקרא בשמו, ארוז כמכולה וניתן להורדה, מה שאומר שהמרחק בין "NVIDIA מדדה את זה" ל"אני מדדתי את זה" הוא כמה שעות עבודה ולא פרויקט מחקר.

השחרור של Hy-Memory קשה יותר לבדיקה בשתי דרכים נפרדות. עיצוב ההערכה תקין בפני עצמו — הוא משנה רק את כותב הזיכרון ומשאיר את מערכת הבדיקה, ההנחיות, תצורת האחזור, מודל התשובות והשופט קבועים, וזו הדרך הנכונה לבודד את תרומתו של כותב. אבל כל בנצ'מרק במטריצה הראשית רץ על בסיס קבוע של תת-מדגם של 20%ולא על המערך המלא, והמרווח הכותר דק: ממוצע מאקרו של 55.49 לעומת 54.62 עבור Claude Opus 5, פער של 0.87 נקודות, כאשר מערכת הבדיקה של MemOS הוכרעה ב-0.01 נקודה. המכשול השני הוא חומרה. שחזור מספרי הבסיס של NVIDIA משמעו טעינת צ'קפוינט שקיימות עבורו גרסאות מכומתות; שחזור של Hy-Memory משמעו טעינת 60 GB של BF16 ללא חלופה קטנה יותר שפורסמה.

אף אחת משתי קבוצות הנתונים לא שוחזרה באופן עצמאי. ההבדל הוא עד כמה סביר שתוכל להיות זה שיעשה זאת.

הצב את שני המקורות הראשוניים זה לצד זה, והניגוד חד: ההערכה של Hy-Memory נמצאת במאמר עם תיאור ארכיטקטורה ושיטת אימון, וזו של NVIDIA נמצאת בכרטיס דגם עם הרנס נקוב בשם וניתן להורדה. בשתיהן הספק נותן ציון לשיעורי הבית של עצמו. רק אחת מהן מושיטה לך את הסרגל.

שתי סיבות שונות להכניס ראוטר לעניין

שני המודלים הם באירוח עצמי, ולא Hy-Memory-30B-A3B ולא Nemotron 3.5 Lightning 30B-A3B Base נמצאים בקטלוג של OrcaRouter — אנחנו לא מארחים אף אחד מהם. הדרך אל שניהם היא המשקלים וכרטיסי ה-GPU שלכם. אבל שאלת הראוטר נראית אחרת בכל צד של ההשוואה הזו, וכדאי לעבור על כך כי זו הצורה המעשית של הבחירה.

אם אתה בוחר במסלול של Nemotron, אתה מבצע פוסט-אימון על צ׳קפוינט. זה יוצר מודל שקיים רק בתשתית שלך, והבעיה הקלאסית עם צ׳קפוינט מותאם אישית היא שאין לו מקום: הוא לא נמצא בשום קטלוג, כך שכל אפליקציה שרוצה אותו זקוקה לצנרת ייעודית, וכל נתיב גיבוי כשהוא נופל צריך להיבנות ביד. נתב פותר בדיוק את זה — מפתח API אחד שמכסה יותר מ-200 מודלים, כאשר נקודת הקצה שלך רשומה לצידם ומעבר אוטומטי לגיבוי כאשר הוא מתדרדר. מיזוג מודלים הוא החלק הנוסף שכדאי להכיר כאן: הוא מריץ פאנל של מודלים יחד בקריאה אחת, וזו הדרך שבה תשווה פוסט-אימון טרי מול קו בסיס חזק בלי לכתוב מערכת בדיקה לכל אחד.

אם אתה בוחר במסלול Hy-Memory, הכותב הוא קריאה אחת בתוך לולאה גדולה בהרבה. רתמת זיכרון מפעילה את הכותב, ואז מפעילה מודל תשובות כדי לקרוא בחזרה את בנק הזיכרון ולהגיב — והקריאה השנייה הזו היא המקום שבו יושב בדרך כלל מודל מתארח. OrcaRouter מעביר הלאה את מחיר המחירון של הספק עם 0% תוספת, כך שהורדת מחיר מצד ספק במודל התשובות נכנסת לתוקף אצלנו באותו יום, וה-DSL לניתוב מרכיב את הכותב באירוח עצמי ואת הקורא המתארח לקריאה אחת. אתה לא צריך ששני החצאים יגיעו מאותו מקום, ואתה לא צריך חוזה שני כדי להוסיף את החצי שחסר לך.

איזו היא נקודת ההתחלה הנכונה?

אם מה שאתה רוצה הוא מודל שעושה משהו ביום שאתה מוריד אותו — ליתר דיוק, כזה שמשפר את הזיכרון של סוכן בלי שתאמן שום דבר — Hy-Memory-30B-A3B הוא היחיד מבין השניים שנותן לכך מענה. הוא גם זה שאי אפשר לבדוק בזול, והטענה המרכזית שלו היא זו עם המרווח הצר ביותר. היכנס לזה בציפייה להוציא כסף על חומרה לפני שתלמד משהו.

אם מה שאתם רוצים הוא בסיס שתוכלו לעצב, Nemotron 3.5 Lightning 30B-A3B Base הוא עבודה רצינית שפורסמה: ארכיטקטורה היברידית שתוכננה להקשר ארוך ולהסקה מהירה, ומשוחררת יחד עם מתכוני האימון שלה והרנס להערכה שתוכלו להריץ מחדש. הוא לא יענה על שאלה עד שתבצעו עליו אימון פוסט, וזה חלק מהעסקה ולא פגם.

התנגשות השמות תמשיך להכניס את שני אלה לאותו משפט. מספרי הפרמטרים ימשיכו להתאים. שום דבר אחר לגביהם לא יתאים, וככל שקורא יפריד מוקדם יותר בין "30B-A3B" לבין "אותו סוג של מודל", כך ההשוואה תהפוך לשימושית מוקדם יותר.

שווה להשאיר את נתון ההורדות על המסך. מומחה שעבר אימון־משלים, ששוחרר אתמול ללא גרסה מקוונטזת, ללא נקודת קצה מתארחת וללא הכרזה, עומד על אפס הורדות ותשעה לייקים — ואילו הצ'ק־פוינט הבסיסי המאומן־מראש של NVIDIA, שפורסם חודשיים קודם לכן, עומד על עשרות אלפים. הפער הזה אינו שיפוט איכות. זו מדידה של מידת הקושי שכל צוות יצר סביב הניסיון לנסות את הדבר.