NVIDIA Nemotron Labs Dory 1.0 4B לעומת Gemma 4 12B: פי שלושה פרמטרים, אבל לא אותו תפקיד

הדרך המובנת מאליה לקרוא השוואה בין NVIDIA Nemotron Labs Dory 1.0 4B ל-Gemma 4 12B היא כמאבק גדלים — 4B מול 12B, קטן מול בינוני — אבל המסגור הזה מבזבז את ההשוואה, מפני ששני המודלים אינם מקבלים את אותם קלטים, אינם מחזיקים באותה עמדת רישוי, ואינם נעשים מהירים יותר באותו אופן. Dory היא רשת טקסט-בלבד, אנגלית-בלבד, לולאתית, שהמאפיין המכונן שלה הוא שהורדה אחת משרתת כמה תקציבי חישוב. Gemma 4 12B הוא מודל מולטימודלי מכל-אל-כל שמקבל טקסט, תמונות ואודיו דרך מחסנית אחת ללא מקודד ומחזיר טקסט. פער הפרמטרים אמיתי, אך הוא ההבדל הכי פחות אינפורמטיבי ביניהם. הנה מה שבאמת מבדיל בין השניים, כולל החלקים שבהם אף אחד עדיין לא הריץ את הניסוי.

מהו כל אחד מהם, במעבר אחד

N​VIDIA N​emotron Labs Dory 1.0 4B הוא מודל צפוף 4B שאומן על ידי N​VIDIA ופורסם ל-Hugging Face בארבע קוונטיזציות — BF16, MXFP8, NVFP4 ו-Q5_K_M GGUF — תחת רישיון OpenMDW 1.1. הכרטיס שלו מציין את הבנייה "GA (10/16/2026)". הוא מטפל בקלט טקסט ופלט טקסט, באנגלית בלבד, עד 256K טוקנים של הקשר. הארכיטקטורה היא העיקר: בלוק רקורסיבי בן 20 שכבות שמופעל מספר משתנה של פעמים בין בלוק קלט בן 8 שכבות לבלוק פלט בן 8 שכבות, כך שמספר הלולאות הופך לפרמטר בזמן הגשה ולא להחלטה בזמן אימון. N​VIDIA ממליצה על שתי לולאות כברירת מחדל וארבע כאשר דיוק סוכני חשוב יותר. דבר לא הוכרז על השחרור; המאגרים אוכלסו בין לילה והספק לא פרסם פוסט נלווה.

Gemma 4 12B הוא מודל מולטימודאלי צפוף של Google DeepMind עם 11.95B פרמטרים, ברישיון Apache 2.0, חלון הקשר של 256K, 48 שכבות עם קשב היברידי וחלון הזזה של 1024 אסימונים, ואוצר מילים של 262K. הוא מתואר כנטול מקודדים: טלאי תמונה וצורות גל אודיו מוטלות ישירות אל מרחב ההטמעה של מודל השפה ולא דרך מקודדי ראייה ואודיו נפרדים. קלט טקסט, תמונה ושמע; פלט טקסט. וידאו מטופל כפריימים מדוגמים, כאשר הכרטיס מגביל אודיו לכ-30 שניות ווידאו לכ-60 שניות בקצב של בערך פריים אחד לשנייה. הוא תומך במצבי חשיבה ניתנים להגדרה ובתפקיד מערכת ילידי, והוא זמין לציבור ומורד בהיקף נרחב מאז אמצע 2026.

הבהרה אחת שכדאי להבהיר לפני שמופיע מספר כלשהו: Dory מגיע בארבע גרסאות, וזו שמזהה המאגר שלה מצוטט לרוב היא גרסת MXFP8, אבל הבנצ'מרקים ש-N​VIDIA פרסמה נמדדו על BF16. הצ'קפוינט של MXFP8 הוא כימות של אותם משקלים, לא מודל אחר.

בעיית הבנצ'מרק: שני אלה מעולם לא הורצו זה כנגד זה

זה החלק שמאמר השוואה בדרך כלל מטשטש, ולכן ראוי לומר אותו במפורש. אין תוצאת רתמת בדיקות משותפת עבור Dory 1.0 4B ו-Gemma 4 12B. טבלת הבנצ'מרקים של NVIDIA עבור Dory משווה אותו מול Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B ו-Qwen3.6-35B-A3B — היא בוחרת ב-26B Gemma, לא ב-12B, והיא כלל אינה כוללת את ה-12B. הנתונים שפרסמה Google עבור ה-12B מגיעים מרתמת בדיקות אחרת, מול סט השוואה אחר, במסמך שפורסם חודשים קודם לכן ומכסה תמהיל משימות שונה.

הצבת המספרים של שני הכרטיסים זה לצד זה יוצרת טבלה שנראית סמכותית ולא אומרת דבר, מפני שהפרש של שתי נקודות בין שתי ערכות בדיקה אינו הפרש של שתי נקודות בין שני מודלים. אז הגרסה הכנה היא זו: הכרטיס של Dory עצמו טוען להתנהגות סוכנית בערך בדרגת Qwen3.5-9B בארבע לולאות, בעודו מפגר אחרי כל אחד מהמשווים של עצמו בבנצ'מרקים עתירי ידע, והכרטיס של G​emma 4 12B טוען לפרופיל מולטימודלי עם חלון של 256K ולווריאנטים מכווני הוראות בכל סדרת G​emma 4. טרם נבדק אם מי מהטענות שורדת מפגש עם מערך המשימות של האחרת.

היכן שהם חופפים באמת, והיכן שהחפיפה מסתיימת

ארבעה מימדים חשובים להחלטה אמיתית, והם מצביעים לכיוונים שונים.

• מודאליות — Gemma 4 12B מקבל טקסט, תמונות ואודיו. Dory 1.0 4B מקבל טקסט. זה לא פער בנצ'מרק שרתמת בדיקה יכולה לסגור; זו יכולת שיש למודל אחד ולאחר אין, ואם בעומס העבודה שלך יש צילום מסך, עמוד סרוק או קליפ קולי בכל מקום בו, ההשוואה נגמרה.

• שפה — Dory היא באנגלית בלבד. הקו של Gemma 4 הוא רב־לשוני, וכרטיס ה־12B שלו כולל הערכה רב־לשונית ותוצאות דיבור, כולל מבחני תרגום שאינם באנגלית. שפה שנייה בכל מקום בפרודקשן פוסלת את Dory.

• הקשר — שניהם מפרסמים 256K, וזה המקום היחיד שבו המפרטים באמת תואמים. הכרטיס של Dory אומר ש-262,144 עמדות מאומתות ב-vLLM תחת פקודת ההשקה שנשלחה; G​emma 4 12B מציין 256K עם חלון הזזה של 1024 טוקנים בתוך מערך קשב היברידי. קיימת הערכת הקשר ארוך שפורסמה עבור G​emma; עבור Dory, שורת ההקשר הארוך היחידה היא של N​VIDIA עצמה, שנמדדה עם מפתחות תשובה מתוקנים ומודל שופט ישן יותר, דבר שהכרטיס חושף.

• התנהגות חישובית — זה היתרון הא־סימטרי של Dory, וזה בכלל לא קשור לאיכות. G​emma 4 12B הוא מודל צפוף קונבנציונלי: עומק קבוע, עלות קבועה לכל טוקן, הסקיילינג של החומרה או קיצור ההקשר הם מה שמשנה את החשבון. העומק של Dory הוא פרמטר בזמן ריצה. הריצו אותו בלולאה אחת כשהשהיה היא האילוץ, ובארבע כשהדיוק הוא האילוץ, בלי להוריד צ'קפוינט שני. N​VIDIA מספקת גם מצב מטמון KV של הלולאה האחרונה, שנועד להחזיק את טביעת המטמון בערך בגודל של לולאה אחת ללא תלות במספר הלולאות — ואם זה מחזיק מעמד, זה מסיר את ההתנגדות הסטנדרטית לארכיטקטורות רקורסיביות. זו הטענה בכרטיס שהכי כדאי לבדוק באופן בלתי תלוי.

• רישיון — OpenMDW 1.1 עבור Dory, Apache 2.0 עבור G​emma 4 12B. שניהם מתירים שימוש מסחרי. אם הבדיקה המשפטית שלך מתייחסת ל-Apache 2.0 כדרך עם ההתנגדות המועטה ביותר, G​emma מתחילה ביתרון שאין לו דבר וחצי דבר עם המשקולות.

להריץ אותם: אחד הוא שגרה, האחר הוא בילד

{{1}}Gemma 4 12B הוא הורדה סטנדרטית בצורת משפחת Llama. הוא בפורמט Transformers, הוא פועל על המנועים שכבר יש לך, והבניינים המקווננים — וריאנטי ה-QAT GGUF וה-w4a16 — זמינים לציבור מאז זמן קצר לאחר המודל עצמו.

Dory 1.0 4B עדיין לא שם, והכרטיס אומר זאת במפורש. התמיכה ב-vLLM נמצאת "בבדיקה" ב-pull request פתוח; עד שהוא ימוזג, מתקינים את vLLM מאותו ענף עם הדגל precompiled-kernel ואז מעבירים דריסות של loop-count ו-KV-cache בזמן ההגשה. התמיכה ב-llama.cpp נמצאת ב-pull request פתוח שני, ו-N​VIDIA מצמידה commit מסוים ולא את ה-head הנע, וזו ההחלטה הנכונה עבור תצורת ייחוס, אבל היא עדיין מחייבת בנייה מהמקור. אין נקודת קצה מתארחת עבור Dory בשום מקום שנוכל לאמת — לא מ-N​VIDIA ולא מאף גורם אחר — ומוני ההורדות בכל ארבעת המאגרים שלה עוד היו באפס בזמן כתיבת הדברים. G​emma 4 12B, לעומת זאת, הורד הרבה יותר ממיליון פעמים בחודש האחרון, ויש לו אקוסיסטם של פיין-טיונים וקוונטיזציות שנבנו עליו. פער הבשלות הזה הוא, עבור רוב הצוותים, גדול יותר מכל פער בנצ'מרק בכל אחד מהכרטיסים.

פרטי החומרה דלים משני הצדדים. נתוני המהירות המפורסמים היחידים של Dory מבית N​VIDIA הם האצות קוונטיזציה ב-DGX Spark — 1.69× ו-1.84× עבור MXFP8 לעומת BF16 בהתאם לתמהיל הקלט/פלט, 2.17× ו-2.44× עבור NVFP4 — לא נתוני תפוקה. עבור G​emma 4 12B, השאלה המקבילה, VRAM באורך הקשר נתון, ניתנת למענה מתוך שנה של מדידות קהילתיות ולא מתוך הכרטיס.

איפה שהראוטר נכנס לתמונה, בכנות

אף אחד מהמודלים האלה אינו משהו שאנו מספקים, ולומר זאת מועיל יותר מאשר לרמוז אחרת. N​VIDIA N​emotron Labs Dory 1.0 4B אינו בקטלוג של OrcaRouter ואין לו נקודת קצה מתארחת בשום מקום; G​emma 4 12B ספציפית גם אינו בקטלוג, אף שאחיו הגדולים יותר google/gemma-4-26b-a4b-it וגם google/gemma-4-31b-it נמצאים.

מה שנשאר מכך הוא הצורה המעשית של ההחלטה. אם אתם בוחרים בין מודל 4B שעליכם לארח בעצמכם לבין מודל 12B שאותו אתם יכולים לשכור, הצד המאוחסן בעצמכם נושא בחשבון GPU ובנטל תפעולי שאין בצד השכור, והדרך היחידה לתמחר זאת ביושר היא להריץ את שניהם מול מערך המשימות שלכם. OrcaRouter מועיל עבור החצי המאוחסן של הניסוי הזה: מפתח API אחד מגיע למודלים של Google עם משקולות פתוחות שאנחנו כן מספקים, במחיר המחירון של הספק עם 0% תוספת, כך שההשוואה אינה מחייבת חוזה שני או SDK שני. מעבר אוטומטי בין שרתים מכסה את חלון הזמן שבו מאגר ה-GPU שלכם רווי באמצע הבנצ'מרק, וה-DSL של הניתוב מאפשר לקריאה המאוחסנת בעצמכם ולקריאה המאוחסנת להתמקם מאחורי נקודת קצה אחת, כך שהמעבר בין הצדדים הוא שינוי תצורה ולא כתיבה מחדש. שום דבר מזה לא אומר לכם איזה מודל מנצח. זה מסיר את התירוץ לא לגלות.

אז איזה אחד?

אם המשימה שלך היא טקסט בלבד, אנגלית בלבד והקשר ארוך, ובמיוחד אם היא אייג'נטית — קריאות לכלים, תהליכי עבודה מרובי שלבים, פלט מובנה — Dory 1.0 4B הוא ההימור המעניין יותר וזה שהארכיטקטורה שלו נותנת לך משהו שה-12B לא יכול להציע: מחוון מחשוב. קבל את ההימור בעיניים פקוחות לגבי פער הבשלות, שני pull requests שלא מוזגו, היעדר מוחלט של הערכה בלתי תלויה, והעובדה שהכרטיס שלו עצמו ממקם אותו מאחורי כל משווה ב-GPQA וב-HLE.

אם המשימה שלך כוללת תמונה, צליל, שפה שנייה, או דדליין ייצור בתוך החודש הקרוב, Gemma 4 12B היא התשובה וההשוואה מעולם לא הייתה צמודה. זהו מודל גדול יותר, יקר יותר ובעל יכולות רבות יותר, עם אקוסיסטם מאחוריו ובלי שלב בנייה לפניו.

הדבר שצריך לעקוב אחריו אינו מספר בנצ'מרק — אלא אם בקשות ה-pull של vLLM ו-llama.cpp ימוזגו. ביום שבו Dory ייטען מקובץ בינארי משוחרר ולא מענף, צד האירוח העצמי בהשוואה הזו מפסיק להיות פרויקט ומתחיל להיות שינוי קונפיגורציה. עד אז, פסק הדין הכנה הוא שאחד מהמודלים האלה הוא מוצר והאחר הוא מאגר שהופיע בין לילה, ואיזה מהם תרצו תלוי לחלוטין בשאלה אם אתם משחררים או בודקים.

שום דבר מזה אינו היפותטי: כשלי ה-AI המתועדים ותקריות הסוכנים העומדים מאחורי מהדורות כמו זו מרוכזים בארכיון תקריות ה-AI של OrcaRouter, שבו כל רשומה כוללת מקורות משלה, חומרה, דירוג מהימנות וסימון שנוי במחלוקת.