Gemma 4 12B: מבט פנימה אל המודל של גוגל ללא מקודד בגודל 12B

Gemma 4 12B הוא החבר בגודל בינוני במשפחת Gemma 4 של DeepMind: מודל צפוף בעל משקלים פתוחים עם 11.95 מיליארד פרמטרים, שקורא טקסט, תמונות, אודיו ופריימים של וידאו וכותב טקסט, וההחלטה ההנדסית המכוננת שלו היא שאין בו כלל מקודדים רב-מודאליים. הוא יושב בין ממוקד-הקצה Gemma 4 E4B לבין הגדול והדליל יותר Gemma 4 26B A4B. הערת ההשקה ממסגרת את תפקידו כהבאת עבודה רב-מודאלית סוכנית למחשב נייד — הסקה, שימוש בכלים, כתיבת קוד והבנת מסמכים או מסך שרצה על המכונה שלפניך ולא דרך חיבור מדוד לפי שימוש. זה גם הגודל שנושא את כל הנוכחות החיה של המשפחה הזו באתר שלנו: שלושה עמודי השוואה נכתבו עליו, ועד לעמוד הזה לא היה עמוד על המודל עצמו.

ההיפוך הזה ראוי לתת לו שם כבר בהתחלה, כי הוא מסביר את הצורה של כל מה שלמטה. קוראים לא מגיעים אל Gemma 4 12B כמו שהם מגיעים אל דגם דגל. הם מגיעים אליו מהצד, בדרך כלל מדף השוואה, ולעיתים קרובות כי השאלה האמיתית היא איזה גודל של Gemma 4 — והם רוצים לדעת מהו למעשה הצד השמאלי של ההשוואה לפני שהם מבזבזים עליו הורדה. החיפושים שאנחנו מודדים עבור השם הזה הם השוואתיים באופן מוחץ; המונח החשוף לבדו דל. אז זהו דף עזר: מהו ה-12B, מה נכתב בכרטיס המודל שלו, מה נדרש כדי להריץ אותו, מה הרישיון שלו מתיר, ואיזו מבין שלוש ההשוואות הקיימות כבר מכריעה את השאלה שאיתה הגעת.

זה אינו כתבת השקה, ואין לקרוא אותו ככזה. Gemma 4 12B יצא ב-3 ביוני 2026 — 132 ימים לפני עמוד זה — ושום דבר במודל לא השתנה בשבעת הימים שלפני הפרסום. תאריך זה מגיע מהערת השחרור של הספק עצמו, והוא משמש כאן כדי למקם את המודל בזמן ולא כדי להכריז עליו.

מהו ה-12B, ובמה הוא שונה מה-26B A4B

למשפחת Gemma 4 יש חמישה גדלים, והם אינם חמש נקודות על קו אחד. כרטיס המודל מפרט אותם כ-E2B, E4B, 12B Unified, 26B A4B ו-31B, והם מתחלקים בין שתי ארכיטקטורות: שלושה מודלים צפופים ואחד מסוג תערובת מומחים, כאשר גדלי ה-E משתמשים בהטמעות לפי שכבה כדי לכווץ את מה שבפועל רץ על המכשיר.

Gemma 4 12B הוא מודל צפוף. כרטיס המודל מפרט 11.95B פרמטרים בסך הכול ב-48 שכבות, עם חלון הזזה של 1,024 טוקנים והקשר של 256K טוקנים. ה-Gemma 4 26B A4B, לעומת זאת, הוא תערובת המומחים של המשפחה: 25.2B פרמטרים בסך הכול אך רק 3.8B פעילים לכל טוקן, הפרוסים על פני 30 שכבות עם 8 מומחים פעילים מתוך 128 ועוד מומחה משותף אחד. ה-"A" הזה הוא כל העניין בשם — המודל נושא 26B של משקלים ומשלם על כ-4B מהם בכל מעבר קדימה, ולכן כרטיס המודל מתאר אותו ככזה שרץ כמעט באותה מהירות כמו מודל 4B בעודו מחזיק ידע רב בהרבה.

אז ההבחנה הכנה בשורה אחת היא זו. 26B A4B הוא הגודל שאתה בוחר כשאתה רוצה את היכולת המרבית ליחידת השהיה ויש לך תחנת עבודה או שרת שעליו להריץ אותו. 12B הוא הגודל שאתה בוחר כשהמכונה היא מחשב נייד והתקציב הוא 16GB זיכרון. הערת ההשקה מציגה את 12B כגשר בין E4B ל-26B A4B, וגיליון המפרט מאשש זאת.

ההבדל המעניין יותר הוא ארכיטקטוני, והוא הסיבה לכך שה-12B מסומן כ"Unified" ולא רק כ"Dense". כל מודל רב-מודאלי אחר במשפחה מנתב תמונות ואודיו דרך מקודדים ייעודיים לפני העברת התוצאה למודל השפה — הכרטיס מפרט מקודד חזותי של ~150M ומקודד אודיו של ~300M בגדלי E, ומקודד חזותי של ~550M גם ב-31B וגם ב-26B A4B. ל-12B אין אף אחד מאלה; העמודה של פרמטרי מקודד החזות והאודיו ב-12B מופיעה כמקף בשני המקרים.

מה שהחליף אותם הוא קטן. פוסט ההשקה מתאר את הראייה כמודול הטמעה קל-משקל — כפל מטריצות בודד בתוספת הטמעה מיקומית ונרמול — ואת האודיו כהסרה מוחלטת של המקודד והקרנה של האות הגולמי לאותו מרחב ממדי כמו אסימוני טקסט. טלאי תמונה גולמיים וצורות גל של אודיו נכנסים ישירות לטרנספורמר יחיד מסוג decoder-only. התמורה המוצהרת היא השהיה רב-מודלית נמוכה יותר והיכולת לכוונן עדין את כל הדבר במעבר אחד, על פני מודאליות, עם מתאם יחיד במקום מתאם נפרד לכל מקודד.

זו גם הסיבה לכך ש-12B הוא ה-Gemma הראשון בגודל בינוני עם קלט אודיו נייטיבי. בכרטיס, "טקסט, תמונה, אודיו" היא שורת המודאליות עבור E2B, E4B ו-12B; ה-31B וה-26B A4B מסומנים כ"טקסט, תמונה" בלבד.

המפרט, כפי שמצוין בכרטיס המודל

כל מה שבסעיף הזה מקורו בכרטיס המודל של Gemma 4 באתר ai.google.dev, שמכסה את כל המשפחה ולא רק את 12B בלבד. במקומות שבהם הכרטיס אינו מפרט, הדבר מצוין ולא משלימים את החסר.

• אורך הקשר — 256K טוקנים ב-12B. הכרטיס מציין את החלוקה במפורש: המודלים הקטנים (E2B, E4B) מקבלים 128K, והמודלים הבינוניים (12B, 26B A4B, 31B) מקבלים 256K.

• מודאליות — קלט טקסט, תמונה ואודיו; פלט טקסט. הכרטיס מפרט וידאו כיכולת של המשפחה המעובדת כרצפי פריימים, ומתאר קלט תמונה ביחס גובה-רוחב ורזולוציה משתנים בכל הגדלים.

• סה"כ פרמטרים — 11.95B, צפוף, 48 שכבות. הכרטיס אינו מספק נתון של פרמטרים פעילים כי אין מומחים להפעיל.

• חלון מחליק — 1,024 טוקנים, כפול מה-512 שבהם משתמשים גדלי E.

• אוצר מילים — 262K, משותף בכל חמשת הגדלים.

• קשב — מודל היברידי המשזור קשב של חלון הזזה מקומי עם קשב גלובלי מלא, כאשר השכבה האחרונה היא תמיד גלובלית. שכבות גלובליות משתמשות במפתחות ובערכים מאוחדים בתוספת RoPE פרופורציונלי כדי לרסן את הזיכרון בהקשר ארוך.

• שפות — מאומנות מראש על 140+ שפות, כאשר הכרטיס מציין תמיכה מוכנה לשימוש עבור 35+.

שני מספרים ששווה ליישב ביניהם, כי הם נראים כמו אי-הסכמה — והם לא. כרטיס המודל אומר 256K טוקנים; עמוד המודל של Artificial Analysis עבור Gemma 4 12B אומר 262k. אלו אותו נתון שנכתב בשתי דרכים — 262,144 טוקנים הם 256K — ונתון אוצר המילים 262K של הכרטיס שיושב בסמוך הוא מה שגורם לצמד להיראות סותר במבט חטוף.

בבנצ'מארקים, הכרטיס מפרסם טבלת משפחה עבור נקודות הבדיקה המותאמות להוראות, ואלה מספרים שמדווחים על ידי הספק, ולא מספרים בלתי־תלויים. עבור Gemma 4 12B הכרטיס מפרט 77.2% ב-MMLU Pro, ‏78.8% ב-GPQA Diamond, ‏77.5% ב-AIME 2026 ללא כלים, ‏72.0% ב-LiveCodeBench v6, דירוג Codeforces ELO של 1659, ‏69.1% ב-MMMU Pro, ו-43.4% ב-MRCR v2 ב-128K עם שמונה מחטים. אותה טבלה מציבה את Gemma 4 26B A4B ב-82.6% MMLU Pro, ‏88.3% AIME, ‏77.1% LiveCodeBench ו-44.1% MRCR — מוביל ברוב השורות, וזה מה שהייתם מצפים ממודל גדול יותר, וקרוב מספיק בכמה מהן כדי שפער הגודל אינו כל הסיפור.

הקריאה העצמאית, מ-Artificial Analysis, היא כותרת אחת: ציון Intelligence Index של 14, במקום ה-20 מתוך 141 מודלים בקבוצת ההשוואה שלו, עם מהירות פלט נמדדת של 110.9 טוקנים לשנייה ועלות משוקללת של 0.10 דולר למיליון טוקני קלט ו-0.30 דולר למיליון טוקני פלט. נתוני העלות הללו הם חציון בקרב פלטפורמות צד שלישי שמארחות את המשקולות הפתוחות, ולא מחיר מחירון של הספק — שווה לדייק בכך, מפני שהספק אינו מפרסם כלל מחיר לפי טוקן עבור ה-12B בכרטיס המודל.

להריץ את זה: מה זה באמת צריך

פוסט ההשקה מציג את דרישת הכותרת ישירות: ה-12B הוא "קטן מספיק כדי לרוץ באופן מקומי עם 16GB בלבד של VRAM או זיכרון מאוחד". גדלי הקוונטיזציה שפורסמו עבורו הופכים את זה למוחשי.

• דיוק מלא — נקודת ביקורת מכווננת להוראות ב-Hugging Face היא קובץ safetensors יחיד בנפח 23.92 GB. ב-bfloat16 זהו טביעת הרגל הגולמית של המשקולות, לפני כל מטמון KV, כך שמכונה עם 16GB לא יכולה להכיל אותו וכרטיס עם 24GB הוא צפוף.

• הבניות המכומתות של הספק עצמו — מפני שה-12B הגיע עם אימון מודע לכימות ולא רק עם מכמת בדיעבד. הספק מפרסם GGUF של QAT בגודל של כ-6.98 GB עבור המשקלים, בתוספת קובץ הטלה מולטימודלי בנפח 0.18 GB, ובנייה של QAT compressed-tensors (w4a16) בגודל 10.26 GB. קיים גם צ'קפוינט QAT לא מכומת שפורסם במיוחד כבסיס לכיוונון עדין לפני כימות מחדש.

• GGUF קהילתי — גרסת Unsloth המשוכפלת בהרחבה נעה מכ-4.2 GB במצב 2-bit האגרסיבי ביותר, דרך 6.38 GB ב-IQ4_XS, 7.12 GB ב-Q4_K_M, 8.41 GB ב-Q5_K_M, ו-12.67 GB ב-Q8_0. המירור של LM Studio מפרסם את Q4_K_M בנפח 7.38 GB, את Q6_K בנפח 9.79 GB ואת Q8_0 בנפח 12.67 GB, כל אחד עם אותו קובץ הטלה בנפח 0.18 GB.

• MLX — בנייה מכומתת ל-8 סיביות עבור Apple silicon מגיעה לכ-12.7 GB על פני שלושה קבצים; בנייה קהילתית של 4 סיביות של כיוונון עדין לקוד מגיעה לכמעט 6.7 GB.

בקריאה משולבת, זו התשובה המעשית לשאלה "האם זה יתאים". גרסת 4-bit של Gemma 4 12Bבגודל של כ-7 GB היא הגרסה שמאפשרת למחשב נייד עם 16GB לעבוד, בדיוק כפי שטוען היצרן. אם אתה רוצה את המודל ללא כימות, היעד הוא כרטיס של 24GB או יותר, ואם אתה רוצה את חלון ההקשר המלא של 256K, אתה צריך מרווח נוסף מעל לנפח המשקלים עבור המטמון.

שני דברים שהמקורות לא נותנים לך, ושהעמוד הזה לא ימציא. אין נתון תפוקה שפורסם על ידי הספק עבור הסקה מקומית — 110.9 טוקנים לשנייה מ-Artificial Analysis הוא מדידה מתארחת על תשתית של צד שלישי, לא מספר של מחשב נייד, והשניים אינם ניתנים להחלפה. ואין טבלת זיכרון RAM מינימלי שפורסמה לפי קוונטיזציה; הגדלים שלמעלה הם גדלי קבצים, שהם רצפה, לא דרישה.

מה שדף המודל כן מתעד הוא את שרשרת הכלים הסובבת ולא סביבת הרצה מועדפת אחת: Hugging Face Transformers, llama.cpp, MLX, SGLang, vLLM ו-Unsloth להסקה ולכוונון עדין, עם LM Studio, Ollama ו-LiteRT-LM כמסלולים מקומיים ארוזים, והמשקלות ב-Hugging Face וב-Kaggle. ה-12B מגיע גם עם מנסחי טיוטה לחיזוי ריבוי טוקנים, המפורסמים כצ'קפוינטים נפרדים של עוזר — הורדה נוספת קטנה שמחליפה זיכרון בשיהוי נמוך יותר.

עובדת ניתוב אחת, נאמרת בפשטות כי זה מסוג הדברים שדף השוואה משאיר מעורפלים: Gemma 4 12Bאינו מודל ש-OrcaRouter מספק, בשום איות — לא השם החשוף, לא וריאנט עם תאריך, ולא כזה מכומת. גדלי Gemma 4 שאנחנו כן מנתבים הם 26B A4B ו-31B. אז אם אתם רוצים לקרוא למודל הזה, אירוח עצמי של המשקולות או מארח צד שלישי שמספק אותן הוא הדרך; אם אתם מעדיפים לא להריץ אותו בעצמכם, הצעד הגון הבא הוא לבדוק אם גודל אחר של המשפחה נותן לכם את מה שהייתם צריכים.

הרישיון, ספציפית לגודל הזה

כרטיס המודל של Gemma 4 מציין את הרישיון כ-Apache 2.0 ומקשר לעמוד הרישיון של Gemma 4, שמציג את נוסח Apache 2.0 — הרישיון Apache הסטנדרטי, ללא הגבלות שימוש, ללא סף משתמשים פעילים חודשיים וללא מסלול מסחרי נפרד. המאגר ב-Hugging Face של הצ'קפוינט המכוון להוראות בגודל 12B נושא את אותה הצהרה במטא-דאטה שלו ומפנה לאותה כתובת URL של הרישיון. אז לגבי גודל זה, לשאלת הרישיון יש תשובה קצרה: להשתמש בו, לשנות אותו, להפיץ אותו מחדש, באופן מסחרי או אחר, בתנאי Apache 2.0.

שני מסמכי לוואי קיימים לצידו וכדאי להכיר אותם ולא לבלבל בינם לבין הרישיון. הספק מפרסם עמוד של תנאי השימוש של Gemma ומדיניות שימוש אסור של Gemma. מדיניות השימוש האסור היא מסמך התנהגותי שמפרט קטגוריות של פלט שאסור להשתמש במודלים כדי לייצר. זוהי מדיניות, לא הגבלת רישיון על המשקולות — המשקולות עצמן הן Apache 2.0, וזה מה שמאפשר בכלל נגזרות קהילתיות של המודל הזה. אם אתה מפיץ מחדש Gemma 4 12B או כוונון עדין שלו, הרישיון הוא זה שמסדיר את ההפצה מחדש שלך; המדיניות היא זו שמסדירה שימוש מקובל.

ההבחנה הזו עונה על השאלה שמעלה המערכת האקולוגית של הנגזרות בקהילה, בלי צורך לאפיין את ההתנהגות של איש. מכיוון שהמשקולות פתוחות תחת רישיון מתירני, צדדים שלישיים יכולים ואף מפרסמים כיוונונים עדינים וקוונטיזציות של ה-12B — וריאנטים שעברו אבליטרציה, כיוונונים עדינים תחומיים, מתכוני קוונטיזציה חלופיים. מה שהרישיון מתיר הוא הפצה מחדש של אותן נגזרות; הרישיון הוא גם הסיבה לכך שהן קיימות.

שלוש ההשוואות שהעמוד הזה עומד מאחוריהן

כל שלושת הדפים החיים תחת גבעול זה הם התמודדויות, וכל אחד מהם כבר עונה על שאלה אחרת. הדף הזה אינו שופט אף אחד מהם — הוא הדבר שהם מתארים.

• Gemma 4 12B מול Gemini 3.5 Flash-Lite — מכריע מה קורה כששתי האפשרויות הן של אותו ספק, והציר הוא אופן התשלום: מודל שאתם מורידים תחת Apache 2.0 לעומת המדרגה המחויבת הזולה ביותר של ה-API המתארח.

• Gemma 4 12B מול GLM 5.2 — מכריע את ההשוואה הא-סימטרית הפראית: מודל 12B נטול מקודד שאפשר להריץ על מחשב נייד לעומת תערובת מומחים במשקולות פתוחות עם 744 מיליארד פרמטרים, שנבנתה לקידוד סוכני לטווח ארוך במחיר גבוה פי כמה.

• Gemma 4 12B מול Qwen3.8 Max — מכריע ישירות את השאלה של מכשיר מקומי מול מכשיר שכור: מכונה על השולחן שלך לעומת דגל אותה מעבדה המסופק לפי טוקן.

אם מה שאתם באמת רוצים הוא אחד מגדלי Gemma 4 האחרים ולא עוד השוואה מול 12B, העמוד שמכסה את כל חמשת הגדלים בבת אחת הוא מרכז המשפחה, ושם מתוארים יחד E2B, E4B, 26B A4B ו-31B. ואם כבר החלטתם שה-12B אינו הגודל הנכון, המודלים שאיתם משווים אותו לרוב — GLM 5.2, Qwen3.8 Max ו-Gemini 3.5 Flash-Lite — נגישים כולם דרך OrcaRouter במפתח אחד, עם 0% תוספת על מחיר המחירון של הספק עצמו, כך שהורדת מחיר של ספק מגיעה לכאן באותו יום שבו היא מוכרזת.

מה לא הוסדר

שני פערים ראויים לציון במקום לטשטש אותם. טבלת הבנצ'מרקים שלמעלה מבוססת על דיווחי הספק — הכרטיס ומערך ההערכה של הספק עצמו — ולמרות ש-Artificial Analysis דירגה מאז את המודל באופן בלתי תלוי במדד אינטליגנציה של 14, אין שכפול בלתי תלוי רחב של הנתונים לפי בנצ'מרק, אז התייחסו למספרים ברמת השורה כאל טענות. ואין טבלת זיכרון מפורסמת לפי קוונטיזציה עבור ה-12B, מה שאומר שהשורה "16GB זה מספיק" היא טענת ספק עם גדלי קבצים שתומכים בה, ולא תצורה מדודה שאפשר להעתיק.

את המודל עצמו קל למקם: מודל מולטימודלי נטול מקודד, מסוג Apache 2.0, בעל 12B פרמטרים, מתוארך ל-3 ביוני 2026, שירוץ על מחשב נייד ב-4-bit והוא הגודל הקטן ביותר של Gemma 4 עם אודיו מובנה. מה שהוא לא: מודל עם תעריף אירוח של צד ראשון, וזו הסיבה שההחלטה המעשית לגביו היא קודם כל החלטת חומרה, ורק אחר כך החלטת מחיר.

אם הגעת לכאן מתוך התאמה וההתאמה אינה זו שהיית צריך, העמוד הבא הוא ההשוואה שמתאימה לשאלתך, ואם גם זו לא — משפחת Gemma 4 הרחבה יותר — ה-12B הוא גודל אחד מתוך חמישה, והגודל שאתה באמת רוצה עשוי להיות ה-26B A4B שאליו תוכל לפנות היום או ה-31B שתוכל להריץ בקצה העליון של טווח המשפחה.