AstaBrief 8B מול Gemma 4 12B: כותב מומחה מול ג'נרליסט שעושה הכול

ל-AstaBrief 8B ול-Gemma 4 12B יש אותה קטגוריית גודל ואותו רישיון, ומעבר לכך הם תשובות לשאלות שונות. AstaBrief 8B הוא מודל 8B עם משקלים פתוחים של Ai2, שיצא ב-2026-10-02 ועבר כיוונון עדין מ-Qwen3-8B, והוא עושה דבר אחד: הופך שאלת מחקר וקטעי ספרות שנשלפו לדוח עם ציטוטים, במעבר אחד, בכ-51 שניות מקצה לקצה. Gemma 4 12B הוא המודל המולטימודלי המאוחד בעל 11.95B של DeepMind, ג'נרליסט ברישיון Apache-2.0 שקולט טקסט, תמונות, אודיו וווידאו באופן מקורי ומטפל ב-256,000 טוקנים של הקשר. האחד הוא אזמל שמבצע משימה אחת מהר יותר מצינור העיבוד הכללי שהוא החליף; האחר הוא ארגז הכלים כולו, על המכשיר.

הפיתוי הוא להכריז שהמומחה טוב יותר בעבודתו ולהמשיך הלאה. השאלה השימושית יותר, אם אתה פורס על GPU צרכני אחד, היא אם היתרון של המודל הצר גדול מספיק כדי להצדיק הרצה של שני סטאקים במקום אחד — והתשובה תלויה במספרים שאף אחת מהמעבדות לא השיגה עבורם אימות בלתי תלוי.

החלקים שבאמת חופפים

שניהם מודלים צפופים עם משקולות פתוחות שאפשר להחזיק על כרטיס בודד, שניהם ברישיון Apache-2.0, ושניהם זמינים להורדה ולא מאחורי API. עד כאן יש חפיפה אמיתית, וזו הסיבה שההשוואה בכלל שווה.

מעבר לכך, הפער מוחלט, ושתי שורות עושות את רוב העבודה.

• פרמטרים — AstaBrief 8B: כ-8B צפוף, משקולות BF16 בקטגוריית GPU בודד. Gemma 4 12B: 11.95B צפוף, ארכיטקטורה מאוחדת ללא מקודד.

• מודאליות ב- — AstaBrief 8B: טקסט בלבד, ובאופן ספציפי שאלה בתוספת קטעים. Gemma 4 12B: טקסט, תמונה, אודיו ווידאו, כאשר אודיו וראייה מוקרנים ישירות למרחב ההטמעה של הדקודר דרך שכבות לינאריות קלות משקל ולא באמצעות מקודדים נפרדים.

• מודאליות פלט — שניהם: טקסט. AstaBrief 8B מפיק דוח מצוטט; Gemma 4 12B מפיק טקסט רגיל בכל צורה שתבקש.

• הקשר — AstaBrief 8B: תקרת המיקום של 40,960 טוקנים של מודל הבסיס, שאומן ב-32K. Gemma 4 12B: 256,000 טוקנים, עם סכימת קשב היברידית שמשזרת קשב מקומי בחלון מחליק (חלון של 1024 טוקנים) עם קשב גלובלי, ו-RoPE פרופורציונלי בשכבות הגלובליות כדי לרסן את זיכרון ההקשר הארוך.

• אימון — AstaBrief 8B: כיוונון עדין מפוקח על 47 אלף דוגמאות דוחות ואז כ-6 אלף זוגות DPO, על שמונה H100. Gemma 4 12B: אימון מקדים כללי של Google DeepMind בתוספת כיוונון להוראות, המתועד בדוח טכני.

• תפקיד — AstaBrief 8B: משימה אחת, יצירת דוחות עם ציטוטים. Gemma 4 12B: הסקה, קידוד, תהליכי עבודה סוכניים, צ'אט רב-לשוני ביותר מ-140 שפות.

• ציונים עצמאיים — אין כאלה עבור AstaBrief 8B מעבר לטבלאות של Ai2 עצמה. Gemma 4 12B מופיע בלוחות דירוג ציבוריים, כולל Artificial Analysis, שבו מדורגת משפחת הדגמים שהושקה; אלה מספרים של צד שלישי והם היחידים במאמר זה שלא סופקו על ידי ספק.

קרא את שורת ההקשר כהבדל המבני ולא כנקודה במפרט. תקרת ה-40K של AstaBrief 8B אינה מגבלה ש-Ai2 מנסה לעקוף; היא תוצאה של העיצוב. המודל לעולם אינו מחזיק קורפוס, אלא רק קטעים שמישהו אחר בחר ותחם. חלון ה-256K של Gemma 4 12B משמעו שאפשר לגשת לאותה משימה בלי שכבת אחזור כלל — להדביק גוף חומר גדול ולשאול — וזו ארכיטקטורה שונה מהותית לאותה תוצאה, כזו שמאחדת שתי מערכות לאחת.

היכן המומחה מנצח, ובכמה

הטיעון של Ai2 בעד AstaBrief הוא שעון, והוא טיעון טוב. צינור העיבוד Thinking מבוסס Claude שלה העמיד בממוצע 178.5 שניות לדוח; כתיבת כל הדוח במעבר אחד ב-AstaBrief מגיעה בממוצע ל-51.1 שניות, בערך פי 3.5 מהר יותר, ו-Ai2 טוענת שהפישוט לא פגע באיכות במדדים שהיא עוקבת אחריהם.

החברה שחשובה כאן היא לא Claude. אלא הפיגום הרב-שלבי עצמו — סיכום קטעים, אשכול נושאי, וכתיבה סעיף-אחר-סעיף — שאותם AstaBrief מוחקת. והפיגום הזה הוא אותה עבודה שאחרת היית צריך לבנות מעל כל מודל כללי, כולל Gemma 4 12B, אם רצית לקבל ממנו דוח מובנה עם ציטוטים. מודל כללי שמבקשים ממנו "דוח מצוטט" יפיק אחד; לגרום לו להפיק אחד לפי סכמה קבועה, עם מפתחות ציטוט שמתיישרים עם רשימת המקורות, זו הנדסת פרומפטים שאתה הבעלים שלה ומתחזק אותה.

טענת האיכות היא המקום שבו צריך להאט.

• ממוצע SQABench-CS2, פיצול הבדיקה (כפי שדווח על ידי הספק) — AstaBrief 8B 87.0, נקודת הביקורת SFT שלה 83.7, Qwen3-8B הבסיסי 77.3. 100 שאלות מדעי המחשב שנכתבו על ידי משתמשים.

• DeepScholarBench (לפי דיווח הספק) — AstaBrief 8B 53.50, מאחורי Asta ScholarQA של Ai2 עצמה עם 60.25 ו-DR-Tulu-8B עם 56.26.

• השוואה זוגית מול ה-pipeline מבוסס Claude של Ai2 (לפי דיווח הספק) — 55% ניצחון בפיצול ה-dev, 72% ב-test.

• מחקר אנושי (לפי דיווח הספק) — 14 שאלות משלושה חוקרים, DR-Tulu הועדף בסך הכול, כששניים מהשלושה ציינו את דיוק הציטוטים של AstaBrief.

אין ציון מקביל עבור Gemma 4 12B על SQABench-CS2, באף אחד מהכיוונים. ההיעדר הזה הוא הליבה הכנה של ההשוואה הזו: לא ניתן לתת מספר לאיכות הדיווח של Gemma 4 12B לעומת זו של AstaBrief 8B, כי אף אחד לא הריץ את הג'נרליסט דרך ההרנס של Ai2, ואף אחד לא מעמיד פנים שכן. כל מי שאומר לך שהמומחה "טוב יותר ב-26 נקודות" משווה נתון של ספק לכלום.

היכן שהגנרליסט מנצח outright

היתרונות של Gemma 4 12B אינם שוליים, וקל להמעיט בערכם.

הראשון הוא היקף. AstaBrief 8B הוא רכיב שמצפה שימסרו לו ראיות. Gemma 4 12B קוראת צילומי מסך, מקשיבה לאודיו, צופה בווידאו, כותבת קוד ומנהלת שיחה של 256K. אם העבודה שלך כוללת איורים במאמרים, הרצאות מוקלטות או חומר מקור רב-מודאלי, המודל המתמחה לא יכול להשתתף כלל והשאלה סגורה.

השני הוא שחשיפה ציבורית רחבה היא בעצמה סוג של ראיה. Gemma 4 12B מופיע בלוחות דירוג של צד שלישי; המשפחה משתרעת על פני חמישה גדלים, מ-E2B ועד 31B; הגרסאות המותאמות להוראות והמאומנות מראש פורסמו שתיהן יחד עם דוח טכני. זהו מקור רגיל, משעמם וניתן לאימות — וזה בדיוק מה שחסר גם ל-AstaBrief 8B וגם לקבוצה הרחבה יותר של מודלי מחקר מיוחדים.

השלישי הוא העלות המעשית של סטאק שני. הרצת AstaBrief 8B לכתיבת דוחות יחד עם מודל כללי לכל השאר פירושה שני מודלים בזיכרון, שני פורמטי פרומפט, שתי מערכות הערכה ושני מסלולי שדרוג. על כרטיס בודד של 24GB ב-BF16 זה לא בחינם — וכרטיס המודל של AstaBrief מזהיר שהוא עבר כיוונון עדין מול פורמט פרומפט ספציפי אחד, שפורסם כקובץ מערך נתונים, וששימוש בפורמט אחר עלול לפגוע בהתנהגות. למודל כללי אין נעילה מסוג זה.

• Gemma 4 12B (לפי דיווח הספק) — מדד אינטליגנציה 9 בתצורת Reasoning; אין נתון Gemma בר-השוואה בבנצ'מרקים של הדוח של Ai2.

• משפחת Gemma 4 — חמישה גדלים מ-E2B ועד 31B, רישיון Apache-2.0, דוח טכני שפורסם, נוכחות בלוחות דירוג של צד שלישי.

• Gemma 4 26B A4B, מוצע בקטלוג שלנו — $0.06 למיליון טוקני קלט, $0.33 למיליון טוקני פלט, חלון הקשר של 262,144 טוקנים. Gemma 4 31B מנותב גם כן, במחיר $0.13 / $0.38.

• Gemma 4 12B, מקומי — 11.95B צפוף, חלון הקשר של 256K, קשב היברידי של חלון מחליק וקשב גלובלי, חלון מקומי של 1,024 טוקנים.

בנוגע לזמינות, מודלי Gemma 4 מתארחים באופן מסחרי: Gemma 4 26B A4B הוא נתיב פעיל בקטלוג שלנו בתעריף של 0.06 דולר למיליון טוקני קלט ו-0.33 דולר למיליון טוקני פלט, עם חלון הקשר של 262,144 טוקנים, וגם Gemma 4 31B מנותב. זה חשוב מכיוון שזה אומר שאפשר להעריך את הזרוע הג'נרליסטית בלי להחזיק GPU בכלל. אף ספק בקטלוג שלנו לא מספק את AstaBrief 8B, כולל אותנו — זהו מודל שמורידים ומריצים, והדרך הישרה להשתמש בו היא על חומרה שבשליטתכם, או בתוך המוצר Asta של Ai2.

הרצת ההשוואה בעצמך, בזול

ההחלטה שהמאמר הזה לא יכול לקבל עבורך היא זו שאתה יכול לקבל בתוך אחר צהריים, מפני שהניסוי א-סימטרי בעלות. AstaBrief 8B זקוק למשקלים מקומיים ולפורמט הפרומפט שפורסם שלו; אפשר להרים אותו על כרטיס בודד עם vLLM בתצורה ש-Ai2 מתעדת, temperature 0.7 ו-top-p 0.95. הזרוע הגנרליסטית יכולה להיות קריאה למודל מתארח — Gemma 4 26B A4B במחיר של $0.06 לקלט ו-$0.33 לפלט למיליון טוקנים קרוב מספיק ברוחו כדי לכייל מולו, ואתה יכול להפנות את ההרנס שלך לשניהם בלי להחזיק את ה-GPU השני.

ואז מדוד את הדבר שטבלאות הספקים לא מודדות: על השאלות שלך, עם הקטעים שלך, כמה דוחות חוזרים כשהם מצוטטים כהלכה וכמה זמן לוקחת כל השרשרת לאחר שהוספת את דבק סכימת-הציטוטים לצד הגנרליסטי. ה-3.5x של Ai2 נמדד מול הפייפליין של Ai2 עצמה, לא מול Gemma 4 12B, והפער הזה ייראה אחרת בסטאק שלך.

השארת הזרוע הגנרליסטית מאחורי נקודת קצה אחת היא מה שהופך את זה לזול לחזרה במקום לפרויקט חד-פעמי: API אחד על פני יותר מ-200 מודלים, מחיר המחירון של הספק מועבר הלאה בתוספת של 0%, כך שהורדת מחיר של ספק מגיעה לחשבון שלך באותו יום, מעבר אוטומטי לגיבוי כאשר ספק מתדרדר, ו-DSL לניתוב אם רוצים כמה מודלים שיענו יחד. הנקודה אינה נאמנות לאף אחד מהמודלים; הנקודה היא שהרצה חוזרת של ההשוואה ברבעון הבא צריכה להיות שינוי בקונפיגורציה, כי שני המודלים האלה עתידים להיות מוחלפים.

איזה אחד אתה באמת צריך להוריד

בחר ב-AstaBrief 8B אם התוצר הוא דוח מחקר עם ציטוטים ויש לך שכבת אחזור שמזינה אותו. העיצוב במעבר יחיד הוא הישג הנדסי אמיתי, הפחתת זמן היצירה פי 3.5 היא הסיבה לקיומו, Apache-2.0 יחד עם נתוני אימון שפורסמו הופכים אותו לניתן לביקורת, ואף מודל כללי לא ישתווה למבנה הפלט שלו בלי שתבנה ותתחזק בעצמך את התשתית.

בחר ב-Gemma 4 12B אם העבודה שלך רחבה יותר מדוחות, אם המקורות שלך הם מולטימודליים, אם 256K של הקשר מאפשר לך לוותר לגמרי על בניית שכבת אחזור, או אם אתה רוצה את המודל שלו צמודים ציוני צד שלישי לשמו ונתיב מאוחסן שתוכל לקרוא לו כבר היום.

ושים לב לאסימטריה הכנה בראיות, כי היא פועלת נגד המומחה: המספרים של AstaBrief 8B, כולל אלה משלו שנשמעים הכי טוב, מגיעים מ-Ai2, מתארים מערך השוואה מ-2025 שהמעבדה אומרת שלא הריצה מחדש, וכוללים מחקר אנושי בן ארבע-עשרה שאלות. המספרים של Gemma 4 12B מגיעים מאנשים שלא עובדים ב-Google. ההבדל הזה במקור שווה יותר מכמה נקודות בבנצ'מרק שאיש לא הריץ על שניהם.