כרטיס כותרת שנוצר עם הכיתוב 'Inkling 2 Mini מול Inkling 2 Small', עם כתובית 'אחד עשר נקודות אינדקס, במרחק 394GB', ומתחתיו שני כרטיסים מעוגלים עם הכיתוב 'Inkling 2 Mini — קובץ אחד, כ-20GB' ו-'Inkling 2 Small — 36 קבצים, 393.5GB', מופרדים במפריד המסומן '11 נקודות'. הלוגו של OrcaRouter נמצא בפינה הימנית התחתונה.
Guides & Insights

Inkling 2 Mini לעומת Inkling 2 Small: 11 נקודות עבור 394GB

מחבר

jinhao.song

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

שני צ'קפוינטים, משפחה אחת, ובחירה שנקבעת לפי כמות מקום הדיסק והזיכרון שאתם מוכנים להקצות תמורת אחת־עשרה נקודות במדד. Inkling 2 Mini הוא הקטן: 26.4 מיליארד פרמטרים בסך הכול, 3.4 מיליארד פעילים, קובץ יחיד בגודל כ־20GB ש־Thinking Machines Lab פרסמה ב־20 בנובמבר 2026 תחת Apache 2.0. Inkling 2 Small הוא הגדול: 594 מיליארד בסך הכול, 17 מיליארד פעילים, 393.5GB ב־36 קבצים, והמשקלים נפתחו ב־12 בנובמבר לאחר שבוע של זמינות סגורה שהחלה עם ההשקה שלו ב־5 בנובמבר. במדד Artificial Analysis Intelligence Index v5.0.1, שמודד כל אחד מהם בנפרד, הם משיגים 20.1 ו־31. זה כל שיקול התמורה בשורה אחת, והוא ממעיט במידת השוני בהתנהגותם של השניים.

מה שלפנינו מפריד בין שני סוגי הראיות, מפני שההבדל מכריע את רוב הוויכוחים על המשפחה הזו. ציון אינדקס, עלות לכל משימת אינדקס, מהירות, הקשר ורישיון הם נתונים של Artificial Analysis ומטא-נתוני ספק, שנקראו ב-21 בנובמבר 2026. כל אחוז בנצ'מרק הוא טבלת ההערכה של Thinking Machines עצמה מהפוסט הרלוונטי להשקה, על צ'ק פוינט שהחברה אימנה, והוא מסומן כמדווח על ידי הספק בכל פעם שהוא מופיע. אף אחת מהטבלאות לא שוכפלה מחוץ למעבדה.

מהו בעצם כל צ'קפוינט

נתחיל מהארטיפקט, כי הארטיפקטים אינם מאותו סוג. Inkling 2 Small הוא מודל תערובת-מומחים שטוח: 594B בסך הכול, 17B פעילים לכל טוקן, כשהמשקולות פורסמו שמונה ימים לאחר ההשקה כ-24 שרדים של safetensors בתוספת גרסת MXFP8 גדולה עוד יותר. Inkling 2 Mini הוא צאצא גזום ובעל לולאה — אותו מתכון ראשי עם שני שלישים מהמומחים שנמחקו ולולאה שנוספה לשכבות האמצעיות. הוא מגיע כקובץ אחד בגודל כ-20GB משום שאומן מקצה לקצה ב-4-bit ונפרס ברמת הדיוק שבה אומן, 20 שכבות ב-NVFP4 ו-4 ב-MXFP8, כך שאין הפסד המרה לשלם עליו.

• סך הפרמטרים — Inkling 2 Mini 26.4B לעומת Inkling 2 Small 594B.

• פרמטרים פעילים — 3.4B לעומת 17B, כאשר Mini מגיע ל-5.4B של הפעלות משקל אפקטיביות לכל טוקן לאחר שמספרים את שלושת מעברי הלולאה שלו.

• הורדה — כ-20GB בקובץ אחד לעומת 393.5GB ב-36 קבצים, או 622.8GB עבור גרסת MXFP8.

• Index — 20.1 לעומת 31, שניהם ב־Intelligence Index v5.0.1.

• עלות לכל משימת אינדוקס — $0.59 לעומת $1.18.

• מהירות פלט והטוקן הראשון — 280 טוקנים לשנייה ב־9.72 שניות לעומת 118 טוקנים לשנייה ב־39.68 שניות.

• הקשר — 1M טוקנים בשני כרטיסי המודל, ו-1M שנרשמו על ידי Artificial Analysis עבור שניהם. שכבת השירות של Inkling 2 Small ב-Tinker צרה יותר מהכרטיס שלה, ו-Mini יורש את אותו פער; התייחסו למיליון כיכולת, לא כהבטחה תפעולית.

• רישיון — Apache 2.0 בשניהם. הכרטיס של Small מצהיר על כך בלי לכלול קובץ LICENSE; הכרטיס של Mini מצהיר על כך במטא-דאטה, עם אותה היעדרות. שווה לדעת אם הביקורת המשפטית שלך רוצה מסמכים בעץ המקור.

Screenshot of the Artificial Analysis model page for Inkling 2 Small, showing a score of 31 on the Intelligence Index against a median of 23 for its class, 154M tokens generated during the index run against a 104M median, pricing of $0.30 per 1M input and $1.00 per 1M output tokens, $1.18 per index task, 21.2 minutes per task, a 1M-token context window, a 39.68-second time to first token and 118 output tokens per second.

אחד עשר נקודות, ומאיפה הן באות

קריאה של שתי טבלאות הספקים זו לצד זו היא הדרך היחידה לראות מה כוח המחשוב הנוסף קונה, כי ציון האינדקס לבדו מסתיר זאת. שני המודלים הוערכו על ידי אותה מעבדה עם מערכי בדיקה חופפים, כך שהשורות ניתנות להשוואה בקירוב זו לזו — ורק זו לזו.

• DeepSWE v1.1 — Inkling 2 Small 72.1% לעומת Inkling 2 Mini 48.2%. הפער הרחב ביותר בבלוק הקידוד.

• SWE-bench Pro v2, קשה — 86.3% לעומת 77.9%.

• SWE-bench Verified — 79.2% עבור Mini, bash בלבד. טבלת ההשקה של Small עצמה אינה מציגה את אותה שורה, כך שזהו מדד הקידוד היחיד שבו אי אפשר ליישר בין שני הפוסטים.

• Vibe Code Bench v1.1 — 81.6% לעומת 77.9%.

• FrontierCode v2.0 — 25.4% לעומת 15.1%. פער של עשר נקודות במדד שבו שניהם החלשים ביותר.

• PMPP-Hard, מבחן האופטימיזציה של הקרנל — 494.27 AUC עבור Small לעומת 455.82 עבור Mini, שזה קרוב יותר ממה שמספרי הפרמטרים מרמזים וזו השורה שאליה מצביע פוסט ההשקה כשהוא אומר ש-Mini "מתקרבת" לאח הגדול שלה.

• BrowseComp — 90.2% לעומת 79.0%; DeepSearchQA 90.9% לעומת 85.3%; MCP Atlas 85.0% לעומת 82.7%. חיפוש ושימוש בכלים מצמצמים את הפער לספרות בודדות.

• CritPt v2, מלא — 55.7% לעומת 31.4%. הסקה מדעית היא התחום שבו הידע המאוחסן הנוסף ניכר ביותר.

• AA-Omniscience — 16.1 עם שיעור אי-הזיה של 73.3% לעומת −8.6 עם 63.4%.

השורה האחרונה היא זו שכדאי להתעכב עליה. ציון יודע־כל שלילי פירושו שמודל גרוע מלסרב להשיב, ופער האינדקס בן 11 הנקודות נובע ברובו משם: המודל הגדול יודע דברים, והקטן מסיק אותם. Thinking Machines אומרת זאת בעצמה, בניסוח אחר, כשהיא מסבירה שלופ מוסיף חישוב סדרתי אך לא עובדות מאוחסנות. הגיזום קיצץ שני שלישים מהמומחים; הידע נמצא במומחים שנותרו.

אותו מתכון, מחבת קטנה יותר

הדמיון המשפחתי אינו מהלך שיווקי. שני המודלים עברו SFT עם תמהיל נתונים דומה ושלב RL בסך 2.2T טוקנים על פני 2,000 צעדים, כאשר בשניהם נעשה שימוש בזיקוק on-policy לצורך יישור. תהליך האימון-לאחר-האימון הוא אותו תהליך; מה ששונה הוא מה שהגיע אליו.

המסלול של Mini לשם שווה להכרה משום שהוא מסביר כמה משורות הבנצ'מרק. הוא החל בדלילות 48, כשכל טוקן נותב ל-8 מתוך 384 מומחים. בשלב מסוים באמצע האימון, Thinking Machines שמרה את 128 המומחים בשימוש הרב ביותר בכל שכבה — קיצוץ של שני שלישים — וריפאה את ה-loss על 1T טוקנים שזוקקו ממודל Inkling פנימי גדול יותר, תוך אימון השורדים להשתלט על עבודתם של המומחים שנמחקו. לאחר מכן היא הוסיפה לולאה: ארבעה בלוקים של שש שכבות, כששני הבלוקים האמצעיים מופעלים שלוש פעמים, ושער נלמד שממזג את המסר של המעבר הקודם לזה הבא, החל בהגבר אפס כך שהאימון מתחיל כמודל רגיל.

שתי החלטות שיקול דעת בתכנון הזה מאלפות. החברה הריצה את שתים־עשרה השכבות האמצעיות בלולאה ולא את שתים־עשרה האחרונות, לאחר שבדקה את שתיהן ב־28 הערכות ומצאה שהאמצעיות טובות יותר ב־27, עם רווח שקול מבחינת מחשוב של 1.51–1.91× לעומת 1.24–1.36×. והיא השאירה את הבלוקים הראשונים והאחרונים במעבר יחיד, מתוך התאוריה שהם מטפלים בתרגום מטוקן לייצוג ואילו האמצע נושא את ההפשטה. זו הסיבה ש-Mini מקבל 48 הפעלות שכבות לכל טוקן מתוך 24 שכבות מאוחסנות בלי להוסיף פרמטר.

המחיר של הטריק הזה הוא תפעולי. MoE שטוח הוא משהו שכל סטאק אינפרנס מגיש כבר שנתיים. מודל בלולאה זוכה לתמיכה ב-SGLang וב-vLLM בערך מאז יום יציאתו, וכרטיס המודל אומר בפשטות שתמיכת ריצה למודלים בלולאה היא חדשה ושהמהירות משתנה. אם אתם בוחרים בין השניים האלה למסלול פרודקשן החודש, המשעמם הוא זה עם הקרנל הבוגר.

החומרה היא הגורם המפריד האמיתי

שני הצ'קפוינטים אינם מתחרים על אותה מכונה, וזה מה שקובע יותר פריסות מאשר הציון. ה-Mini מוגדר לרוץ על NVIDIA DGX Spark בודד, על כל מכשיר Apple silicon עם 32GB ומעלה, או על GPU עם 32GB של VRAM; בהדגמה של החברה עצמה הוא בונה מדמה טיסה שניתן לשחק בו באופן לא מקוון על MacBook Pro במצב טיסה, וסימולציית עיירה עם עשרים סוכנים על מחשב נייד אחד. מחקר יעילות של סטנפורד שנערך על גישה מוקדמת העמיד אותו על 0.703 אינטליגנציה לוואט על DGX Spark ב-MXFP8 ובמאמץ הסקה נמוך — נמדד על ידי חוקרים מחוץ למעבדה, על מכשיר אחד, וזה האות העצמאי החזק ביותר בהשקה.

Small זקוק לצומת. 393.5GB של משקלים לא נכנסים לשום מקום שאדם מחזיק ברשותו, ולכן הדרך הטבעית לצרוך אותו היא נקודת קצה מתארחת — Tinker, במקרה של הספק — ולכן ההשוואה המעניינת עבור רוב הקוראים אינה "איזה קובץ להוריד" אלא "איזה מאלה אפשר בכלל להריץ". Mini עונה על השאלה הזו עם מחשב נייד. Small עונה עליה עם תקציב.

האסימטריה הזו היא המקום שבו הניתוב מצדיק את עצמו, וכדאי להיות קונקרטיים ולא להסתפק ברמזים. אף אחד מהמודלים לא נמצא ב-OrcaRouter, כך שאין כיום לאן לנתב אליהם. מה שכן נמצא ב-OrcaRouter הוא הצד המתארח של אותה החלטה: המודלים שאליהם הייתם פונים עבור עומסי העבודה שצ'קפוינט ה-594B מיועד להם בפועל, במפתח אחד, במחיר המחירון של הספק ללא תוספת. ה-DSL לניתוב הוא החלק החשוב כאן — הוא מאפשר לפצל לפי משימה כך שהקריאה היקרה תתבצע רק בבקשות שזקוקות לה, עם מעבר אוטומטי לגיבוי כשספק נופל, בעוד שהמודל המקומי הזול מטפל בכל השאר. הרצת Mini באופן מקומי ופנייה החוצה רק לזנב הקשה היא חשבון קטן יותר מאשר הרצת אחד מהמודלים עבור הכול, וזהו הסידור שהמהדורה הזו למעשה מאפשרת.

ההחלטה, בשלושה מקרים

אם אתם בונים סוכן שחי על המחשב של מפתח או בתוך מכונה אחת במצב לא מקוון, Inkling 2 Mini הוא התשובה ואין תחרות אמיתית. הורדה של 20GB עם 280 טוקנים לשנייה, Apache 2.0, וטבלת קידוד שמנצחת כל מודל עם משקלים פתוחים בגודלו בשורות של הספק עצמו. הריצו אותו בסנדבוקס — הכרטיס מזהיר מפני פעולות הרסניות בקבצים ולולאות בזמן דיבוג — והוא יבצע עבודה סוכנית בהיקף של מאגר קוד על חומרה שכבר יש לכם.

אם עומס העבודה שלך הוא אחזור מתוך מאגר גדול של מסמכים שלא כתבת, היתרון של Small נמצא בעיקר בשורות שכרוכות בהיזכרות במה שנאמר במסמך. CritPt עם 55.7% לעומת 31.4%, omniscience עם 16.1 לעומת −8.6, ושיעור אי-הזיות של 73.3% לעומת 63.4% אינם הבדלים קטנים בסביבת ציות או פיננסים, שבה תשובה שגויה ובטוחה עולה יותר מתשובה נכונה ואיטית. תשלם עבור צומת או נקודת קצה כדי לקבל אותם.

אם אתם בוחרים עבור עומס עבודה מעורב, הפיצול הוא העיקר. החולשה של Mini היא ידע, וידע הוא הדבר היחיד שאפשר לספק מבחוץ — שכבת אחזור, כלי חיפוש, מודל גדול יותר בקצה הקשה. החוזק שלו הוא התמדה אג'נטית לטווח ארוך במחיר שאין מתחרים לו בקטגוריית 20GB. קנו את המודל הקטן, שכרו את הידע, והתייחסו לצ'קפוינט 594B כדבר שאליו משדרגים ולא כדבר שמריצים.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing a score of 20 on the Intelligence Index against a median of 10, 161M tokens generated during the index run against an 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a 1M-token context window, alongside the technical specification panel listing the reasoning, input and output modalities, context window, parameter counts and licence.

הסתייגות אחת חוצה את כל שלושת המקרים וראוי להופיע בסוף ולא להיות קבורה. טבלאות הבנצ'מרק של שני המודלים הן של המעבדה עצמה, וציוני האינדקס הם המספרים היחידים של יכולת שנמדדו באופן בלתי תלוי בהשוואה הזו. ה-31 וה-20.1 ניתנים להשוואה; ה-86.3% וה-77.9% ניתנים להשוואה זה לזה ולשום דבר אחר. כל מי שמצטט את שורות הספק לצד ציון שפורסם של מתחרה משווה בין שתי מערכות בדיקה, לא בין שני מודלים.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Inkling 2 Small — the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B, total parameters 26.4B, download about 20GB, cost per index task $0.59, and output speed 280 tokens per second. The Inkling 2 Small column reads Intelligence Index 31, active parameters 17B, total parameters 594B, download 393.5GB, cost per index task $1.18, and output speed 118 tokens per second. A footer states that index, cost and speed are per Artificial Analysis and benchmark percentages are vendor-reported.