כרטיס כותרת שנוצר עם הכיתוב 'Inkling 2 Mini', עם כותרת משנה '26.4B בסך הכול, 3.4B פעילים, כ-20GB — לולאה על השכבות האמצעיות', עם שלושה תגים עם הכיתוב Intelligence Index 20.1, 48 הפעלות שכבות ו-Apache 2.0, מעל תרשים שכבות בן ארבעה בלוקים שבו שני הבלוקים האמצעיים מסומנים 'הרצה 3x' ושני החיצוניים 'הרצה 1x'. הלוגו של OrcaRouter נמצא בפינה הימנית התחתונה.
Guides & Insights

Inkling 2 Mini יוצא ב-20: מודל של 20GB שחושב בלולאות

מחבר

jinhao.song

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

הצ'קפוינט הוא כ-20GB, והמספר הזה הוא הטיעון. Inkling 2 Mini הוא תערובת מומחים בת 26.4 מיליארד פרמטרים, שבה 3.4 מיליארד פרמטרים פעילים לכל טוקן, שפורסם על ידי Thinking Machines Lab ב-20 בנובמבר 2026 תחת Apache 2.0 כהורדה אחת שפועלת על Mac עם 32GB של זיכרון מאוחד או על NVIDIA DGX Spark בודד. באותו יום, Artificial Analysis מדדה את זמני הריצה שלו ונתנה לו ציון: 20.1 במדד Intelligence Index v5.0.1, 0.15 דולר למיליון טוקני קלט ו-0.50 דולר למיליון טוקני פלט, 0.59 דולר להשלמת משימת מדד אחת, 280 טוקני פלט בשנייה. החלק המעניין אינו הציון. אלא שהמודל מגיע אליו על ידי הרצת אותן שתים-עשרה שכבות שלוש פעמים במקום לאחסן יותר פרמטרים, וזה מה שגורם לצ'קפוינט של 26B להתנהג כמו משהו גדול יותר בלי להזדקק ליותר זיכרון ממה שיש למחשב נייד.

ערבבו ברשלנות את שני סוגי המספרים וההשקה תיקרא כניצחון נקי; הפרידו ביניהם והיא תיקרא כמשהו ספציפי יותר, וזה מה שהקטע הזה מנסה לעשות. המדד, העלות למשימה, המהירות, מידת הפירוט והרישיון הם מדידות ומטא-נתונים של Artificial Analysis שנקראו ב-21 בנובמבר 2026. כל שורת קידוד והסקה בהמשך היא הרנס משלהם של Thinking Machines על צ'קפוינט שהחברה אימנה, והיא מציינת זאת במקום שבו היא מופיעה. אף אחד מחוץ למעבדה לא שחזר את השורות האלה.

מה פרסמה Thinking Machines

השחרור הוא משקלים תחילה. מאגר Hugging Face נוצר ב-17 בנובמבר ונערך לאחרונה ב-20 בנובמבר, וזה מה שנראה כמו צ'קפוינט מדורג ולא פרסום בהפתעה, וכרטיס המודל מציין את 20 בנובמבר 2026 כתאריך השחרור. יש כאן מצב ממשי של קובץ רישיון שראוי לציון: הכרטיס מצהיר על Apache 2.0 במטא-נתונים שלו, והתגיות של המאגר נושאות את אותו הדבר, כך שזהו שחרור מתירני ולא הבטחה לשחרור כזה, שאיתה הגיע Inkling 2 Small ב-5 בנובמבר.

• פרמטרים — 26.4B בסך הכול, 3.4B פעילים, ו-5.4B אקטיבציות משקל אפקטיביות לכל טוקן כאשר הליפוף נכלל בחשבון; Thinking Machines מעריכה שכל מעבר לולאה נוסף מוסיף כ-1.0B פרמטרים פעילים.

• טביעת רגל — צ'קפוינט אחד בגודל כ-20GB, 20 שכבות ב-NVFP4 ו-4 ב-MXFP8, המסופק ברמת הדיוק שבה אומן ולא מכומת לאחר מכן.

מודאליות — טקסט ותמונות נכנסים דרך שנאי חזותי המוקרן אל המרחב החבוי המשותף, וטקסט יוצא.

• הקשר — כרטיס המודל מציין עד 1M טוקנים, ו-Artificial Analysis מתעד 1M.

• הגשה — Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth ו-llama.cpp GGUFs, Llama App, ובנוסף Ollama ו-Exo Labs על Apple silicon. קיימים מתכוני post-training עבור Miles ו-SkyRL.

• מתארח — Tinker, לצורך הסקה והתאמה אישית, עם סביבת התנסות. זוהי נקודת הקצה של הספק עצמו והיחידה; Inkling 2 Mini אינו נמצא ב-OrcaRouter, ושום דבר להלן אינו מרמז אחרת.

מודל נלווה מגיע לצדו. TML-d24-varloop-research הוא אותה ארכיטקטורה, שאומנה לקבל בין אחד לחמישה מעברי לולאה, והוא קיים כדי שחוקרים יוכלו לשנות את העומק שמודל הייצור מקבע על שלושה. הוא נמצא גם ב-Hugging Face, והוא האובייקט שעליו בוצעה רוב עבודת הניטור במהדורה הזו.

Screenshot of the Thinking Machines announcement page titled 'Introducing Inkling 2 Mini', dated Nov 20, 2026, showing the Capabilities, Architecture and training, Monitorability of looped transformers and Try Inkling 2 Mini today section links, plus the opening paragraphs describing a model small enough to run on a laptop that runs the middle layers three times per token and leads open-weights models under 100B total parameters on DeepSWE v1.1 at 48.2%.

הלופ הוא המוצר

Inkling 2 Mini הוא טרנספורמר בעל 24 שכבות, מבוסס פענוח בלבד, עם שכבות הזנה קדימה דלילות מסוג תערובת מומחים, המחולק לארבעה בלוקים של שש שכבות. הבלוק הראשון פועל פעם אחת, הבלוק האחרון פועל פעם אחת, ושני הבלוקים האמצעיים — שתים עשרה שכבות — פועלים שלוש פעמים עם משקלים משותפים. לכן אסימון עובר דרך 48 הפעלות שכבה הנשאבות מ-24 שכבות משקל מאוחסנות.

החזרה אינה עותק. כל מעבר דרך בלוקי האמצע קורא את הפלט של הפרלוד, והמעברים השני והשלישי קוראים גם את מה ש-Thinking Machines מכנה המסר: הפלט של בלוקי האמצע עצמם מהמעבר הקודם, שממוזג דרך שער נלמד. השער הזה מתחיל בחסימת המסר לחלוטין, כך שהאימון מתחיל כמודל רגיל ללא לולאה, וההגבר על המסר מועלה עם הזמן. זו תחבולה ליציבות האימון, והיא גם הסיבה לכך שאפשר להוסיף את הלולאה באמצע הריצה ולא לאמן אותה מאפס.

הבחירה באילו שכבות לולאה לא הייתה שרירותית. החברה מדדה לולאה על שתים־עשרה השכבות האמצעיות לעומת לולאה על שתים־עשרה האחרונות ב־28 הערכות ומצאה שהאמצעיות ניצחו ב־27 מהן, עם רווח שקול מבחינה חישובית של 1.51–1.91× לעומת 1.24–1.36×. האינטואיציה שהיא מספקת היא ששכבות מוקדמות ומאוחרות עסוקות בתרגום בין טוקנים לייצוגים פנימיים, בעוד שהאמצעיות נושאות את ההיגיון המופשט שנהנה מיותר צעדים סדרתיים.

המומחים עברו גיזום ולא תוכננו. האימון החל בדלילות 48, כשכל טוקן נותב ל-8 מתוך 384 מומחים; בשלב מסוים במהלך אימון הביניים החברה שמרה את 128 המומחים בשימוש הרב ביותר בכל שכבה וריפאה את הנזק באמצעות 1T טוקנים שזוקקו ממודל Inkling פנימי גדול יותר, ולאחר מכן הריצה שלב SFT ושלב RL בסך כולל של 2.2T טוקנים על פני 2,000 צעדים. זהו אותו תמהיל לאחר-אימון כמו של Inkling 2 Small, וזו הסיבה שהחוזקות של שני המודלים נופלות באותם מקומות.

עשרים, ומה שיושב מתחת לזה

הציון הראשי הוא אמיתי ונמדד באופן עצמאי, והוא גם קרוב לרצפה של מה שהמדד מפענח באופן שימושי. Artificial Analysis ממקמת את 20 כגבוה בהרבה מהממוצע עבור מחלקת ההשוואה של המודל בלוח המשקלים הפתוחים, שבו החציון הוא 10, אך הרצועה סמוך ממש ל-20 צפופה במודלים במרחק נקודה לכאן או לכאן, והמדד אינו מסדר מודלים ברזולוציה עדינה כל כך. ציון של 20 פירושו שהמודל עובר סף, לא שהוא מנצח כל דבר שנמצא בטווח של נקודה ממנו.

מה שהציון כן תומך בו הוא המיקום שקובע עבור מודל בגודל הזה. טענת פארטו בסיקור ההשקה — בינה חזיתית לכל פרמטר פעיל — היא זו שסיכום של Artificial Analysis עצמו תומך בה, כשהוא מכנה אותו בין המודלים המובילים בבינה למחלקת הגודל שלו ובמחיר סביר לעומת מודלים אחרים במשקלים פתוחים בגודל דומה. הוא מגיע לשם בזכות הלולאה, שקונה מחשוב סדרתי בלי לקנות פרמטרים, והטענה מפסיקה להחזיק ברגע שמבקשים מהמודל לדעת משהו ולא להסיק משהו.

עמודות העלות והמהירות הן המקום שבו הגרסה נראית החזקה ביותר. במחיר של $0.15 לקלט ו-$0.50 לפלט היא מתומחרת בתחתית שכבת ה-reasoning, ו-$0.59 למשימת אינדקס הם רבע ממה שעולה מודל dense בגודל 27B באותה רצועת ניקוד. היא מהירה בשני המובנים שמתבטאים בלולאת סוכן: 9.72 שניות עד לטוקן התשובה הראשון ו-280 טוקני פלט לשנייה. החולשה המפצה היא פירוט יתר — 161M טוקני פלט להשלמת הרצת האינדקס לעומת חציון של 85.7M בקרב מודלים דומים, בערך פי 1.9 מהפלט של מודל טיפוסי במחלקה שלה. בחיוב לפי טוקן זה בסדר. בתקציב טוקנים קבוע זה אומר שמקבלים בערך חצי ממספר המשימות.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing it amongst the leading models in intelligence and reasonably priced for its size but very verbose, a score of 20 on the Intelligence Index against a median of 10 for its class, 161M tokens generated during the index run against a 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a listed 1M-token context window.

שורות קידוד, כפי שדווח על ידי הספק

הטבלה ש־Thinking Machines פרסמה היא החלק החזק ביותר בטיעון שלה, והיא כולה שלה. אלה מספרים שלא שוחזרו מרתמת בדיקה של הספק, וכמה מהם הורצו באמצעות שלד הסוכנים של החברה עצמה ולא באמצעות שלד ניטרלי, ולכן יש לקרוא אותם כטענות על צ׳קפוינט שהמעבדה אימנה.

• SWE-bench Verified — 79.2%, bash בלבד.

• SWE-bench Pro v2, קשה — 77.9%.

• SWE-bench Multilingual — 73.7%.

• DeepSWE v1.1 — 48.2%, לעומת 42.2% שדווחו עבור Qwen3.8-27B.

• Terminal Bench v2.1 — 71.6%, מתחת ל-73.0 של Qwen3.8-27B; ב-Terminal Bench v4.0 שניהם מציגים 5.6%.

• FrontierCode v2.0 — 15.1%, לעומת 14.9% של Qwen3.8-27B.

• חיפוש וכלים אגנטיים — BrowseComp 79.0%, DeepSearchQA 85.3%, MCP Atlas 82.7%, כל אחד מהם גבוה מהנתון של Qwen3.8-27B באותה טבלה.

• ראייה ומסמכים — MMMU Pro 74.9%, OmniDocBench v1.6 92.8%, ScreenSpot Pro 76.5% במצב רגיל ו-87.7% עם כלים של Python.

• חשיבה — HLE-Diamond 15.2%, CritPt v2 31.4%, ARC-AGI 84.5% ב-v1 ו-49.3% ב-v2, LongBench v2 66.9%.

צורת הטבלה הזו עולה בקנה אחד עם הארכיטקטורה, והיא הדבר השימושי ביותר בגרסה. השורות שבהן המודל נראה חזק הן אלה שמתגמלות התמדה ושימוש בכלים לאורך אופק ארוך: חיפוש, הטלאה בקנה מידה של מאגר קוד, פענוח מסמכים. השורות שבהן הוא נראה רגיל הן אלה שדורשות שליפה נכונה בודדת או הסקה מדעית קשה. לופינג מוסיף שלבים סדרתיים. הוא אינו מוסיף עובדות מאוחסנות.

לופינג קונה הסקה, לא עובדות

ההבחנה הזו היא התזה של המהדורה עצמה, והחברה בודקת אותה במקום להצהיר עליה. ב-AA-Omniscience, מדד העובדתיות, טבלת הספק מציגה −8.6 עבור Inkling 2 Mini עם שיעור אי-הזיה של 63.4%. ציון שלילי שם משמעו שהמודל גרוע יותר מהימנעות מלענות: הוא מייצר טעויות בביטחון. המסגור של החברה הוא שפער הידע תואם למודלים אחרים באותו גודל כולל, ושהמודל מכסה עליו באמצעות חיפוש טוב — וזה בדיוק מה ששורות BrowseComp ו-DeepSearchQA מראות, ובדיוק מדוע הסיכום כן של המודל הזה הוא "טוב במציאה, חלש בזיכרון".

הרכיב הנלווה של הלולאה המשתנה מחדד את הנקודה ביתר שאת. אופק הזמן שלו ללא שרשרת מחשבה — כמה זמן משימה הוא יכול להשלים באמינות של 50% בלי לכתוב את ההיסק — עולה מ-16 שניות במעבר אחד ל-37 שניות בשלושה, ואז משתטח, בעוד שהיסק סדרתי במשימת אחזור N-Hop ממשיך להשתפר עד עשרה מעברים, כפליים מהעומק שאומן עליו. השיפורים מתרכזים באחזור רב-שלבי, בהיסק מתמטי ומדעי, ובעבודה סוכנית באופק ארוך. שו״ת עובדתי בספר סגור כמעט ואינו זז.

תוצאת יכולת הניטור היא החלק שיעניין חוקרים ביותר, מפני שהיא ההתנגדות למודלים עם לולאות. אם מודל מבצע יותר חישוב בתוך אסימון, פחות היסק מופיע בשרשרת המחשבות הנראית, ומנטר שרשרת מחשבות רואה פחות. Thinking Machines מודדת זאת ומוצאת שהאפקט קטן מהחשש בקנה המידה הזה: ההיסק של המודל עם הלולאה המשתנה בחמישה מעברים היה קצר בפחות ממחצית מאשר במעבר אחד (1,661 לעומת 3,703 אסימונים בממוצע), כששאורך המשפט ושיעור המילים במילון נותרו ללא שינוי, מה שמתפרש כהיסק ישיר יותר ולא כהיסק פחות קריא. בהערכת החמקנות LinuxArena שלה, Inkling 2 Mini עם 3.9% נמצא הרחק מתחת ל-20.5% של Qwen3.8-27B. שום דבר מזה אינו ערובה — זו מדידה ראשונה של סוג ארכיטקטורה שאף אחד לא החזיק עבורה משקולות להורדה לפני כן, והחברה אומרת בפשטות שהיא שחררה את המודל בין השאר כדי שאחרים יוכלו לבדוק.

כמה עולה להפעיל

הרצה עצמית היא המצב המפורסם, והחשבון פשוט. לנקודת ביקורת (checkpoint) בגודל 20GB על מכונה שכבר בבעלותך אין כלל עלות שולית לטוקן, ומחקר היעילות של הספק עצמו — שנערך על ידי מעבדות Hazy Research ו-Scaling Intelligence של סטנפורד בגישה מוקדמת, ב-MXFP8 ובמאמץ חשיבה נמוך — מציב אותו על 0.703 אינטליגנציה לוואט ב-DGX Spark, לעומת 0.430 עבור Qwen3.6-35B-A3B ו-0.159 עבור Gemma 4 26B-A4B. זוהי תוצאה בסמיכות לספק על מכשיר בודד, לא מדידת צי, אבל הכיוון אינו עדין.

הטיעון הכנה נגד הרצה של המודל בעצמך הוא שלארכיטקטורה הלולאתית יש בערך יום אחד של בגרות בתחום ההגשה. SGLang, vLLM והשאר מציינים תמיכה, וכרטיס המודל מזהיר במילותיו שלו שתמיכת זמן ריצה במודלים לולאתיים היא חדשה ושהמהירות משתנה. התפוקה שתמדוד על המכונה שלך היא פונקציה של איזה מנוע בחרת וכמה עדכניים הקרנלים שלו, וזה ישתנה מהר יותר מכל דבר אחר במודל הזה.

המקום שבו נתב מרוויח את מקומו כאן אינו במתן שירות ל-Mini — אנחנו לא מארחים אותו. הוא במה שאתם שמים סביבו. הערכה של ארכיטקטורה שאינה מוכחת לעולם לא צריכה להיות הדבר היחיד בין המשתמשים שלכם לדף שגיאה, והדרך לארגן זאת היא לקרוא למודל שאתם סומכים עליו עבור נתיב הייצור בזמן ש-Mini פועל לצידו. Qwen3.8-Flash נמצא ב-OrcaRouter במחיר של $0.15 למיליון טוקנים בקלט ו-$0.47 למיליון טוקנים בפלט, מחיר המחירון של הספק מועבר ללא תוספת, וה-DSL לניתוב ולמעבר אוטומטי לגיבוי מאפשרים לכם לשים את Mini מאחוריו ביום שבו Mini יגיע לנקודת קצה נגישה לנו. מפתח אחד מכסה את שני הצדדים של הניסוי הזה, וזה כל הטיעון.

A generated single-column scoreboard titled 'Inkling 2 Mini — the scoreboard', with six rows reading Intelligence Index 20.1, cost per index task $0.59, output speed 280 tokens per second, first token 9.72 seconds, size on disk about 20GB, and licence Apache 2.0, above a footer stating that index, cost and speed are per Artificial Analysis and coding rows are vendor-reported and unreproduced.

ארבעה דברים שכדאי לעקוב אחריהם

הראשון הוא שחזור עצמאי. ל-Artificial Analysis יש את המדד, העלות, המהירות ורמת הפירוט — מדודים — אבל טבלת הקידוד שייכת למעבדה. עד שמישהו מחוץ ל-Thinking Machines יריץ את SWE-bench Pro v2 או DeepSWE על המשקלים הציבוריים, 77.9% ו-48.2% הם טענות.

השאלה השנייה היא אם תופיע נקודת קצה מתארחת מעבר ל-Tinker. צ'קפוינט Apache 2.0 בנפח 20GB הוא בדיוק סוג הארטיפקט שספקי צד שלישי מאמצים במהירות, ותחרות המחירים שתגרום לתעריף של $0.59 למשימה להיראות בר-קיימא מתחילה רק כשיש מוכר שני.

הדבר השלישי הוא הלולאה עצמה. אם הפיילוט עובד, הטכניקה ניידת: שלושה מעברים על השכבות האמצעיות, שער למיזוג ההודעה, בלי פרמטרים נוספים. כל מתכון למודל קטן בתחום הופך למועמד עבורה, והשאלה המעניינת מפסיקה להיות אם המודל הזה משיג 20 והופכת להיות אם הבא משיג 24 באותה כמות זיכרון.

הרביעי הוא החלק שההשקה אינה מכריעה. מודלים עם לולאה מעבירים את החשיבה מחוץ לשרשרת המחשבה הגלויה ואל ה-forward pass. Thinking Machines לא מצאו אובדן משמעותי של יכולת ניטור ב-5.4B פרמטרים פעילים. איש לא פרסם את אותה מדידה ב-50B. זו השאלה שהשחרור הזה הופך לניתנת לשאול, וזו סיבה טובה יותר שיהיה אכפת לך מהורדה של 20GB מאשר מהציון.

לכל מי שמחליט השבוע, ההבחנה ברורה. אם אתה רוצה מקודד אג'נטי מוכשר שפועל ללא חיבור לאינטרנט על חומרה שכבר יש לך, ואתה מוכן להריץ אותו בארגז חול ולבדוק את יכולת השליפה העובדתית לפני שתסמוך עליו, Inkling 2 Mini הוא המודל הקטן המעניין ביותר שזמין כרגע, והמחיר של לנסות אותו הוא הורדה. אם אתה צריך תשובה שאתה יכול להציג ללקוח בלי שכבת שליפה מאחוריה, זה לא המודל הזה, וה-20 במדד לא יהפוך אותו לכזה.