Recursive Flint 40B-A2.5B: מודל לתכנות שתוכנן בראש ובראשונה למהירות

המספר שמכריע אם Recursive Flint 40B-A2.5B שווה את שטח הדיסק שלכם אינו 54.9%. הוא 2.5. מודל הקידוד הראשון במשקולות פתוחות של Recursive נושא 39.8 מיליארד פרמטרים ומעיר כ-2.5 מיליארד מהם עבור כל טוקן שהוא כותב, וכמעט כל החלטה אחרת במהדורה — פריסת הקשב, מתכון הקוונטיזציה, ליבת ה-Metal המותאמת אישית, מנוע האינפרנס — נגזרת מאותו יחס אחד. Flint שוחרר ב-21 באוקטובר 2026 תחת Apache 2.0, מה שהופך אותו לבן יום בזמן כתיבת שורות אלה ולמצוי בתוך החלון שבו השקה היא עדיין חדשות ולא היסטוריה. מכיוון שטבלת בנצ'מרקים בת יום היא הבטחה ולא מדידה, אנו שומרים את תיעוד הייצור בנפרד: ארכיון תקלות ה-AI מתעד כיצד טענות של מודלים וספקים החזיקו מעמד לאחר שהחלו לשרת תעבורה אמיתית.

הגרסה הקצרה למי שמחליט ממש עכשיו: זהו מודל מומחים מעורבים דליל (sparse mixture-of-experts) שנבנה כדי להיות הדבר המהיר ביותר בקטגוריית המשקל שלו על מחשב נייד, הוא מפרסם שלושה ציוני קידוד סוכניים שכולם מדווחים על ידי הספק ולא שוחזרו, והוא המודל הראשון של חברה שמטרתה המוצהרת היא להפוך את המחקר שבונה מודלים לאוטומטי. כל שלוש העובדות האלה חשובות, והשלישית היא זו שתעניין גם בעוד שנה.

מה שנשלח בפועל

ארבעה מאגרים, לא אחד. המאגר הראשי RecursiveSI/flint מכיל את צ'קפוינט ה-BF16, את הקונפיגורציה, את הטוקנייזר, את תבנית הצ'אט וערכת הגשה של SGLang, והוא נוצר ב-21 באוקטובר 2026 בשעה 14:20 UTC. לצידו נמצאים שלושה וריאנטים מכומתים, כולם נושאים חתימת זמן של אותו אחר הצהריים: בניית int4 ב-safetensors, int4 GGUF, ו-NVFP4 GGUF. כל גודל להלן נמדד מרישומי הקבצים של המאגרים עצמם ולא צוטט מן ההודעה.

• רפרנס BF16 — 79.59GB על פני 37 קבצים, ב-15 שברי safetensors של כ-5.37GB כל אחד. זהו ארטיפקט הכיוונון העדין, וזה שאתה לא רוצה להוריד עבור הסקה.

• NVFP4 GGUF — 22.86GB בקובץ אחד, הבנייה השלמה הקטנה ביותר להסקה שפורסמה.

• Int4 GGUF — 25.99GB, כימות q4_1 שגדול יותר מקובץ ה-NVFP4, שזה ההפך מסדר השמות וכדאי לדעת לפני שבוחרים לפי שם הקובץ.

• Int4 safetensors — 22.58GB, עבור סביבות ריצה שמעדיפות משקלים מפוצלים על פני GGUF יחיד.

הרישיון הוא Apache 2.0, וכרטיס המודל מוסיף את ההבחנה שתנאי API מתארחים ונהלי נתונים נפרדים מרישיון המשקולות — הפיצול המקובל, מוצהר בבירור ולא קבור.

הארכיטקטורה היא טיעון בנוגע לרוחב פס זיכרון

במחשב נייד, פענוח טוקן אינו בעיית מחשוב בעיקרה. זו בעיה של העברת משקלים מהזיכרון ליחידות האריתמטיות מהר מספיק, ולכן מודל צפוף עם 40 מיליארד פרמטרים איטי לא משנה כמה השבב טוב: כל טוקן קורא כל משקל. התשובה של Flint היא כמעט לא לקרוא אף אחד מהם.

• דלילות — 256 מומחים מנותבים בכל שכבת MoE, עם 6 נבחרים לכל טוקן, ובנוסף מומחה משותף שפעיל תמיד. מתוך 49 שכבות, 2 הן צפופות ו-47 הן MoE, כך שכל השכבות מלבד השתיים הראשונות מבצעות עבודה מותנית.

• פרמטרים פעילים — 39.8B בסך הכול, כ-2.5B פעילים לכל טוקן כשמביאים בחשבון את ראש הפלט, ומכאן מגיע הכינוי "40B-A2.5B". הגוף הפעיל לבדו הוא כ-2.2B.

• Attention — 35 שכבות של חלון הזזה בחלון של 513 טוקנים (הטוקן הנוכחי ועוד 512 שקדמו לו), משולבות לסירוגין עם 14 שכבות של attention מלא. רק 32 ראשי query ו-4 ראשי key-value, בממד ראש של 128, כך שמטמון ה-KV נשאר קטן מספיק כדי להפוך סשנים ארוכים של סוכנים למעשיים.

• קידוד מיקום — הטמעות סיבוביות בשכבות חלון מחליק, וכלל לא בשכבות קשב מלא; בחירה שכרטיס המודל מציין מבלי להסביר. RMSNorm של QK לכל ראש ושקעי קשב נלמדים לכל ראש עושים את עבודת היציבות שקידוד מיקום בדרך כלל חולק.

• הקשר — 262,144 טוקנים מתועדים, וכרטיס המודל מפורש שהדבר מכסה יחד גם את הפרומפט וגם את הפלט שנוצר. ההכרזה מציגה "עד 512k" ולאחר מכן ממליצה להישאר בטווח של 256k עבור קידוד. שתי ההצהרות מגיעות מאותו ספק, בהפרש של פסקה אחת.

הפרט המעניין הוא האופן שבו נבחרה הצורה. Recursive אומרת שה-Eureka Machine שלה — לולאת מחקר אוטומטית שמציעה רעיונות, מיישמת אותם, בודקת אותם ומשלבת את מה שעובד — החלה מבסיס של 35 מיליארד פרמטרים עם 3 מיליארד פעילים, וחיפשה across תצורות מומחים ורוחבים. תצורת 40B/2.5B שהתקבלה הייתה, בלשון ההודעה עצמה, "צפויה להציע את השילוב הטוב ביותר של מהירות וביצועי קידוד מבין התצורות ש-Eureka Machine שלנו בדקה." צפויה, לא הוכחה באמצעות השוואה תחרותית בין מודלים גמורים. זו דרך שגרתית לבחור ארכיטקטורה כאשר ריצות אימון יקרות, וזו גם טענה שצ'קפוינט מאוחר יותר עלול לסתור בשקט.

שלושת הציונים, והערות השוליים הנלוות להם

Flint משיג 54.9% ב-Terminal-Bench 2.1, 89.7% ב-SWE-bench Pro v2, ו-74.2% ב-SWE-bench Verified. המספרים האלה מופיעים בכרטיס המודל כהערכות שחרור, ואף צד שלישי לא פרסם מדידה של המודל הזה — למדד המודלים של Artificial Analysis, השופט העצמאי הרגיל להשקה כזו, אין כלל רשומה עבור Flint נכון ל-22 באוקטובר. לכן כל מה שלהלן הוא Recursive שמודד את Recursive.

מה שהספק כן חושף לגבי המתודולוגיה שלו הוא יותר ממה שרוב פוסטי ההשקה חושפים מיוזמתם, וזה משנה את האופן שבו יש לקרוא את המספרים:

• Terminal-Bench 2.1 — הורץ עם רתמת Terminus 2, עם גישה לאינטרנט מופעלת, ופתרונות שהושגו באמצעות אחזור מהאינטרנט נספרו ככישלונות. ההתאמה האחרונה היא נכות מכוונת, וכרטיס המודל מציין שהציונים שפורסמו על ידי מפתחים אחרים עשויים שלא ליישם אותה, מה שהופך השוואה שקולה מול נתונים של צדדים שלישיים לקשה יותר ולא לקלה יותר.

• SWE-bench Pro v2 ו-SWE-bench Verified — הורצו עם mini-swe-agent וללא גישה לאינטרנט כלל, סביבה קשה יותר מזו של סוכנים שיכולים לחפש בתיעוד במהלך המשימה.

• ניסיונות וזמני קצוב — ממוצע pass@1 על פני לפחות חמישה ניסיונות, עם זמני קצוב של הסוכן של עד חמש שעות. ממוצע של חמישה ניסיונות הוא פרוטוקול סביר; זמני קצוב של חמש שעות משמעם שאלה ציונים עבור סוכן שאתה מוכן להשאיר פועל, ולא עבור השלמה אוטומטית.

• דגימה — טמפרטורה 1.0, top-p 0.95, top-k 20 בכל הערכה, וערכת ההגשה מחילה את ברירות המחדל האלה כאשר בקשה משמיטה אותן.

טבלת בנצ'מרקים של ספק היא גם הצהרה על מי שהוא בחר כקבוצת ההשוואה. התרשים של Recursive עצמה משווה את Flint ל-Qwen 3.5, Qwen 3.6, Qwen 3.8, Laguna XS 21, Muse Glimmer ו-Gemma 4 — מודלים מקומיים שמתאימים לחומרה דומה, שזו קבוצת ההשוואה ההוגנת למודל למחשב נייד, וגם קבוצה שנבחרה כדי לגרום לטיעון הדלילות להיראות טוב. הטענה שנטענת היא צרה וניתנת להגנה: Flint מוביל בין מודלי MoE מתחת ל-50 מיליארד פרמטרים בסך הכול בקידוד סוכני, ומתחרה במודלים צפופים של 25 עד 40 מיליארד תוך ריצה מהירה בהרבה. זו אינה טענה לגבי מודלי קידוד חזיתיים, ו-Recursive אינה טוענת טענה כזו — ההודעה אומרת במפורש ש-Flint "עשוי להזדקק ליותר הכוונה ממודלי הקידוד הגדולים בקוד סגור שאתם רגילים אליהם."

מהירות: מול מה ה־2× בעצם נמדד

Recursive מדווחת על יותר מ־125 אסימונים לשנייה ב־M4 Pro MacBook Pro ועל יותר מ־150 אסימונים לשנייה ב־64GB NVIDIA RTX Spark בהקשרים קצרים, ומתארת זאת כמהירה עד פי שניים ממודלים דומים ויותר מפי חמישה ממודלים צפופים בני 25 עד 40 מיליארד פרמטרים עם ציוני קידוד דומים. הערת השוליים המתודולוגית בתרשים המהירות היא החלק ששווה לקרוא: ממוצע אסימונים לשנייה לאורך סשן של 128,000 אסימונים, כאשר prefill אינו נכלל, עם מתחרה אחד שנמדד ב־124k ולא באורך המלא.

אי-הכללת Prefill היא נוהג סטנדרטי בבנצ'מרקינג של decode, והיא עדיין חשובה כאן, מפני ש-Prefill הוא בדיוק המקום שבו סוכן קידוד מבלה את זמנו כשהוא משליך מאגר קוד אל חלון ההקשר. מספר שמודד רק את חצי ה-decode של סשן 128k יחמיא לכל מודל עם אקטיבציה דלילה, וכל העיצוב של Flint מבוסס על אקטיבציה דלילה. שום דבר מזה לא הופך את הנתון לשגוי. זה הופך אותו לנתון decode, ויש להשוות אותו לנתוני decode אחרים ולא לכמה זמן הסוכן שלך לוקח לסיים משימה.

מתכון הכימות הוא החלק הניתן להעברה ביותר

רוב הכתבות על קוונטיזציה עוסקות בכמה דיוק אבד. זו עוסקת בהחלטה שהלכה בכיוון ההפוך מהמוסכמה.

Recursive כימתה את שכבת הפלט — ה-lm_head — ל-4 ביטים. זה מנוגד לפרקטיקה המקובלת, והסיבה ספציפית למודלים דלילים: עם רק 2.5 מיליארד פרמטרים פעילים, שכבת הפלט מהווה נתח גדול מהמשקולות הנקראות עבור כל טוקן בודד, ולכן הותרתה ב-16 ביטים מגבילה את המהירות המרבית האפשרית של המודל. שחזור הדיוק חייב שלב זיקוק לא מקוון שבו המודל המכומת מתאמן על תגובותיו שנדגמו מראש מתוך קורסט שהוא גילה בעצמו, כשמודל ה-16 ביטים משמש כמורה — תצורה ש-Recursive אומרת שכמעט חצתה את מספר צעדי האימון לעומת קו הבסיס שלה לאימון מודע לכימות.

התוצאה שפורסמה היא שמודל ה-NVFP4 הסופי משיג ציון בטווח של 0.7 נקודות ממודל ה-16-bit בכל חבילת הבנצ'מרקים. זוהי טענת ספק, והיא מסוג הטענות שקל לבדוק מאוחר יותר ויקר לזייף, מה שהופך אותה לטענה שימושית לדרוש מהם לעמוד בה. ההשלכה המעשית היא גדלי הקבצים שלעיל: הורדה של 22.86GB שמריצה מודל בעל 39.8 מיליארד פרמטרים על מחשב עם 48GB של זיכרון מאוחד.

ב-Apple Silicon יש לכך שכבה שנייה. ה-Eureka Machine של Recursive הפיקה קרנלים ייעודיים להטלות low-bit, לפעולות MoE, לקשב ולעיבוד פרומפטים, כולל מגה-קרנל Metal שממזג את כל המעבר הקדמי של הפענוח לשיגור אחד בשבבי M4 ו-M5. מיזוג מעבר הפענוח הוא סוג האופטימיזציה שמשתלם רק כאשר שולטים יחד בארכיטקטורת המודל, בפורמט הקוונטיזציה ובקרנל — וזו למעשה התזה של השחרור הזה, יותר מכל מספר בודד של benchmark.

איך אתה מפעיל את זה, ומה כל מסלול עולה לך

ישנם שני סיפורי פריסה נפרדים, והם אינם ברי החלפה.

• GPUs לשרת — צ'קפוינט ה-BF16 מגיע עם ערכת שירות של SGLang שמכוונת ל-B300 אחד או ל-H200 אחד לכל רפליקה, חושפת נקודת קצה תואמת OpenAI בפורט 30000 עם שם המודל flint, וכוללת לקוח לדוגמה לחשיבה ולקריאות לכלים. זהו הנתיב הנתמך היחיד עבור המשקולות בדיוק מלא; כרטיס המודל מציין בבירור שקוד מידול של Transformers עדיין אינו כלול.

• מכונות מקומיות — llama.cpp, Ollama, Unsloth, LM Studio, vLLM ו-SGLang מוצגים כולם כנתמכים, דבר רחב באופן חריג עבור מודל ביום השקתו ומהווה את ההבדל בין checkpoint לבין תוצר שמיש.

• מנוע rec — מנוע ההסקה של Recursive עצמה, מותקן בנתיב ~/.local/bin, דורש M4 Pro, M5 Pro או M5 Max עם לפחות 48GB של זיכרון מאוחד וכ־30GB פנויים בדיסק, ומציע API תואם OpenAI באופן מקומי. ה-README שלו טוען לתפוקת טוקנים גבוהה פי 1.4 עד 2.6 מזו של llama.cpp על M4 Pro עם משקלים של 4-bit, עבור פרומפטים באורך 1,000 עד 252,000 טוקנים עם 1,024 טוקני פלט, חמש הרצות לכל אורך הקשר, כאשר prefill אינו נכלל. הוא מותאם במפורש לשימוש בסשן יחיד — אם מריצים כמה סוכנים בו-זמנית, התיעוד מפנה אותך למקום אחר.

הערות מעשיות שמכריעות אם סשן עובר היטב: חלון ההקשר משותף לפרומפט ולפלט, בעיות קשות דורשות תקציב פלט של לפחות 32,768 טוקנים כולל הסקה, ויש לשמור את ה-reasoning_content המוחזר בהיסטוריית השיחה, אחרת שימוש בכלים לאורך מספר תורים נפגע. ההנחיה של Recursive עצמה למשימות מורכבות היא לפצל את העבודה לתת-משימות קטנות יותר עם הוראות מפורשות, וזו עצה כנה שגם נקראת כתיאור של תקרת היכולות של המודל.

מה שבאמת לא מוכח

שלושה דברים, לפי סדר יורד של המידה שבה הם אמורים להשפיע על החלטה.

הראשון הוא מדידה בלתי־תלויה. אין כזו. לא ציון נמוך בטבלת דירוג, ולא ציון שנוי במחלוקת — אין עדיין הערכת צד שלישי ל-Flint, והמספרים היחידים במחזור הם של הספק, שהופקו באמצעות בחירות מערך הבדיקה של הספק וההתאמה של הספק לאחזור מהאינטרנט. המתודולוגיה גלויה דיה כדי לאפשר ביקורת, וזה המרב שאפשר לבקש ביום הראשון, אך גילוי אינו אימות.

הנקודה השנייה היא האם מודל עם 2.5 מיליארד פרמטרים פעילים מחזיק מעמד בעבודה לטווח ארוך שלשמה סוכני קידוד נועדו באמת. פרוטוקול הבנצ'מרק מאפשר חמישה ניסיונות ופסקי זמן של חמש שעות, שזו מעטפת נדיבה; מודל שזקוק לכמה ניסיונות ולרצועה ארוכה יכול להציג pass@1 טוב ועדיין להרגיש לא אמין בעורך. ההסתייגות של Recursive עצמה בדבר הצורך בהכוונה רבה יותר מאשר במודלים סגורים גדולים יותר מצביעה על אותו דבר.

השלישי הוא חיפוש הארכיטקטורה עצמו. תצורה שנחזתה להיות הטובה ביותר מבין אלו שמערכת אוטומטית בדקה היא השערה לגבי ריצת אימון, לא תוצאה לגבי מודל גמור. אם התחזית של Eureka Machine הייתה נכונה, זהו תבנית שצוותים קטנים אחרים יעתיקו. אם היא הייתה נכונה בקירוב, נקודת הביקורת הבאה תזוז והיחס ישתנה.

איפה זה משתלב אם סטאק הסוכנים שלך הוא רק חצי מקומי

הסיבה שמודל כמו Flint חשוב היא שהוא מסיר שורה אחת מהחשבון, לא את כולן. הסקה מקומית מטפלת בעבודה שאפשר להריץ על המחשב שלכם ואינה עושה דבר לעבודה שאי אפשר — המשימה עם הקשר ארוך שלא נכנס, פרץ העומס שמעמיס על מחשב נייד אחד, המשימה שבה מודל גדול יותר פשוט טוב יותר. זה מותיר את רוב הצוותים מפעילים שתי מערכות.

OrcaRouter הוא החצי המתארח של ההסדר הזה, וכדי להבהיר את הגבול: איננו מספקים את Flint, ושום דבר בקטע הזה אינו פרסומת לצ'קפוינט שאנו מארחים. Flint הוא הורדה מ-Recursive, לא נקודת קצה שלנו. מה שאנו עושים הוא להעמיד API אחד לפני יותר מ-200 מודלים מתארחים במחיר המחירון של הספק עצמוללא תוספת מחיר, לנתב ביניהם עם שרשרת גיבוי מבוססת תצורה, ולעבור אוטומטית לגיבוי כשספק מתקלקל באמצע בקשה. אם ברצונך להשוות בין הערך של הרצת Flint מקומית לבין מודל תערובת מומחים מתארח בגודל דומה — Qwen3.6-35B-A3B ו-Gemma 4 26B-A4B שניהם ניתנים לקריאה דרך אותו מפתח אחד — ההשוואה עולה בקשה אחת ולא פריסה.

הקריאה הסבירה

פלינט הוא מהדורה אמיתית עם מרכז כובד ספציפי ויוצא דופן. Recursive לא שחררה את מודל הקידוד החזק ביותר שיכלה לבנות; היא שחררה את המהיר ביותר שיכלה לבנות בגודל שמתאים למחשב נייד, ואז פרסמה מערך כימות וקרנלים שנועד לגרום ליתרון הזה לשרוד במפגש עם משקלים של 4 ביט. 54.9% ב-Terminal-Bench 2.1 ו-89.7% ב-SWE-bench Pro v2 הם מספרים חזקים עבור מודל דליל בעל 40 מיליארד פרמטרים, ולעת עתה אלה המספרים של הספק בלבד.

מה שהופך אותו לראוי לצפייה ולא רק להורדה הוא השיטה שמאחוריו. צוות שאומר שלופ מחקר אוטומטי בחר את הארכיטקטורה, את מתכון הכימות ואת הקרנלים מציג טענה על תהליך, לא על מודל, ותהליכים ניתנים לבדיקה בדרך שבנצ'מרקים של השקה אינם: הגרסה הבאה או מגיעה מהר יותר וטובה יותר או שלא. Flint היא נקודת הנתונים הראשונה בטיעון הזה, ששוחררה תחת רישיון מתירני מספיק כדי שכל אחד יוכל לבדוק את המשקולות בעצמו.

אם יש לכם 48GB של זיכרון מאוחד ומכונת Apple Silicon, המחיר של לברר זאת הוא הורדה של 22.86GB ואחר צהריים. אם אין לכם, העמדה הישרה היא להמתין להערכה העצמאית הראשונה, כי טבלת בנצ'מרקים בת יום היא הבטחה ולא מדידה.