LFM3-1.7B-Base: מה אומר הריפו, ומה Liquid AI לא אמרה
- OrcaחדשOrcaCyber: GLM 5.3 Flash Abliterated2026-10-2787 tok/s
- OrcaחדשOrcaCyber: Qwen3.8 Flash Next Abliterated2026-10-26$0.80 / $1.60 לכל 1M טוקנים · 292 tok/s
- OrcaחדשOrcaCyber: MiMo V2.6 Flash Abliterated2026-10-26$0.80 / $1.60 לכל 1M טוקנים · 80 tok/s
- MoonshotחדשMoonshotAI: Kimi K3.1 Pro2026-10-2455אינטליגנציה
- OrcaחדשOrcaCyber: DeepSeek V4.1 Flash Abliterated2026-10-23$0.80 / $1.60 לכל 1M טוקנים · 119 tok/s
- minimaxחדשMiniMax: M3.1 Flash2026-10-1943אינטליגנציה
- OrcaחדשOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 לכל 1M טוקנים · 44 tok/s
- deepseekחדשDeepSeek: DeepSeek V4.1 Flash 10172026-10-1745אינטליגנציה
- DeepSeekחדשDeepSeek: DeepSeek V4.1 Flash2026-10-1740אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 לכל 1M טוקנים · 112 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952אינטליגנציה
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856אינטליגנציה
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 לכל 1M טוקנים · 701 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238אינטליגנציה
- OpenAIOpenAI: GPT-6 Sol2026-09-2248אינטליגנציה
- AnthropicAnthropic: Claude Opus 5.52026-09-2258אינטליגנציה
- xiaomiXiaomi: MiMo-V2.6-Flash2026-09-2138אינטליגנציה
- xiaomiXiaomi: MiMo-V2.6-Pro2026-09-2146אינטליגנציה
- xAIGrok 4.72026-09-2146אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 לכל 1M טוקנים · 160 tok/s
נקודת השמירה המשמעותית ביותר במשפחה החדשה של Liquid AI היא זו שעליה יש הכי מעט לקרוא. LFM3-1.7B-Base הוא מודל שאומן מראש, טקסט בלבד, בעל 1.73 מיליארד פרמטרים, וב-27 באוקטובר 2026 הוא הפך לגזע שממנו נבנו כל מודלי LFM3 שעברו אימון לאחר מכן — מודל הטקסט, מודל הראייה, מודל האודיו, המודל האומני ושני מודלי קבלת ההחלטות. פוסט ההשקה של המשפחה מזכיר אותו בפסוקית אחת. אין עבורו הודעה נפרדת, אין טבלת בנצ'מרק למודל הבסיס, ואין סיקור עיתונאי שמופנה אליו. המאגר, לעומת זאת, מפורש באופן יוצא דופן לגבי מהי נקודת השמירה ולשם מה היא נועדה, מה שהופך את השחרור הזה לקל לתיאור וקשה להפריז בו. לא מתווספת תוספת מחיר למה שספק המודל גובה. מחירי מחירון הספקים שינוי מחיר מצד ספק מגיע לחשבון שלך באותו יום.
מה שלהלן מפריד בין שני הדברים האלה. כל מה שמופיע במחצית הראשונה מגיע מכרטיס המודל, מקובץ התצורה, מנוסח הרישיון או מפוסט ההשקה של Liquid עצמה, וניתן לבדוק אותו היום. המחצית השנייה היא מה שנותר באמת לא ידוע שלושה ימים לאחר שהמשקלים פורסמו.
שני מאגרים, פוסט השקה אחד, ופער של שתים עשרה שעות
חותמות הזמן מספרות את סיפורו של שחרור שקרה בפומבי לפני שקרה בשיווק. מאגר LFM3-1.7B שעבר אימון-המשך נוצר ב-23 באוקטובר 2026. מאגר הבסיס נוצר ב-26 באוקטובר בשעה 16:28 UTC, והכרטיס שלו עודכן לאחרונה ב-27 באוקטובר בשעה 04:15 UTC — פחות משתים-עשרה שעות לאחר מכן. הפוסט בבלוג, "מציגים את LFM3: כל מודאליות לאינטליגנציה מתמחה", מתוארך ל-27 באוקטובר. עד שמישהו מחוץ לחברה יכול היה לקרוא מפרט, המשקלים כבר שהו ב-Hugging Face במשך יום.
סדר הדברים הזה ראוי להיאמר בפשטות, משום שהוא הדבר הקרוב ביותר ל"שחרור שקט" כאן. Liquid אכן הכריזה על המשפחה, וההכרזה מציינת את LFM3-1.7B-Base כצ'קפוינט שממנו אומנו ששת המודלים האחרים. מה שהחברה לא עשתה הוא להכריז על צ'קפוינט הבסיס בזכות עצמו — לא פוסט נפרד, לא הערכה ייעודית לבסיס, ולא מיצוב מעבר לפסקה אחת בכרטיס. המשפחה קיבלה את ההשקה. הגזע קיבל מאגר והפניה למשפחה.
מה יש במאגר
הכרטיס קומפקטי, והפעם גם שלם בכל מה שקשור ליסודות. קובץ model.safetensors אחד בגודל 3.46 GB ב-bfloat16. טוקנייזר עם אוצר מילים של 128,000 טוקנים. קוד המודל נשלח כקוד Python מותאם אישית לצד המשקולות, וננטע באמצעות trust_remote_code=True ולא דרך מהדורת Transformers ממוזגת של upstream. הרישיון הוא LFM Open License v1.0, אותה משפחת תנאים ש-Liquid משתמשת בה מאז LFM2.
• פרמטרים — 1.73B, צפוף, כל פרמטר נקרא בכל טוקן.
• שכבות — 24: שלושה עשר בלוקים של קונבולוציה קצרה עם שער, חמישה בלוקים של קשב בחלון הזזה, שישה בלוקים של קשב מלא.
• הקשר — 262,144 אסימונים, קלט ופלט.
• גיאומטריית קשב — גודל חבוי 2,048, שישה־עשר ראשי שאילתה, ארבעה ראשי מפתח-ערך, ממד ראש 128. זהו קשב שאילתה מקובץ ביחס של ארבעה לאחד, ולא שמונה לאחד כמו ב-LFM2.5.
• חלון מקומי — 256 אסימונים, עם מטמון קונבולוציה של שבע. זוהי הגדרת קשב לכל שכבה, ולא אורך ההקשר, והיא עוררה גל קטן של דיווחים מוטעים כאשר הארכיטקטורה הופיעה לראשונה בבקשת משיכה של מנוע יום לפני ההשקה.
• אוצר מילים ושפות — 128,000 אסימונים, שש עשרה שפות ברשימה: אנגלית, ערבית, סינית, צרפתית, גרמנית, איטלקית, יפנית, קוריאנית, פורטוגזית, ספרדית, וייטנאמית, תאילנדית, אינדונזית, הינדי, רוסית, פולנית.
• זיכרון — כ-1 GB ברמת דיוק של 4 סיביות לפי Liquid, ו-3.46 GB כפי שהוא מסופק ב-BF16.
יש אי-התאמה קטנה שכדאי להכיר לפני שמצטטים גודל. סרגל הצד של Hugging Face מעגל את המודל ל־"2B params", בעוד שהטבלה בכרטיס מציינת 1.73B. הקובץ מכריע את השאלה: 3.46 GB של bfloat16 הם 1.73 מיליארד פרמטרים בשני בתים כל אחד, כך שהתווית בסרגל הצד היא מוסכמת עיגול, לא מפרט נוסף. בזמן כתיבת הדברים, המאגר הראה חמישה-עשר הורדות בחודש האחרון ושמונה לייקים — הפרופיל של צ'ק-פוינט ששוחרר, קושר מהפוסט של ההשקה, ועדיין לא אומץ על ידי איש.
הארכיטקטורה, בלי הדיאגרמה
את העיצוב מוטב להבין כטיעון תקציבי. קשב מלא הוא החלק היקר של טרנספורמר בהקשר ארוך: כל טוקן משווה את עצמו לכל טוקן אחר, והעלות גדלה עם ריבוע אורך הרצף. המערך התלת־היברידי של Liquid מקדיש רק שישה מעשרים וארבעת השכבות שלו לפעולה הזאת. שלוש עשרה שכבות הן קונבולוציות קצרות עם שער, שמערבבות מידע באופן מקומי בעלות קבועה לכל טוקן, וחמש הן בלוקי קשב בחלון מחליק שרואים 256 טוקנים בכל פעם. שני שלישים מהרשת כלל אינם מבצעים פעולת קשב גלובלית.
זהו אותו הימור ש-Liquid מהמרת עליו מאז LFM2, רק מוקצן עוד יותר. LFM2.5-2.6B-Base השתמשה בשלושים שכבות שחולקו לעשרים ושתיים קונבולוציות ושמונה בלוקי תשומת-לב מלאה, ללא דרג של חלון הזזה. LFM3 מחליפה זוג קונבולוציות בבלוק תשומת-לב מחליק בחמישה מקומות במחסנית, מעלה את מטמון הקונבולוציה משלוש לשבע, ומוסיפה את הגדרות הנרמול מסוג סנדוויץ' והרוטציה החלקית שמופיעות בקונפיג. האם הפשרה הספציפית הזו משפרת את האיכות היא שאלה שרק הערכה יכולה לענות עליה, ונכון למועד הפרסום אין הערכת מודל בסיס שתענה עליה. מה שהקונפיג כן קובע הוא שהקונטקסט של 256K אינו מושג על ידי הרחבת תשומת-הלב ל-256K; הוא מושג על ידי השארת רוב המחסנית מקומית.
מודל הבסיס מגיע עם תבנית צ'אט
זהו הפרט שסביר ביותר לבלבל כל מי שמוריד את ה-checkpoint ומצפה להשלמת טקסט גולמית. LFM3-1.7B-Base כולל תבנית צ'אט מלאה, והכרטיס אומר שאימון הביניים כלל נתוני צ'אט גם עם וגם בלי עקבות חשיבה, בפורמט של אותה תבנית כמו המודל שעבר אימון פוסט. קראו ל-apply_chat_template והחשיבה מופעלת כברירת מחדל: התגובה מתחילה בתוך בלוק חשיבה אלא אם תעבירו enable_thinking=False, שממלא מראש עקבה ריקה ומבקש תשובה ישירה.
אז הוא מתנהג קצת כמו מודל instruct ומתועד כמשהו אחר לגמרי. ההמלצה של הכרטיס עצמו חד-משמעית: LFM3-1.7B-Base "מומלץ רק למשימות הדורשות כוונון עדין כבד, כמו עוזרים ספציפיים לשפה או לתחום, אימון על נתונים קנייניים, או התנסות בגישות חדשניות לאימון לאחר האימון." עבור צ'אט, קריאה לכלים וסוכנים, הוא מפנה אל LFM3-1.7B. התבנית קיימת משום שנתוני אימון הביניים עוצבו כך ומשום שכוונון עדין יורש אותה — לא משום שנקודת הבידוק כווננה לשיחה. כל מי שיתייחס לתבנית כאות מוכנות יתאכזב מהפלטים, והכרטיס אומר זאת לפני שהם מתחילים.
המספרים שאנשים יצטטו אינם המספרים של המודל הזה
פוסט ההשקה מכיל טבלת בנצ'מרקים נכבדת, וכמעט שום דבר בה אינו חל על ה-checkpoint שאליו מתייחס המאמר הזה. הממוצע הכותרתי של 49.37 שייך ל-LFM3-1.7B, המודל שעבר post-training, כפי שנמדד על פני חבילת הבנצ'מרקים של Liquid עצמה. שורות ההשוואה — LFM2.5-2.6B עם 31.55, MiniCPM5-2B עם 39.19, Gemma 4 E4B עם 31.74, Qwen3.5-4B עם 39.27, Qwen3.5-9B עם 47.24 — הן מודלים שעברו post-training מול מודלים שעברו post-training. גם 43.40 ב-SWE-bench Verified ו-73.46 ב-LiveCodeBench v6 הם הציונים של המודל המכוונן.
שתי טענות נקשרות לצ'קפוינט הבסיס בקריאה שטחית, וזה לא צריך לקרות. הראשונה היא "35% פחות פרמטרים" — כלומר ש-LFM3-1.7B מתעלה על LFM2.5-2.6B, אמירה על הזוג לאחר האימון, ולא תוצאה של בסיס מול בסיס. השנייה היא הטענה ש-LFM3 "משתווה ל-Gemma 4 12B". המשפט הזה עוסק ב-LFM3-VL-2B, מודל הראייה, על פני 62 מדדי ראייה. הוא אינו אומר דבר על צ'קפוינט הבסיס הטקסטואלי, שאין לו כלל הערכה שפורסמה. מודל בסיס בלי טבלת מדדים אינו דבר יוצא דופן — Liquid במכוון לא פרסמה כזו גם עבור LFM2.5-2.6B-Base — אבל ההיעדרות פירושה שכל טענת איכות על הצ'קפוינט הזה היא כיום טענה על המודל שהוא יצר.
אימון, והחלק שהוא באמת ייחודי
Liquid מציינת שה-checkpoint ראה 22 טריליון טוקנים בשני שלבים. שלב האימון המקדים הראשי שינה את תמהיל הנתונים לעומת LFM2, והוסיף יותר מאמרים מדעיים, קוד ברמת מאגר, מתמטיקה ופריסה רחבה יותר של מקורות ידע. 3.5 טריליון הטוקנים האחרונים מהווים שלב mid-training על נתונים אצורים באיכות גבוהה יותר, עם נתח גדול יותר של עקבות סוכניות וקריאות לכלים, ובשלב הזה חלון ההקשר מוארך ל-256K.
החלק הלא שגרתי אינו מספר הטוקנים; אלא העובדה שנתוני סוכנים הוכנסו למודל הבסיס ולא רק לשלב האימון המאוחר. רוב הספקים שומרים עקבות של קריאות לכלים עבור שלב כוונון ההוראות. Liquid הכניסה אותם לגזע ולאחר מכן ביצעה אימון מאוחר לשישה מודלים שונים מעליו עם SFT, RL משולב, זיקוק on-policy רב-תחומי ו-RL סוכני. זוהי אסטרטגיה קוהרנטית למשפחה שנועדה לחלוק עמוד שדרה אחד בין מודאליות, וזו גם הסיבה לכך שהצ'קפוינט הבסיסי נושא תבנית צ'אט. זוהי טענה בנוגע למתודולוגיית אימון שלא ניתן לבדוק מבחוץ, ואין שחזור בלתי תלוי.
מה אתה יכול לעשות עם זה היום
הכרטיס מקשר לשתי מחברות TRL: אחת ל-supervised fine-tuning על חילוץ JSON מובנה ממסמכים מבולגנים, ואחת ל-continued pre-training על שפה חדשה, כשהדוגמה היא טורקית מטקסט גולמי. שתיהן כתובות מול LFM3-1.7B ודורשות שינוי של model_id יחיד כדי להצביע על ה-checkpoint הבסיסי. עמוד התיעוד מכסה את שאר מסלול ה-fine-tuning. למודל ה-instruct יש סט מלא של וריאנטים לריצה — BF16 עבור vLLM, SGLang ו-Transformers; FP8 ו-NVFP4 עבור SGLang; GGUF עבור llama.cpp, Ollama ו-LM Studio; MLX עבור Apple silicon; ONNX Runtime. ל-checkpoint הבסיסי יש בדיוק ארטיפקט אחד: קובץ ה-safetensors מסוג BF16. אין GGUF, אין build ל-MLX, אין מהדורה מכווצת. אם תרצו להריץ אותו בטלפון, תצטרכו לעשות את ההמרה בעצמכם.
איפה זה משתלב אם אתה מגיש מודלים למחייתך
צ'קפוינט מאומן מראש אינו נקודת קצה לצ'אט, וכדאי להיות קונקרטיים לגבי זה. LFM3-1.7B-Base אינו מופיע בקטלוג של OrcaRouter נכון לזמן כתיבת הדברים, ומודל בסיס יהיה דבר מוזר לנתב אליו: אין לו עקיבת הוראות שאפשר לנתב אליה. המקום השימושי עבור נתב מתחיל שלב אחד מאוחר יותר, לאחר שה-fine-tune קיים. OrcaRouter מציבה יותר מ-200 מודלים מאחורי API אחד עם 0% תוספת על מחירי המחירון של הספקים, מעבר אוטומטי במקרה כשל ו-DSL לניתוב, כך שצ'קפוינט LFM3 מכויל לתחום יכול לשבת לצד מודל כללי גדול יותר, להיות מושווה אליו או לעבור אליו במקרה כשל בלי אינטגרציה נוספת. מיזוג מודלים — פאנל שעונה יחד — הוא האפשרות האחרת כאשר מומחה בגודל 1.73B טוב בדבר אחד ואתם צריכים חוות דעת שנייה. שום דבר מזה לא מחייב את צ'קפוינט הבסיס עצמו להתארח בשום מקום.
מה עדיין לא אושר?
• איכות הבסיס.אין טבלת בנצ'מרקים, אין פלט מכלי הערכה, ואין השוואה ל-LFM2.5-2.6B-Base באף משימה.
• אימות עצמאי. אף מעבדת צד שלישי לא פרסמה הרצה של המודל הבסיסי או המודל המכוונן. כל מספר בפוסט ההשקה הוא של Liquid עצמה.
• תמיכה ב-Upstream Transformers. המאגר משתמש בקוד מידול מותאם אישית וב-trust_remote_code. זה נורמלי בהשקה ומהווה עלות תחזוקה בהמשך.
• איך הבסיס מוגש. בפוסט ההשקה נאמר שהמודלים הבסיסיים והמודלים שעברו אימון נוסף זמינים ב-Hugging Face, ב-Liquid Playground וב-Liquid API. לא מוסבר מה ה-API עושה עם צ'קפוינט בסיסי לא מכוונן, ולא מתפרסם עבורו תמחור.
• מקרי קצה של רישוי. רישיון LFM Open License v1.0 חינמי לשימוש מסחרי עבור מחזור הכנסות שנתי נמוך מ-10 מיליון דולר; מעל סף זה חל רישיון מסחרי. הטקסט פומבי, אך האופן שבו הוא מתייחס למודל נגזר שאומן על הבסיס ולאחר מכן מוגש באופן מסחרי הוא שאלה לעורך דין, לא לכרטיס מודל.
מה לראות
האות המשמעותית הבאה אינה הודעה נוספת — היא ההערכה הבלתי־תלויה הראשונה של המודל לאחר האימון, וכיונון עדין ציבורי ראשון שמדווח כיצד היה לאמן את נקודת הביקורת הבסיסית. הניסוח של Liquid עצמה מזמין את המבחן הזה: גזע של 1.73B שהפיק שישה מודלים וטוען שהוא עולה על קודמו בן 2.69B הוא או ארכיטקטורה יעילה באמת, או חבילת בנצ'מרקים שנבחרה היטב, ורק הרצות חיצוניות יבדילו בין השניים. עד אז, המאגר הוא כל הסיפור: קובץ של 3.46 GB, מפרט ברור, תבנית צ'אט שאינה הזמנה, ורישיון שכדאי לקרוא לפני ששורת ההכנסות מתקרבת.
