Liquid AI d1 לעומת Liquid AI d1-omni-600M: המודל הפתוח לקבלת החלטות שיכול לשמוע אותך

חפשו את השם Liquid AI d1 ותגיעו למודל בעל שלושה מיליארד פרמטרים שקורא טקסט ותמונות. הצ'קפוינט הפתוח האחר באותה משפחה הוא חמישית מהגודל, לוקח בחשבון עד שלושים שניות של דיבור, והוא היחיד מבין השניים שמסוגל להחליט משהו בכלל לגבי קול. הוא נקרא Liquid AI d1-omni-600M, ואם מצאתם את המשפחה דרך ספריית זמן ריצה מקומית ולא דרך התיעוד של הספק עצמו, יש סיכוי לא מבוטל שמעולם לא ראיתם את שמו. זה המצב שההשוואה הזו נועדה לתקן, מפני ששני המודלים אינם תשובות מתחרות לאותה שאלה. הם תשובות לשתי שאלות שונות, ורק אחת מהן כרוכה בהאזנה.

כל נתון להלן מגיע מהחומר של Liquid AI עצמה: כרטיס המודל LiquidAI/d1-omni-600M, המאגר הנלווה d1-omni-600M-GGUF, ופוסט ההשקה מ-7 באוקטובר שהכריז על שני הצ'קפוינטים הפתוחים בבת אחת. שורות הביצועים נוקדו על ידי הספק לפי מדד שהוא מתחזק, ולא הוגשו לדירוג ציבורי, והפוסט אומר במפורש שבנצ'מרקים ייעודיים לקבלת החלטות מבוססות אודיו הם בעיה פתוחה. שום דבר כאן לא שוחזר על ידי איש מחוץ למעבדה.

ממה עשויים 587 מיליון פרמטרים

מספר הכותרת מסתיר פיצול יוצא דופן. סך הפרמטרים עומד על 587M, והם אינם סטאק אחד: גזע משותף בנפח 381M שאליו מחובר ראש ההחלטה, מקודד חזותי בנפח 94M, ומקודד אודיו בנפח 112M. כל מודאליות עוברת דרך אותם משקלי גזע, וזו החלטת התכנון ששומרת על הדבר כולו קטן — המודל אינו שלושה מודלים שעוטים מעיל גשם, אלא גזע מכריע אחד עם שתי דרכים להזין אותו.

הרכיבים מגיעים ממקומות שונים בקטלוג של Liquid. הגזע descend? Wait need no English except brands. I must output only Hebrew. Let's craft: הרכיבים מגיעים ממקומות שונים בקטלוג של Liquid. הגזע נובע מ-LFM2.5-Encoder-350M, מקודד דו-כיווני, ולא מקו ה-decoder-only שממנו הגיע האח הגדול יותר. מגדל הראייה הוא SigLIP2 שנלקח מ-LFM2.5-VL-450M עם מתאם ועדכוני LoRA שהוחלו על עמוד השדרה. מסלול האודיו הוא מקודד FastConformer בן 17 שכבות עם מתאם משלו, שעבר כוונון עדין מול עמוד שדרה טקסטואלי קפוא. הכרטיס מדווח על חלון הקשר של 16,384 טוקנים המשותף למיקומי טקסט, תמונה ואודיו יחד, כאשר הטקסט נחתך ל-896 טוקנים כשתמונות נמצאות, ועל אוצר מילים של 65,536 טוקנים — מחצית מה-128,000 של האח הגדול יותר. כדאי לשים לב לנתון האחרון אם אתם עובדים בשפה שהמשפחה מכסה רק באופן חלקי.

דו-כיווני לעומת decoder-only הוא הסיבה לכך ששני המודלים מרגישים שונים לכל מי שהריץ את שניהם. הגזע בצורת מקודד קורא את כל המצב בבת אחת, בשני הכיוונים, לפני שהוא מייצר משהו. זה שצורתו מפענח קורא קדימה כפי שמודל שפה עושה. שניהם מאומנים לדווח תשובות מתוך התפלגות עם אפס אסימוני פלט, כך שאף אחד מהם לא כותב טקסט — אבל המנגנון שמתחת הוא סוג אחר של מודל, ופער הדיוק שנדון להלן הוא המחיר הגלוי של העיצוב הקטן יותר, בצורת מקודד.

שלושים שניות של דיבור, ואין במה לתת לו ציון

אודיו הוא הסיבה שהצ׳קפוינט הזה קיים. הוא מקבל קליפ בודד של עד 30 שניות, 16 קילו־הרץ מונו, באותו מעבר קדמי שמייצר את התשובה, והוא החבר היחיד במשפחה עם משקולות פתוחות שיכול לעשות זאת. עבור עבודה על־מכשיר, זו אינה תכונה שולית. מצלמה שמסמנת פגם בפס ייצור היא בעיית ראייה שהאח הגדול במשפחה כבר מטפל בה; מכשיר שמנתב בקשה מדוברת, מסווג אמירה או מחליט אם מתקשר מבקש החזר כספי הוא בעיה שרק זה יכול להיות מכוון אליה.

שני אילוצים יושבים על גבי היכולת הזו ושניהם מתועדים, מה שאומר שאין תירוץ להיתקל בהם בפרודקשן. ראשית, בקשה אחת נושאת תמונות או אודיו, אף פעם לא את שניהם — העברת שניהם מעלה ValueError במקום להשמיט אחד בשקט, כך שהכשל רועש וזול לאיתור בבדיקות. שנית, מסלול האודיו אומן על חילופי דברים בין דובר אנגלית לעוזר, כשהקליפים נחתכו ב-30 שניות. זו גאומטריית דובר אחת, מבנה תור אחד, והתפלגות מבטא אחת. להפנות אותו להקלטות ממוקד טלפוני או אודיו מהשדה הוא לבקש התנהגות שהכרטיס אינו מצהיר עליה, וזה בדיוק סוג הפער שבנצ'מרק היה חושף אם היה קיים.

לא קיים אף אחד כזה. פוסט ההשקה מכנה בנצ'מרקים ייעודיים להחלטות אודיו "בעיה פתוחה נכון להיום" ומזמין את הקהילה לבנות אחד כזה — הצהרה כנה למדי מצד מעבדה, ואילוץ ממשי לכל מי שמעריך את המודל. Liquid AI d1-omni-600M נדרש להצדיק את עצמו על בסיס יכולת שאיש עדיין לא יכול למדוד. הספק גם נמנע מלפרסם נתוני הסקה לחלוטין, בנימוק המוצהר שהמודל הוא מהדורת מחקר מוקדמת הנמצאת בפיתוח פעיל. כך שאין כלל נתון השהיה עבור ה-600M — לא לטקסט, לא לראייה, ולא למסלול האודיו שהוא כל העניין.

מה שאפשר לומר בלי להמציא שום דבר הוא חשבון על מספר הפרמטרים המפורסם: ברמת הדיוק float16 שכרטיס המודל ממליץ עליה ל-GPU, 587M פרמטרים הם בסדר גודל של 1.2 GB של משקלים לפני אקטיבציות, לעומת כ-6.2 GB עבור ה-3.12B האח באותה רמת דיוק. הכרטיס גם נושא אזהרת דיוק שקל לפספס בקריאה חפוזה, ואסור לפספס אותה: המודל אומן ב-float32, float16 מומלץ ב-GPU, ו-bfloat16 שינה את התשובה המובילה בחלק מהשורות במהלך הבדיקות. אם מערך ההגשה שלכם מוגדר כברירת מחדל ל-bfloat16, זהו מודל שבו ברירת המחדל הזו אינה בטוחה.

למה קל לפספס את החצי הקטן יותר של המשפחה

הסיבה לכך שקורא מגיע אל ה-3B ונעצר היא מבנית ולא מקרית. אינדקס התיעוד של Liquid AI מפרט שלוש שורות תחת מודלי החלטה והן לא נקראות באותו אופן: d1-3B ו־d1-omni-600M כוללים קישורים ל-Hugging Face ול-GGUF עם "לא" בעמודת האימון, בעוד d1 יושב בשורה משלו עם האותיות החשופות "API" במקום שבו היו אמורים להופיע קישורי ההורדה של כל דגם אחר. פוסט ההשקה מכנה את d1 שם של משפחה ולעולם אינו מבדיל בין נקודת הקצה המוגשת לבין נקודת הביקורת הפתוחה. ספריות ריצה מקומיות אז לוקחות את ה-3B, כי זה הדגם שגודלו ומספר המודאליות שלו תואמים את הרשומה שהן רוצות לפרסם, וה-600M אינו מופיע באותה רשימה כלל.

התוצאה היא משפחה שסיפור הגישה שפורסם שלה, בקריאה מהירה, נראה כמו מודל אחד ושורת API אחת. מה שלמעשה מוצע הוא שני צ׳קפוינטים פתוחים עם גזעים שונים, מודאליות שונות ופער של 32 נקודות בין הציונים שלהם במדד של הספק עצמו, בתוספת נקודת קצה מתארחת שהספק מעולם לא אישר את הקשר שלה לאף אחד מהצ׳קפוינטים. ה-600M לא מוסתר מאחורי שום דבר. פשוט אין לו שם שחיפוש אחרי d1 יעלה, והוא היחיד מבין השניים ששומע.

הציונים שקיימים, והטור האחד ששווה לקרוא

במדד Decision Index 0.2.1 היצרן מדווח 15.95 עבור Liquid AI d1-omni-600M לעומת 48.57 עבור האח הגדול שלו — פער גדול מספיק כדי שהסכום הכולל יהיה כמעט חסר תועלת כבסיס לבחירה. תתי-הציונים מאלפים יותר מהסכום, ואחד מהם מפתיע באמת.

• ידע — 8.3 לעומת 23.8

• שפה — 12.9 לעומת 56.4

• אחזור — 35.0 לעומת 52.8

• כלים — 15.1 לעומת 74.5

• אומנויות — 6.8 לעומת 36.3

אחזור הוא המקום שבו המודל הקטן מחזיק מעמד, כשהוא מפסיד פחות משליש מהציון של המודל הגדול יותר, בעוד שבארבע העמודות האחרות הוא מפסיד 60 עד 80 אחוז. התבנית הזו תואמת למה שמקודד מאומן אמור להיות טוב בו: התאמת מצב לתוכן קרובה למה שהגזע נבנה עבורו, והיא תלויה הרבה פחות ביכולת הלשונית השכבתית שהאח המעוצב כדקודר ירש מהרבה יותר אימון מקדים. עמודת הכלים היא הסיפור ההפוך, ופער של 59 נקודות שם הוא המספר שכדאי לבהות בו אם עומס העבודה שלך הוא ניתוב בקשה לפונקציה הנכונה.

בשבעה מבחני טקסט ציבוריים התמונה מתרככת. הספק מדווח על ממוצע של 78.4 עבור ה-600M לעומת 82.9 עבור ה-3B, כאשר המודל הקטן מפסיד באופן צר ב-SQuAD 2.0 (74.0 לעומת 85.3), PubMedQA (61.3 לעומת 66.0), BoolQ (77.7 לעומת 86.7) ו-XNLI (74.7 לעומת 85.0), בעודו מנצח בזיהוי רעילות ב-Civil Comments (95.8 לעומת 93.0) ובזיהוי פרפרזה ב-PAWS-X (79.5 לעומת 76.9). הניסוח של Liquid עצמה הוא שה-600M מנצח ממוצע של 77.1 של מודל החלטה 2B ברבע מהפרמטרים. שתי סוויטות מבחנים נותנות שני פסקי דין שונים לכאורה, שניהם מדווחים עצמית, והקריאה הכנה היא שאף אחד מהם לא מכריע דבר לגבי מסלול האודיו, מכיוון שמסלול האודיו אינו נמצא באף אחת מהסוויטות.

היכן ששני אלה למעשה נפגשים

למרות כל השוני, מודל התכנות זהה, וזה מה שהופך אותם לניתנים להחלפה במובן אחד מסוים. שניהם עונים על שאלות noul, choice ו-score ביחס למצב, שניהם מחזירים את התשובה הנבחרת עם מפת הסתברויות וערך ביטחון בין 0 ל-1, ושניהם מדווחים output_tokens: 0. שדה הביטחון הוא זה שאנשים מפרשים לא נכון: הוא מודד עד כמה ההסתברויות מעדיפות תשובה אחת, ולא את הסיכויים שהתשובה נכונה. 0.96 על שאלה מנוסחת גרוע הוא תשובה שגויה ובטוחה, והשדה לא יזהיר אותך.

המקום שבו הם נפגשים בפועל הוא קסקדה. סננו באמצעות Liquid AI d1-omni-600M — בזול, באופן מקומי, וכולל את מקרי האודיו שאף מדרג טקסט בלבד לא יכול לגעת בהם — ואז להעלות את הפריטים שהוא ממקם קרוב לאמצע הסקאלה שלו אל הצ'ק פוינט הגדול יותר לשם החלטה חדה יותר. כללי ההסלמה הם רמת הביטחון וההתפלגות שה-600M כבר מחזיר, כך שלוגיקת הניתוב אינה זקוקה למודל נוסף, ובעומס עבודה שבו רוב מובהק של פריטים קלים, רוב התעבורה לעולם אינה מגיעה לשלב השני. ההרכב הזה עובד משום ששני המודלים מחזירים את אותו סוג של אובייקט. שני מודלים שרירותיים לא היו מחזירים אותו.

אם הקסקדה הזו אי-פעם משמשת כשער לקריאה למודל גנרטיבי שאתם שוכרים ולא מריצים, השכבה שמתחת היא המקום שבו הצנרת נעשית מעניינת, וזה גם המקום שבו אנחנו נכנסים. ניתוב החלטה דרך שרשרת מודלים הוא בדיוק צורת הבעיה שעבורה נועד כלל ניתוב: OrcaRouter מרכיב מספר מודלים מאחורי נקודת קצה אחת תואמת OpenAI, כל אחד לפי מחיר המחירון של הספק המועבר עם 0% תוספת, עם מעבר אוטומטי בין ספקים כך שהסלמה שנכשלת בשכבת הספק מנסה שוב על גיבוי במקום להיכשל בבקשה. אנחנו לא מארחים שום מודל של Liquid AI — בדקנו לפני שכתבנו את זה — כך ששום דבר למעלה אינו טענה לגבי קריאה למשקלים האלה דרכנו. הנקודה היא שמודל ההחלטה הוא החלק הזול של הצינור והמודל השאול בצד השני הוא החלק שנופל.

מאיפה הקובץ מגיע, אם אתה רוצה להריץ אותו היום

עבור פריסה מקומית, מאגר ה-GGUF של הספק עצמו עבור ה-600M מספק Q8_0 בנפח 407 MB ו-F16 ו-BF16 בנפח 764 MB כל אחד, ללא בנייה של 4-bit ברשימה — כך שההורדה הרשמית הקטנה ביותר קטנה פי שבעה בערך מהבנייה המתאימה של המודל הגדול יותר ובערך באותו גודל כמו תצלום ברזולוציה בינונית. הדוגמה של הכרטיס עצמו מפעילה שרת llama.cpp עם דגלי אצווה של 4096 ומציעה להעלות אותם ל-16384 עבור מצבים ארוכים יותר, ואז שולחת שאילתה לאותה נקודת קצה /v1/systemone שבה משתמש האח הגדול.

הדבר האחד שהמסלול המקומי לא נותן לך הוא המספרים של מסלול האודיו, כי הם לא קיימים. אם בכוונתך להריץ דיבור דרך זה מול משתמשים אמיתיים, ההערכה היא שלך לבנות: סט מתויג של קטעים, אותם שלושה סוגי שאלות, ושיעור תשובות מדוד לכל מחלקה. זו אינה דחייה של המודל — צ'קפוינט של 587M שמחליט על קטע קולי במעבר אחד הוא כלי שונה לחלוטין ממסווג טקסט שמוברג לשלב תמלול, והוא ראוי למבחן אמיתי ולא למבחן מבוסס וייבים.

אם אותה קסקדה אי פעם משמשת כשער לקריאה למודל גנרטיבי שאתם שוכרים ולא מריצים בעצמכם, OrcaRouter מרכיב כמה מודלים מאחורי נקודת קצה אחת תואמת OpenAI, כל אחד במחיר המחירון של הספק שלו, ומועבר הלאה עם 0% תוספת.

בחירה בצ'קפוינט omni על פני זה שמיועד לטקסט בלבד היא גם הזדמנות טובה לבחון מה כבר השתבש במחלקה הזו: תקריות ה-AI המתועדות וכשלי סוכנים הקשורים למודלים מולטימודליים קטנים נאספים בארכיון תקריות ה-AI של OrcaRouter, שבו כל רשומה נושאת מקורות משלה, חומרה, דירוג ביטחון ודגל מחלוקת.