Kolibri: מהו בעצם המודל בעל 78B במשקולות פתוחות של Aleph Alpha

Kolibri הוא מודל שפה בעל משקולות פתוחות מבית Aleph Alpha, המעבדה בהיידלברג ששנים טוענת שמוסדות אירופיים זקוקים למודלים שהם יכולים להריץ על החומרה שלהם. מדובר במערכת תערובת-מומחים בת 78 מיליארד פרמטרים שמפעילה כ-3.46 מיליארד פרמטרים לכל טוקן, קוראת וכותבת גרמנית ואנגלית ותו לא, ומחזיקה בחלון הקשר מאומת של 1,048,576 טוקנים. המשקולות נמצאות ב-Hugging Face במאגר בשם Aleph-Alpha/Kolibri-1, תחת Apache 2.0. אותם חומרי ההשקה גם מתארים את Kolibri Origin, קודמו עם 30.6 מיליארד פרמטרים, שאומן ואומת באופן פנימי ומעולם לא שוחרר. אם חיפשתם את השם לבדו והגעתם לכאן, זו התשובה הקצרה; שאר העמוד הזה הוא המפרט שמאחוריו, כשלכל נתון מיוחס המקור שמפרסם אותו.

המודל הושק ב-3 באוקטובר 2026 — פוסט החדשות של Aleph Alpha עצמה, מתוארך להיידלברג, 5 באוקטובר, מציין כי Kolibri זמין מאז 3 באוקטובר, וכרטיס המודל נושא את אותו תאריך. התאריך הזה נמצא כאן כדי למקם את המודל, לא כדי להכריז עליו. מה שמופיע להלן הוא הגרסה הקבועה: מהו המודל, מה הוא אינו, אילו מספרים מגיעים מ-Aleph Alpha ואילו, נכון להיום, אינם מגיעים מאף אחד כלל.

Kolibri, Kolibri-1, Kolibri Origin: שלושה שמות, מהדורה אחת

המינוח הוא הדבר הראשון שקורא חייב להבין לאשורו, מפני שהספק משתמש בשניים מאלה לסירוגין, ואילו השלישי שייך למשהו אחר לגמרי.

• Kolibri — שמו של המודל בכל מה ש-Aleph Alpha כותבת: עמוד המוצר, ההכרזה, הדוח הטכני. מילה בגרמנית, והיצרן מאיית אותה בדיוק כך, K גדולה, בלי סיומת.

• Kolibri-1 — אותו מודל ברמת המאגר. מאגר Hugging Face הוא Aleph-Alpha/Kolibri-1, ופקודת ההגשה שהספק מפרסם היא vllm serve Aleph-Alpha/Kolibri-1. זהו מזהה גרסה, לא מודל שני, ושתי המחרוזות מובילות לאותם משקלים בדיוק.

• Kolibri Origin — מודל אחר, ולא כזה שניתן להוריד. זהו קודמו בעל 30.6 מיליארד פרמטרים ו-3.27 מיליארד פרמטרים פעילים שסיים את האימון המקדים ביוני 2026, שימש לאימות צינור האימון, ומעולם לא פורסם. Aleph Alpha מדווחת על רוב שורות הבנצ'מרק של Kolibri כעמודה מזווגת מולו, ולכן השם הזה מופיע כמעט בכל טבלה על Kolibri. אם אתם מחפשים משקלים, זה לא המודל שכדאי לחפש.

אין "Kolibri 2" נפרד, אין וריאנט מכוונן לצ'אט שפורסם תחת שם אחר, ואין הפצה רשמית מכומתת. כל דבר אחר שנושא את השם באינדקס הורדות הוא המרה של צד שלישי, והחומר של היצרן עצמו אינו מתעד אחת כזו.

גודל: הנתון של 78B נכון, והמספר השני הוא זה שקובע הכול.

שאילתה בנוגע ל"Kolibri 78B" מסתובבת, והספק מאשר אותה במקום לתקן אותה. מכרטיס המודל, שפורסם יחד עם המשקלים: 78,103,074,560 פרמטרים בסך הכול, מהם 3,457,573,120 פעילים לכל טוקן. זהו יחס דלילות של בערך 22.6 ל-1.

ההבחנה הזו אינה קפדנות יתר. סך כל הפרמטרים קובע כמה זיכרון המודל דורש; הפרמטרים הפעילים קובעים כמה מחשוב עולה כל טוקן. מודל 78B עם 3.46B פעילים הוא ארטיפקט עצום מאוד שמתנהג, בזמן אינפרנס, כמו אחד קטן על בסיס פר־טוקן — וזו בדיוק הסיבה ש-Aleph Alpha יכולה לנקוב ברצפת פריסה של שני GPUs למשהו בגודל הזה. כל סיכום של Kolibri שנותן לך 78B בלי הנתון הפעיל השמיט את החלק שקובע את החשבון.

בהשוואה לשושלת של המוצר עצמו: Kolibri Origin היה בעל 30.6B פרמטרים בסך הכול, עם 3.27B פעילים. Kolibri כמעט מכפיל את סך מספר הפרמטרים, בעוד שמספר הפרמטרים הפעילים כמעט ואינו משתנה, וזה מעיד על קיבולת ליחידת עלות שירות ולא על מהירות גולמית.

ארכיטקטורה ורישיון: מהם המשקלים, ומה Apache 2.0 בעצם מכסה כאן

Kolibri הוא טרנספורמר מסוג תערובת מומחים בעל 50 שכבות, ללא שכבות הזנה קדימה צפופות כלל. כל שכבה מנתבת אל 384 מומחים, שישה מהם פעילים לכל טוקן, ובנוסף מומחה משותף אחד; ממד הביניים של המומחה הוא 512 וממד המודל הוא 2,560. הקשב הוא היברידי: רוב השכבות משתמשות בחלון הזזה של 512 טוקנים, כאשר קשב מלא מופיע רק בכל שכבה חמישית. מסמך הארכיטקטורה של Aleph Alpha מציג את ההשלכה בבירור — חלקה של עבודת הקשב הטהורה יורד מ-51 אחוז ל-27 אחוז בהקשר של 16K בהשוואה ל-Kolibri Origin, ומספר שכבות הקשב המלא יורד פי חמישה בקירוב.

הטוקנייזר הוא גרסת גרמנית-אנגלית עם אוצר מילים של 128,000 טוקנים, שאומנה בשיטה שהמעבדה מכנה UniBPE. שתי שפות, במכוון: הספק ממסגר את ההיקף כעומק על פני רוחב ואומר זאת במפורש, במקום להציג שתי שפות שמטופלות היטב כהישג רב-לשוני.

הרישיון הוא Apache 2.0, וכרטיס המודל מדויק באופן יוצא דופן לגבי גבולו. הרישיון חל, בלשונו של הכרטיס עצמו, "רק למשקלים ולקבצי התצורה המפורסמים במאגר זה" — הוא אינו משתרע על הקוד הבסיסי, הגדרת הארכיטקטורה, הגדרות הפרמטרים או שיטת האימון. לכן המצב המעשי עבור צוות פריסה הוא זה: המשקלים אכן פתוחים וניתנים לשימוש מסחרי, ללא נספח שימוש מקובל, ללא סף משתמשים פעילים חודשי וללא תנאים מסחריים נפרדים, אך הרישיון אינו הענקה על מתכון האימון של Aleph Alpha או על קוד ההסקה שלה. אם הבדיקה המשפטית שלכם שואלת אם זה קוד פתוח במובן של OSI, התשובה הכנה היא שמדובר במשקלים פתוחים תחת רישיון מאושר על ידי OSI עם מגבלת היקף מוצהרת, ואלה אינם אותה טענה.

חלון הקשר ופלט מקסימלי

Aleph Alpha מפרסמת את חלון ההקשר בשתי דרגות, וההבחנה הזו ראויה לשימור.

• מקסימום מאומת — 1,048,576 טוקנים, כפי שצוין גם בעמוד המוצר וגם בכרטיס המודל.

• נייטיבי ומומלץ — 262,144 אסימונים. הכרטיס ממליץ להישאר בערך זה או מתחתיו לשם יעילות ההגשה ולמשימות מורכבות; בדף הספק מכנים את 256K הנתון המעשי.

• התקדמות האימון — אומן מראש ב-16,384 טוקנים, אומן בשלב הביניים באופק של 65,536 טוקנים, ואז הורחב ל-262,144 בתור אורך האימון.

הגעה למיליון המלא אינה תצורה שמקבלים כברירת מחדל. מתכון ההגשה דורש דגל מפורש של אורך מודל מקסימלי ועקיפת הטמעת מיקום, שהספק מתעד. יש לקרוא את 1M כתקרה מאומתת עם נוהל מתועד, ואת 262K כמספר שסביבו יש לתכנן עומס עבודה לייצור.

אורך הפלט המקסימלי אינו מפורסם. לא עמוד המוצר, לא כרטיס המודל ולא ההודעה מציינים תקרת יצירה. אם פריסה תלויה במגבלת פלט קשיחה, זו שאלה עבור Aleph Alpha או עבור תצורת ההגשה שלך — לא משהו שחומרי השחרור עונים עליו.

מודאליות: טקסט בלבד, וזהו גבול מכוון

Kolibri הוא מודל קלט-טקסט, פלט-טקסט. תג ה-pipeline של הכרטיס הוא יצירת טקסט, הוא מתאר את המודל ככזה שמעבד קלט טקסט ומפיק פלט טקסט, ומציין שקורפוס האימון הוא טקסט בלבד. אין מקודד חזותי, אין נתיב אודיו, אין יצירת תמונות, ואין מודאליות מתועדת של תוצאות כלים מעבר לקריאות כלים בצורת טקסט.

זו הנקודה שבה לשון היצרן וציפיית הקורא נוטות ביותר להתפצל, ולכן כדאי לומר בבירור: שום דבר בשם של Kolibri, בגודלו או בדגמים האחים שלו לא אמור להוביל אותך להניח שהוא מקבל תמונות. הוא לא. שתי השפות שלו הן גרמנית ואנגלית, והוא לא נבנה להתמודד עם שלישית — בקשה בצרפתית או בספרדית נמצאת מחוץ ליעד התכנון, בלי קשר למה שדמו עושה איתו.

מה שכן יש לו הוא קריאה לכלים — בסגנון Hermes, עם מנתח שמסופק באותו מאגר כמו המשקולות — וארבע רמות מאמץ חשיבה, ללא, נמוך, בינוני וגבוה, המוגדרות דרך תבנית הצ'אט. שתיהן התנהגויות מתועדות, לא ממצאי קהילה.

מה ש-Aleph Alpha טוענת, ומה שאחרים מדדו

שתי קטגוריות, והן לא באותו גודל.

מדווח על ידי הספק, ממערכת ההערכה של Aleph Alpha עצמה, הורץ על ידי Aleph Alpha, פורסם על ידי Aleph Alpha: Kolibri נמצא על חזית פארטו של איכות מול עלות שירות עבור אנגלית וגרמנית; הוא משתווה למודלים עם עד פי ארבעה ממספר הפרמטרים הפעילים שלו, טענה שהספק ממחיש באמצעות Nemotron 3 Super, מודל 120B-A12B; הוא מתמחה בגרמנית, בהסקה, במתמטיקה ובעבודה סוכנית, עם שורות חזקות של שימוש בכלים (Tau2-Bench telecom 94.7 אחוז, retail 69.9 אחוז, airline 76.7 אחוז; BFCL v4 overall 61.4 אחוז) ושורות הסקה (GPQA Diamond 84.3 אחוז באנגלית, AIME 2025 96.9 אחוז באנגלית). הנתונים הגרמניים באותה טבלה — GPQA Diamond 81.3 אחוז, AIME 2025 87.5 אחוז, AIME 2026 90 אחוז — מגיעים מהצגה בשפה הגרמנית של אותם בנצ'מרקים.

נמדד באופן בלתי תלוי, נכון ל-13 באוקטובר 2026: כלום. אין רשומה ב-Artificial Analysis עבור Kolibri ואין שורה של Aleph Alpha ברשימת הספקים שלה; כרטיס המודל עצמו מציין שהמודל אינו פרוס על ידי שום ספק הסקה ב-Hugging Face; ואף צד שלישי לא פרסם שחזור של מסגרת ההערכה של הספק, אף שקוד ההרנס פתוח לציבור במאגר של המעבדה עצמה. ההערכה יסודית והיא הערכה של מעבדה אחת. התייחסו לכל אחוז לעיל כאל טענת ספק עד שמישהו מחוץ להיידלברג יריץ אותה.

מספר אחד בחומר של הספק מצדיק זהירות מיוחדת, ולא חזרה עליו. בעמוד המוצר של Aleph Alpha מוצג מדד AA-Omniscience של 33.6 אחוז עבור Kolibri. המדד הזה הוא תוצר של Artificial Analysis, ו-Artificial Analysis אינה מפרסמת כיום ערך עבור Kolibri. הנתון הזה הוא הרצה של Aleph Alpha עצמה של מדד של מישהו אחר — דבר לגיטימי לפרסם, אך לא לגיטימי לקרוא אותו כציון עצמאי. זהו מספר שדווח על ידי הספק עד שבעל המדד יפרסם מספר משלו.

איך בעצם מריצים את זה

אין נקודת קצה מתארחת לפנות אליה. Kolibri מופץ כמשקלים בתוספת חבילת הסקה, וקריאה לו פירושה להריץ אותו בעצמך.

• התקנה — pip install "aleph-alpha-inference>=1.0", שמספקת את התוסף Kolibri vLLM ומקבעת את גרסת vLLM שהתוסף תומך בה; לחלופין, ניתן למשוך את תמונת הקונטיינר ghcr.io/aleph-alpha/aleph-alpha-inference.

• הגשה — קריאה סטנדרטית של vLLM אל Aleph-Alpha/Kolibri-1, עם מטמון KV מסוג FP8, מנתח החשיבה של Kolibri, מנתח קריאות הכלים של Kolibri ובחירה אוטומטית של כלים מופעלת.

• זיכרון — משקולות ה-FP8 הן כ-78 GB. המינימום המפורסם הוא שני כרטיסי A100 80 GB, שני H100 SXM5, H200 אחד, B200 אחד או B300 אחד; התצורה המומלצת היא שני H100 SXM5, שני H200, B200 אחד או B300 אחד.

• דגימה — טמפרטורה 1.0, top-p 0.97, top-k 128, בהתאם להמלצת הכרטיס.

• ממשק — תואם OpenAI, מוגש באופן מקומי. קוד chat-completions קיים יכול להצביע אליו; מאמץ החשיבה עובר דרך תבנית הצ'אט, וקריאות לכלים מגיעות לשדה tools הסטנדרטי.

טופס ההרשמה של הספק עצמו מציע את "Modelltest API" כקטגוריית בקשה, כך ששיחה על API אפשרית דרך מחלקת המכירות. שום דבר שפורסם לא מתאר אותו כזמין, מתומחר או כשירות עצמי.

שום דבר בחומרי ההשקה אינו מציין מחיר, כי אין מה לתמחר: המשקלים ניתנים להורדה בחינם, והעלות של שימוש ב-Kolibri היא העלות של כרטיסי ה-GPU שאתם שמים מתחתיו. Aleph Alpha גם אינה מפרסמת מגבלות קצב, קרדיטים בחינם או מסלול ניסיון עבור המודל — כל טענה להפך תהיה הסקה מהמילה "available", ולא עובדה מדפי הספק.

אין נתיב ב-OrcaRouter, והחלופה הכנה

בדקנו היום את הקטלוג שלנו: OrcaRouter מציע 207 מודלים, ו-Kolibri אינו ביניהם — בשום צורת כתיב של השם, וגם לא עם הקידומת Aleph Alpha. זה חשוב לקורא ששאלתו האמיתית היא "האם אני יכול לקרוא לזה בלי לקנות שני כרטיסי H100", כי התשובה היא לא — לא כאן, ולא בתשתית של הספק עצמו כשירות מפורסם. אירוח עצמי הוא הדרך היחידה להריץ את Kolibri כרגע.

אם מה שאתם צריכים הוא מודל תערובת מומחים עם יכולות גרמנית ואנגלית שתוכלו לקרוא לו כבר אחר הצהריים, הדבר הקרוב ביותר שאנחנו כן מציעים הוא Gemma 4 26B A4B IT, מודל MoE במשקולות פתוחות במחיר של $0.06 למיליון טוקנים בקלט ו-$0.33 למיליון טוקנים בפלט עם חלון של 262,144 טוקנים — אותה מחלקת הקשר כמו הנתון התפעולי המומלץ של Kolibri, בסעיף חיוב לפי טוקן במקום 78 GB של VRAM ושיחת רכש. OrcaRouter מנתבת כל מודל שהיא מציעה במחיר המחירון של הספק, בלי שום תוספת, וזו הדרך הזולה לגלות אם עומס עבודה מצדיק בעלות על החומרה. שתי הסתייגויות, נאמרות ולא משתמעות: זהו מודל שונה עם משקולות שונות, והוא אינו תחליף לעומק האימון המוקדם בגרמנית של Kolibri. זו ההשוואה הכנה בין מודל שאפשר לשכור לבין מודל שצריך להחזיק בבעלות.

לצוות ששוקל פריסה ריבונית, יש סיבה שנייה לנתב במקום להתחייב. אם עומס עבודה מוגש כעת על ידי מודל מתארח ואתם שוקלים להעביר אותו ל-Kolibri באחסון עצמי, המבחן המועיל הוא להריץ את שניהם מול התעבורה שלכם, ולא לקרוא שתי טבלאות בנצ'מרק — ונקודת קצה מנותבת עם מעבר אוטומטי בעת כשל היא מקום בסיכון נמוך יותר להריץ את המבחן הזה מאשר נתיב ייצור שכבר העברתם.

היכן עומד Kolibri

Aleph Alpha פרסמה תיאור מלא באופן חריג של מודל — צינור האימון, מקור הנתונים, שיטת הטוקנייזר, נתון האנרגיה וקודמו שנבנה ונזנח — והפיצה את המשקולות תחת רישיון שחברה יכולה למעשה לפרוס תחתיו. עבור קונה גרמני מהמגזר הציבורי או התעשייתי שכללי הרכש שלו מתחילים בשאלה היכן הנתונים נמצאים, השילוב הזה הוא המוצר, ואף שורת בנצ'מרק אינה מהווה לו תחליף.

מה שקונה עדיין לא יכול לעשות הוא לבדוק את הטענות. אין הערכה בלתי תלויה, אין נקודת קצה מתארחת, ואין מחיר להשוות מולו לשום דבר אחר, מה שאומר שההחלטה נשענת על המספרים של הספק עצמו בתוספת התנסות בהרצה עצמית. זו מגבלה אמיתית, והיא אינה סיבה לפסול את המודל — היא הסיבה לכך שכדאי לקרוא את המפרט שלמעלה שורה אחר שורה ולא לעבור ברפרוף על האחוזים. אם ברצונכם להבין מהו Kolibri, התשובה היא מודל MoE בנפח 78B, במשקלים פתוחים, טקסטואלי בלבד, גרמנית-אנגלית, עם תקרה של מיליון טוקנים ורצפה של שני GPU. האם זה המודל הנכון לעומס העבודה שלכם היא שאלה שרק ההערכה שלכם עצמכם יכולה לסגור.