Kolibri: โมเดลน้ำหนักเปิด 78B ของ Aleph Alpha จริง ๆ แล้วคืออะไร

Kolibriเป็นโมเดลภาษาน้ำหนักเปิดจาก Aleph Alpha ห้องแล็บที่ไฮเดลแบร์กซึ่งใช้เวลาหลายปีในการโต้แย้งว่าสถาบันต่าง ๆ ในยุโรปจำเป็นต้องมีโมเดลที่รันบนฮาร์ดแวร์ของตนเองได้ มันเป็นระบบผสมผู้เชี่ยวชาญ (mixture-of-experts) ขนาด 78 พันล้านพารามิเตอร์ ที่เปิดใช้งานประมาณ 3.46 พันล้านพารามิเตอร์ต่อโทเคน อ่านและเขียนได้เฉพาะภาษาเยอรมันและภาษาอังกฤษเท่านั้น และมีหน้าต่างบริบทที่ผ่านการตรวจสอบแล้ว 1,048,576 โทเคน น้ำหนักของโมเดลอยู่บน Hugging Face ในรีโพซิทอรีชื่อ Aleph-Alpha/Kolibri-1 ภายใต้สัญญาอนุญาต Apache 2.0 เอกสารเผยแพร่ชุดเดียวกันยังอธิบายถึง Kolibri Origin ซึ่งเป็นรุ่นก่อนหน้าขนาด 30.6 พันล้านพารามิเตอร์ ที่ได้รับการฝึกและตรวจสอบภายในแต่ไม่เคยเปิดตัว หากคุณค้นหาด้วยชื่อเปล่า ๆ แล้วมาถึงที่นี่ นั่นคือคำตอบแบบสั้น ส่วนที่เหลือของหน้านี้คือข้อกำหนดเบื้องหลัง โดยตัวเลขแต่ละตัวอ้างอิงจากแหล่งที่เผยแพร่มัน

โมเดลนี้เปิดตัวเมื่อวันที่ 3 ตุลาคม 2026 — โพสต์ข่าวของ Aleph Alpha เอง ลงวันที่ 5 ตุลาคม ณ ไฮเดิลแบร์ก ระบุว่า Kolibri พร้อมใช้งานมาตั้งแต่วันที่ 3 ตุลาคม และการ์ดโมเดลก็ระบุวันที่เดียวกัน วันที่นี้อยู่ตรงนี้เพื่อกำหนดตำแหน่งของโมเดล ไม่ใช่เพื่อประกาศเปิดตัว สิ่งที่ตามมาคือเวอร์ชันถาวร: โมเดลนี้คืออะไร ไม่ใช่อะไร ตัวเลขใดบ้างมาจาก Aleph Alpha และตัวเลขใดบ้าง ณ วันนี้ ไม่ได้มาจากใครเลย

Kolibri, Kolibri-1, Kolibri Origin: สามชื่อ หนึ่งรีลีส

การตั้งชื่อเป็นสิ่งแรกที่ผู้อ่านต้องทำความเข้าใจให้ชัด เพราะผู้จำหน่ายใช้สองคำนี้สลับกันไปมา และคำที่สามนั้นเป็นของสิ่งอื่นไปเลยโดยสิ้นเชิง

• Kolibri — ชื่อของโมเดลในทุกสิ่งที่ Aleph Alpha เขียน: หน้าผลิตภัณฑ์ ประกาศ และรายงานทางเทคนิค เป็นคำในภาษาเยอรมัน และผู้ขายสะกดแบบนั้นเป๊ะ ๆ โดยใช้ K ตัวพิมพ์ใหญ่ ไม่มีคำต่อท้าย

• Kolibri-1 — โมเดลเดียวกันในระดับ repository โดย repo บน Hugging Face คือ Aleph-Alpha/Kolibri-1 และคำสั่ง serving ที่ผู้จำหน่ายเผยแพร่คือ vllm serve Aleph-Alpha/Kolibri-1 นี่เป็นตัวระบุเวอร์ชัน ไม่ใช่โมเดลตัวที่สอง และทั้งสองสตริงชี้ไปยัง weights ชุดเดียวกัน

• Kolibri Origin — เป็นโมเดลอีกตัวหนึ่ง และไม่ใช่โมเดลที่คุณดาวน์โหลดได้ เป็นรุ่นก่อนหน้าที่มีพารามิเตอร์ 30.6 พันล้าน และมีพารามิเตอร์ที่ใช้งาน 3.27 พันล้าน ซึ่งเสร็จสิ้นการฝึกเบื้องต้นในเดือนมิถุนายน 2026 ถูกใช้เพื่อตรวจสอบความถูกต้องของไปป์ไลน์การฝึก และไม่เคยเผยแพร่ Aleph Alpha รายงานแถวผลการทดสอบส่วนใหญ่ของ Kolibri เป็นคอลัมน์คู่เทียบกับโมเดลนี้ ซึ่งเป็นเหตุผลว่าทำไมชื่อนี้จึงปรากฏในเกือบทุกตารางเกี่ยวกับ Kolibri หากคุณกำลังมองหาน้ำหนักโมเดล นี่ไม่ใช่ตัวที่ควรค้นหา

ไม่มี "Kolibri 2" แยกต่างหาก ไม่มีเวอร์ชันที่ปรับแต่งสำหรับแชตซึ่งเผยแพร่ภายใต้ชื่ออื่น และไม่มีการแจกจ่ายอย่างเป็นทางการแบบควอนไทซ์ สิ่งอื่นใดที่สวมชื่อนี้ในดัชนีดาวน์โหลดถือเป็นการแปลงโดยบุคคลที่สาม และเอกสารของเจ้าของผลิตภัณฑ์เองไม่ได้ระบุว่ามีเวอร์ชันดังกล่าว

ขนาด: ตัวเลข 78B นั้นถูกต้อง และตัวเลขตัวที่สองต่างหากที่ตัดสินทุกอย่าง

มีคำถามเกี่ยวกับ "Kolibri 78B" แพร่กระจายไปทั่ว และผู้ขายยืนยันตามนั้นแทนที่จะแก้ไขให้ถูกต้อง จากการ์ดโมเดลที่เผยแพร่พร้อมกับน้ำหนัก: พารามิเตอร์ทั้งหมด 78,103,074,560 ตัว ซึ่งในจำนวนนี้ 3,457,573,120 ตัวทำงานต่อโทเคน นั่นคืออัตราส่วนความเบาบางประมาณ 22.6 ต่อ 1

ความแตกต่างนี้ไม่ใช่การจุกจิกเกินเหตุ พารามิเตอร์ทั้งหมดเป็นตัวกำหนดว่าโมเดลต้องใช้หน่วยความจำมากแค่ไหน ส่วนพารามิเตอร์ที่ใช้งานจริงเป็นตัวกำหนดว่าแต่ละโทเคนต้องใช้พลังประมวลผลเท่าไร โมเดลขนาด 78B ที่มีพารามิเตอร์ใช้งานจริง 3.46B เป็นอาร์ติแฟกต์ขนาดใหญ่มาก ซึ่งในเวลาอินเฟอเรนซ์กลับมีพฤติกรรมเหมือนโมเดลเล็ก ๆ เมื่อคิดต่อโทเคนหนึ่งตัว และนั่นคือเหตุผลว่าทำไม Aleph Alpha จึงสามารถอ้างสเปกการติดตั้งขั้นต่ำที่ใช้ GPU สองตัวสำหรับสิ่งที่ขนาดนี้ได้ บทสรุปใด ๆ เกี่ยวกับ Kolibri ที่บอกคุณว่า 78B โดยไม่มีตัวเลขพารามิเตอร์ใช้งานจริง ได้ละเว้นส่วนที่กำหนดค่าใช้จ่ายไป

เมื่อเทียบขนาดกับสายตระกูลของตัวเอง: Kolibri Origin มีพารามิเตอร์รวม 30.6B โดยมี 3.27B ที่ทำงานอยู่ Kolibri เพิ่มจำนวนพารามิเตอร์รวมเกือบเป็นสองเท่า ขณะที่จำนวนพารามิเตอร์ที่ทำงานอยู่แทบไม่ขยับ ซึ่งเป็นการกล่าวถึงความจุต่อหน่วยของต้นทุนการให้บริการ มากกว่าที่จะเป็นการกล่าวถึงความเร็วดิบ

สถาปัตยกรรมและสัญญาอนุญาต: เวตคืออะไร และ Apache 2.0 ครอบคลุมอะไรได้จริงในที่นี้

Kolibri เป็นทรานส์ฟอร์เมอร์แบบมิกซ์เจอร์ออฟเอ็กซ์เพิร์ตส์ขนาด 50 เลเยอร์ โดยไม่มีเลเยอร์ฟีดฟอร์เวิร์ดแบบหนาแน่นเลยแม้แต่ชั้นเดียว แต่ละเลเยอร์จะกำหนดเส้นทางไปยังผู้เชี่ยวชาญ 384 ตัว โดยมีหกตัวที่ทำงานต่อหนึ่งโทเคน บวกกับผู้เชี่ยวชาญที่ใช้ร่วมกันอีกหนึ่งตัว มิติกลางของผู้เชี่ยวชาญคือ 512 และมิติของโมเดลคือ 2,560 แอตเทนชันเป็นแบบไฮบริด: เลเยอร์ส่วนใหญ่ใช้หน้าต่างเลื่อนขนาด 512 โทเคน โดยมีแอตเทนชันเต็มรูปแบบเพียงทุก ๆ เลเยอร์ที่ห้า บทความว่าด้วยสถาปัตยกรรมของ Aleph Alpha ระบุผลลัพธ์ที่ตามมาอย่างตรงไปตรงมา — สัดส่วนของงานแอตเทนชันล้วนลดลงจาก 51 เปอร์เซ็นต์เหลือ 27 เปอร์เซ็นต์ ณ คอนเท็กซ์ 16K เมื่อเทียบกับ Kolibri Origin และจำนวนเลเยอร์แบบแอตเทนชันเต็มลดลงประมาณห้าเท่า

โทเคไนเซอร์นี้เป็นบิลด์สองภาษาระหว่างเยอรมันกับอังกฤษ มีคลังคำศัพท์ 128,000 โทเคน ฝึกด้วยวิธีที่ห้องแล็บเรียกว่า UniBPE สองภาษานี้เป็นความตั้งใจโดยเจตนา: ผู้ขายวางกรอบขอบเขตว่าเน้นความลึกมากกว่าความกว้าง และพูดเช่นนั้นออกมาตรง ๆ แทนที่จะนำเสนอสองภาษาที่ได้รับการรองรับอย่างดีว่าเป็นความสำเร็จแบบหลายภาษา

สัญญาอนุญาตคือ Apache 2.0 และการ์ดโมเดลก็ระบุขอบเขตของมันอย่างแม่นยำเป็นพิเศษ สัญญาอนุญาตนี้ใช้บังคับ ตามถ้อยคำในการ์ดเอง "เฉพาะกับน้ำหนักและไฟล์การกำหนดค่าที่เผยแพร่ในที่เก็บนี้เท่านั้น" — ไม่ครอบคลุมถึงโค้ดพื้นฐาน คำนิยามสถาปัตยกรรม การตั้งค่าพารามิเตอร์ หรือวิธีการฝึก ดังนั้นจุดยืนในทางปฏิบัติสำหรับทีมที่นำไปใช้งานคือ: น้ำหนักนั้นเปิดอย่างแท้จริงและใช้ในเชิงพาณิชย์ได้ โดยไม่มีข้อกำหนดการใช้งานที่ยอมรับได้ ไม่มีเกณฑ์จำนวนผู้ใช้ที่ใช้งานจริงต่อเดือน และไม่มีข้อกำหนดทางการค้าแยกต่างหาก แต่สัญญาอนุญาตนี้ไม่ใช่การให้สิทธิ์เหนือสูตรการฝึกของ Aleph Alpha หรือโค้ดสำหรับการอนุมานของมัน หากการตรวจสอบทางกฎหมายของคุณถามว่านี่เป็นโอเพนซอร์สในความหมายของ OSI หรือไม่ คำตอบที่ซื่อสัตย์คือ มันเป็นน้ำหนักแบบเปิดภายใต้สัญญาอนุญาตที่ OSI อนุมัติ โดยมีข้อจำกัดขอบเขตที่ระบุไว้ และสิ่งเหล่านั้นไม่ใช่คำกล่าวอ้างเดียวกัน

หน้าต่างบริบทและเอาต์พุตสูงสุด

Aleph Alpha เผยแพร่หน้าต่างบริบทในสองระดับ และความแตกต่างนี้ก็ควรค่าแก่การจดจำ

• ค่าสูงสุดที่ผ่านการตรวจสอบแล้ว — 1,048,576 โทเค็น ซึ่งระบุไว้ทั้งบนหน้าสินค้าและโมเดลการ์ด

• เนทีฟและแนะนำ — 262,144 โทเคน การ์ดแนะนำให้อยู่ที่หรือต่ำกว่านี้เพื่อประสิทธิภาพในการให้บริการและสำหรับงานที่ซับซ้อน หน้าของผู้จำหน่ายเรียก 256K ว่าเป็นค่าที่ใช้งานจริง

• ความก้าวหน้าของการฝึก — ฝึกก่อน (pre-trained) ที่ 16,384 โทเคน ฝึกระดับกลาง (mid-trained) ที่ขอบเขต 65,536 โทเคน จากนั้นขยายเป็น 262,144 เป็นความยาวที่ใช้ในการฝึก

การไปถึงหนึ่งล้านเต็มไม่ใช่การกำหนดค่าที่คุณได้มาโดยค่าเริ่มต้น สูตรสำหรับการเสิร์ฟต้องใช้แฟล็ก maximum-model-length อย่างชัดเจนและการโอเวอร์ไรด์ position-embedding ซึ่งผู้ขายได้จัดทำเอกสารไว้ ให้อ่าน 1M ว่าเป็นเพดานที่ผ่านการตรวจสอบแล้วพร้อมขั้นตอนที่จัดทำเอกสารไว้ และอ่าน 262K ว่าเป็นตัวเลขสำหรับออกแบบปริมาณงานโปรดักชัน

ไม่ได้เผยแพร่ความยาวเอาต์พุตสูงสุดทั้งหน้าผลิตภัณฑ์ การ์ดโมเดล และประกาศเปิดตัว ต่างก็ไม่ได้ระบุขีดจำกัดการสร้าง หากการติดตั้งใช้งานใดต้องพึ่งพาขีดจำกัดเอาต์พุตแบบตายตัว นั่นเป็นคำถามสำหรับ Aleph Alpha หรือสำหรับการกำหนดค่าการให้บริการของคุณเอง — ไม่ใช่สิ่งที่เอกสารประกอบการเปิดตัวจะตอบให้ได้

รูปแบบ: ข้อความเท่านั้น และนั่นคือขอบเขตที่จงใจกำหนดไว้

Kolibri เป็นโมเดลแบบข้อความเข้า-ข้อความออก แท็กไปป์ไลน์ของการ์ดคือการสร้างข้อความ โดยอธิบายว่าโมเดลประมวลผลอินพุตที่เป็นข้อความและสร้างเอาต์พุตที่เป็นข้อความ และระบุว่าคลังข้อมูลที่ใช้ฝึกเป็นข้อความล้วน ไม่มีตัวเข้ารหัสภาพ ไม่มีเส้นทางเสียง ไม่มีการสร้างภาพ ไม่มีรูปแบบผลลัพธ์จากเครื่องมือที่มีการบันทึกไว้ใด ๆ นอกเหนือจากการเรียกเครื่องมือในรูปแบบข้อความ

นี่คือจุดที่ภาษาของผู้ขายกับความคาดหวังของผู้อ่านมักแตกต่างกันมากที่สุด จึงควรพูดให้ตรง ๆ ว่า ไม่มีสิ่งใดเกี่ยวกับชื่อของ Kolibri ขนาดของมัน หรือรุ่นพี่น้องของมัน ที่ควรทำให้คุณคิดว่ามันรับภาพได้ มันไม่รับ ภาษาสองภาษาของมันคือเยอรมันและอังกฤษ และมันไม่ได้ถูกสร้างมาให้รองรับภาษาที่สาม คำขอที่มาเป็นภาษาฝรั่งเศสหรือสเปนอยู่นอกเป้าหมายการออกแบบ ไม่ว่าตัวอย่างสาธิตจะทำอะไรกับมันก็ตาม

สิ่งที่มันมีคือ tool calling — แบบ Hermes พร้อม parser ที่มาพร้อมใน repository เดียวกับ weights — และระดับ reasoning effort สี่ระดับ none, low, medium และ high ซึ่งกำหนดผ่าน chat template ทั้งสองอย่างเป็นพฤติกรรมที่ระบุไว้ในเอกสาร ไม่ใช่สิ่งที่ชุมชนค้นพบ

สิ่งที่ Aleph Alpha อ้างไว้ และสิ่งที่คนอื่นวัดได้

สองหมวดหมู่ และ它們มีขนาดไม่เท่ากัน

ตามที่ผู้ขายรายงาน จากฮาร์เนสของ Aleph Alpha เอง ดำเนินการโดย Aleph Alpha เผยแพร่โดย Aleph Alpha: Kolibri อยู่บนพรมแดนพาเรโตของคุณภาพเมื่อเทียบกับต้นทุนการให้บริการสำหรับภาษาอังกฤษและภาษาเยอรมัน โดยเทียบเท่าโมเดลที่มีจำนวนพารามิเตอร์ที่ใช้งานจริงมากกว่าตนได้ถึงสี่เท่า ซึ่งเป็นข้ออ้างที่ผู้ขายยกตัวอย่างด้วย Nemotron 3 Super ซึ่งเป็นโมเดล 120B-A12B และมีความเชี่ยวชาญเฉพาะทางด้านภาษาเยอรมัน การให้เหตุผล คณิตศาสตร์ และงานแบบเอเจนต์ โดยมีแถวผลลัพธ์ด้านการใช้เครื่องมือที่แข็งแกร่ง (Tau2-Bench telecom 94.7 เปอร์เซ็นต์, retail 69.9 เปอร์เซ็นต์, airline 76.7 เปอร์เซ็นต์; BFCL v4 ภาพรวม 61.4 เปอร์เซ็นต์) และแถวผลลัพธ์ด้านการให้เหตุผล (GPQA Diamond 84.3 เปอร์เซ็นต์ ภาษาอังกฤษ, AIME 2025 96.9 เปอร์เซ็นต์ ภาษาอังกฤษ) ตัวเลขภาษาเยอรมันในตารางเดียวกันนั้น — GPQA Diamond 81.3 เปอร์เซ็นต์, AIME 2025 87.5 เปอร์เซ็นต์, AIME 2026 90 เปอร์เซ็นต์ — มาจากการจัดทำฉบับภาษาเยอรมันของเกณฑ์มาตรฐานชุดเดียวกัน

วัดผลโดยอิสระ ณ วันที่ 13 ตุลาคม 2026: ไม่มีอะไรเลย ไม่มีรายการของ Kolibri ใน Artificial Analysis และไม่มีแถวของ Aleph Alpha ในรายชื่อผู้ให้บริการของมัน การ์ดโมเดลเองระบุว่าโมเดลนี้ไม่ได้ถูกนำไปให้บริการโดยผู้ให้บริการ inference รายใดบน Hugging Face และไม่มีบุคคลที่สามรายใดเผยแพร่การทำซ้ำกรอบการประเมินของผู้ขาย แม้ว่าโค้ดฮาร์เนสจะเปิดเผยต่อสาธารณะในที่เก็บของห้องแล็บเองก็ตาม การประเมินนี้ละเอียดถี่ถ้วน และมันเป็นการประเมินของห้องแล็บเดียว ให้ถือว่าทุกเปอร์เซ็นต์ข้างต้นเป็นคำกล่าวอ้างของผู้ขาย จนกว่าจะมีคนนอกไฮเดลเบิร์กนำไปรัน

ตัวเลขหนึ่งตัวในสื่อของเจ้าของผลิตภัณฑ์ควรได้รับการพิจารณาอย่างระมัดระวังเป็นพิเศษ มากกว่าการนำมาพูดซ้ำ หน้าผลิตภัณฑ์ของ Aleph Alpha แสดงดัชนี AA-Omniscience ที่ 33.6 เปอร์เซ็นต์สำหรับ Kolibri ดัชนีนั้นเป็นสิ่งที่ Artificial Analysis สร้างขึ้น และปัจจุบัน Artificial Analysis ไม่ได้เผยแพร่รายการของ Kolibri ตัวเลขนี้เป็นผลการรันดัชนีของผู้อื่นโดย Aleph Alpha เอง ซึ่งเป็นสิ่งที่ถูกต้องที่จะเผยแพร่ แต่เป็นสิ่งที่ไม่ถูกต้องที่จะตีความเป็นคะแนนอิสระ มันยังเป็นตัวเลขที่ผู้ขายรายงานเอง จนกว่าเจ้าของดัชนีจะเผยแพร่ตัวเลขออกมา

คุณรันมันจริง ๆ ได้อย่างไร

ไม่มีเอ็นด์พอยต์ที่โฮสต์ไว้ให้เรียกใช้ Kolibri ถูกเผยแพร่ในรูปแบบเวตพร้อมแพ็กเกจสำหรับการอนุมาน และการเรียกใช้มันหมายความว่าคุณต้องรันเอง

• — pip install "aleph-alpha-inference>=1.0" ซึ่งให้ปลั๊กอิน Kolibri vLLM และล็อกเวอร์ชัน vLLM ที่รองรับ; หรืออีกทางหนึ่งให้ดึงอิมเมจคอนเทนเนอร์ ghcr.io/aleph/aleph-alpha-inference.

• Serve (ให้บริการ) — การเรียกใช้ vLLM ตามมาตรฐานกับ Aleph-Alpha/Kolibri-1 โดยเปิดใช้งานแคช KV แบบ FP8 ตัวแยกวิเคราะห์การให้เหตุผลของ Kolibri ตัวแยกวิเคราะห์การเรียกใช้เครื่องมือของ Kolibri และการเลือกเครื่องมืออัตโนมัติ

• หน่วยความจำ — น้ำหนัก FP8 มีขนาดประมาณ 78 GB ขั้นต่ำที่ประกาศไว้คือการ์ด A100 80 GB สองใบ, H100 SXM5 สองตัว, H200 หนึ่งตัว, B200 หนึ่งตัว หรือ B300 หนึ่งตัว; การกำหนดค่าที่แนะนำคือ H100 SXM5 สองตัว, H200 สองตัว, B200 หนึ่งตัว หรือ B300 หนึ่งตัว

• การสุ่มตัวอย่าง — temperature 1.0, top-p 0.97, top-k 128 ตามคำแนะนำของการ์ด

• อินเทอร์เฟซ — เข้ากันได้กับ OpenAI ให้บริการภายในเครื่อง โค้ด chat-completions ที่มีอยู่สามารถชี้มาที่นี่ได้; reasoning effort จะถูกส่งผ่านเทมเพลตแชต และการเรียกเครื่องมือจะไปอยู่ในฟิลด์ tools มาตรฐาน

แบบฟอร์มลงทะเบียนของผู้ขายเองมี "Modelltest API" เป็นหมวดหมู่คำขอ ดังนั้นจึงสามารถพูดคุยเรื่อง API ผ่านฝ่ายขายได้ ไม่มีเอกสารเผยแพร่ใดระบุว่าพร้อมให้ใช้ ระบุราคา หรือให้บริการแบบบริการตนเอง

ไม่มีสิ่งใดในเอกสารเปิดตัวที่ระบุราคา เพราะไม่มีอะไรให้ตั้งราคา: เวทของโมเดลให้ดาวน์โหลดฟรี และค่าใช้จ่ายในการใช้ Kolibri ก็คือค่าใช้จ่ายของ GPU ที่คุณวางไว้ใต้มัน Aleph Alpha ยังไม่เผยแพร่ทั้งขีดจำกัดอัตราการใช้งาน เครดิตฟรี และระดับทดลองใช้สำหรับโมเดลนี้ — ข้อกล่าวอ้างใดที่ตรงกันข้ามจะเป็นเพียงการอนุมานจากคำว่า "available" ไม่ใช่ข้อเท็จจริงจากหน้าของผู้จำหน่าย

ไม่มีเส้นทางบน OrcaRouter และทางเลือกที่ซื่อสัตย์

เราตรวจสอบแค็ตตาล็อกของเราเองวันนี้: OrcaRouter ให้บริการโมเดล 207 รายการ และไม่มี Kolibri อยู่ในนั้น ไม่ว่าจะสะกดชื่อแบบใด หรือใส่คำนำหน้า Aleph Alpha ก็ตาม เรื่องนี้สำคัญสำหรับผู้อ่านที่คำถามจริง ๆ คือ "ฉันเรียกใช้ตัวนี้ได้ไหมโดยไม่ต้องซื้อ H100 สองตัว" เพราะคำตอบคือไม่ได้ — ไม่ใช่ที่นี่ และไม่ใช่บนโครงสร้างพื้นฐานของผู้ขายเองในฐานะบริการที่เผยแพร่สาธารณะ การโฮสต์เองเป็นวิธีเดียวที่จะรัน Kolibri ได้ในตอนนี้

หากสิ่งที่คุณต้องการคือโมเดลแบบ mixture-of-experts ที่รองรับทั้งภาษาเยอรมันและอังกฤษซึ่งคุณเรียกใช้ได้บ่ายนี้ สิ่งที่ใกล้เคียงที่สุดที่เรามีให้บริการคือ Gemma 4 26B A4B IT ซึ่งเป็น MoE แบบเปิดน้ำหนัก ราคา $0.06 ต่อล้านโทเคนอินพุต และ $0.33 ต่อล้านโทเคนเอาต์พุต พร้อมหน้าต่างบริบท 262,144 โทเคน — อยู่ในระดับบริบทเดียวกับตัวเลขการทำงานที่ Kolibri แนะนำ โดยคิดเป็นรายการต่อโทเคน แทนที่จะเป็น VRAM 78 GB และการคุยเรื่องจัดซื้อจัดหา OrcaRouter ให้บริการทุกโมเดลที่ตนรองรับในราคาตามที่ผู้ให้บริการประกาศไว้ โดยไม่บวกเพิ่มใด ๆ ซึ่งเป็นวิธีที่ประหยัดในการหาคำตอบว่าปริมาณงานหนึ่ง ๆ สมเหตุสมผลที่จะเป็นเจ้าของฮาร์ดแวร์เองหรือไม่ มีข้อควรระวังสองข้อที่ขอกล่าวตรง ๆ มากกว่าปล่อยให้เป็นนัยโดยนัย: นี่คือโมเดลที่แตกต่างกันและมีน้ำหนักต่างกัน และไม่ใช่สิ่งทดแทนความลึกของการฝึก pretraining ภาษาเยอรมันของ Kolibri นี่คือการเปรียบเทียบอย่างตรงไปตรงมาระหว่างโมเดลที่คุณเช่าใช้ได้กับโมเดลที่คุณต้องเป็นเจ้าของเอง

สำหรับทีมที่กำลังพิจารณาการติดตั้งใช้งานแบบอธิปไตย มีเหตุผลประการที่สองในการจัดเส้นทางแทนการตัดสินใจแบบผูกมัด หากเวิร์กโหลดหนึ่งในปัจจุบันได้รับการให้บริการโดยโมเดลแบบโฮสต์ และคุณกำลังพิจารณาย้ายไปยัง Kolibri ที่โฮสต์เอง การทดสอบที่มีประโยชน์คือการรันทั้งสองระบบกับทราฟฟิกของคุณเอง ไม่ใช่การอ่านตาราง benchmark สองตาราง — และปลายทางที่จัดเส้นทางซึ่งมีการสลับไปใช้ระบบสำรองอัตโนมัติเป็นสถานที่ที่มีความเสี่ยงต่ำกว่าในการรันการทดสอบนั้นเมื่อเทียบกับเส้นทางโปรดักชันที่คุณได้ย้ายไปแล้ว

จุดยืนของ Kolibri

Aleph Alpha ได้เผยแพร่รายละเอียดที่สมบูรณ์อย่างผิดปกติของโมเดลหนึ่ง — ทั้งไปป์ไลน์การฝึกอบรม แหล่งที่มาของข้อมูล วิธีการทำโทเคไนเซชัน ตัวเลขการใช้พลังงาน และรุ่นก่อนหน้าที่ถูกสร้างขึ้นแล้วถูกทิ้ง — และได้เผยแพร่น้ำหนักโมเดลภายใต้ใบอนุญาตที่บริษัทสามารถนำไปใช้งานได้จริง สำหรับผู้ซื้อภาครัฐหรือภาคอุตสาหกรรมของเยอรมนีที่กฎการจัดซื้อจัดจ้างเริ่มต้นจากคำถามว่าข้อมูลอยู่ที่ไหน การรวมกันนั้นคือตัวสินค้า และไม่มีแถวเกณฑ์มาตรฐานใดทดแทนได้

สิ่งที่ผู้ซื้อยังทำไม่ได้ในตอนนี้คือการตรวจสอบข้อกล่าวอ้าง ยังไม่มีการประเมินจากอิสระ ไม่มีเอนด์พอยต์ที่โฮสต์ไว้ให้ใช้ และไม่มีราคาให้เทียบกับสิ่งอื่นใด ซึ่งหมายความว่าการตัดสินใจขึ้นอยู่กับตัวเลขของผู้ขายเองบวกกับการทดลองติดตั้งใช้งานเอง นั่นเป็นข้อจำกัดจริง และไม่ใช่เหตุผลที่จะมองข้ามโมเดลนี้ — มันเป็นเหตุผลที่ข้อกำหนดข้างต้นควรค่ากับการอ่านทีละบรรทัดแทนที่จะแค่กวาดตาไปที่เปอร์เซ็นต์ ถ้าคุณอยากเข้าใจว่า Kolibri คืออะไร คำตอบคือโมเดล MoE น้ำหนักเปิด ขนาด 78B รองรับเฉพาะข้อความ ภาษาเยอรมัน-อังกฤษ มีเพดาน 1M โทเคน และขั้นต่ำสอง GPU ว่าโมเดลนี้เหมาะกับภาระงานของคุณหรือไม่ เป็นคำถามที่การประเมินของคุณเองเท่านั้นที่ตอบได้