Kolibri: Mô hình Open-Weight 78B của Aleph Alpha thực chất là gì

Kolibri là một mô hình ngôn ngữ trọng số mở từ Aleph Alpha, phòng thí nghiệm Heidelberg đã dành nhiều năm để lập luận rằng các tổ chức châu Âu cần những mô hình mà họ có thể chạy trên phần cứng của chính mình. Đây là một hệ thống hỗn hợp chuyên gia 78 tỷ tham số, kích hoạt khoảng 3,46 tỷ tham số mỗi token, chỉ đọc và ghi tiếng Đức và tiếng Anh mà không gì khác, và có cửa sổ ngữ cảnh đã được xác thực gồm 1.048.576 token. Các trọng số nằm trên Hugging Face trong một kho lưu trữ có tên Aleph-Alpha/Kolibri-1, theo giấy phép Apache 2.0. Cùng các tài liệu phát hành đó cũng mô tả Kolibri Origin, một phiên bản tiền nhiệm 30,6 tỷ tham số đã được huấn luyện, xác thực nội bộ và chưa từng được phát hành. Nếu bạn đã tìm kiếm chỉ với cái tên đó và đến được đây, thì đó là câu trả lời ngắn gọn; phần còn lại của trang này là bản đặc tả đằng sau nó, mỗi số liệu đều được quy cho nguồn công bố nó.

Mô hình đã ra mắt vào ngày 3 tháng 10 năm 2026 — bài đăng tin tức của chính Aleph Alpha, đề ngày Heidelberg, 5 tháng 10, nêu rằng Kolibri đã có mặt kể từ ngày 3 tháng 10, và thẻ mô hình mang cùng ngày đó. Ngày đó ở đây để định vị mô hình, không phải để công bố nó. Phần tiếp theo là phiên bản thường trực: mô hình là gì, không phải là gì, những con số nào đến từ Aleph Alpha và những con số nào, tính đến hôm nay, không đến từ ai cả.

Kolibri, Kolibri-1, Kolibri Origin: ba cái tên, một bản phát hành

Việc đặt tên là điều đầu tiên mà người đọc phải nắm cho rõ, bởi vì nhà cung cấp dùng hai trong số này thay thế cho nhau, còn cái thứ ba thuộc về một thứ hoàn toàn khác.

• Kolibri — tên của mô hình trong mọi thứ Aleph Alpha viết: trang sản phẩm, thông báo, báo cáo kỹ thuật. Một từ tiếng Đức, và nhà cung cấp viết đúng chính tả như vậy, chữ K viết hoa, không có hậu tố.

• Kolibri-1 — cùng một mô hình ở cấp kho lưu trữ. Kho Hugging Face là Aleph-Alpha/Kolibri-1, và lệnh phục vụ mà nhà cung cấp công bố là vllm serve Aleph-Alpha/Kolibri-1. Đây là một định danh phiên bản, không phải mô hình thứ hai, và hai chuỗi này đều phân giải thành cùng một trọng số.

• Kolibri Origin — một mô hình khác, và không phải mô hình bạn có thể tải xuống. Đây là mô hình tiền nhiệm 30,6 tỷ tham số, 3,27 tỷ tham số hoạt động, đã hoàn tất tiền huấn luyện vào tháng 6 năm 2026, được dùng để xác thực quy trình huấn luyện và chưa từng được công bố. Aleph Alpha báo cáo phần lớn các hàng điểm chuẩn của Kolibri dưới dạng một cột ghép cặp đối chiếu với nó, đó là lý do cái tên này xuất hiện trong gần như mọi bảng về Kolibri. Nếu bạn đang tìm trọng số, đây không phải là mô hình bạn nên tìm.

Không có "Kolibri 2" riêng biệt, không có biến thể tinh chỉnh cho trò chuyện nào được công bố dưới tên khác, và cũng không có bản phân phối chính thức đã lượng tử hóa. Bất cứ thứ gì khác mang tên đó trong một chỉ mục tải xuống đều là bản chuyển đổi của bên thứ ba, và tài liệu của chính nhà cung cấp không ghi nhận bản nào như vậy.

Kích thước: con số 78B là đúng, và chính con số thứ hai mới quyết định mọi thứ

Một truy vấn “Kolibri 78B” đang lan truyền, và nhà cung cấp xác nhận điều đó thay vì đính chính nó. Từ thẻ mô hình, được công bố cùng với các trọng số: tổng cộng 78.103.074.560 tham số, trong đó 3.457.573.120 tham số hoạt động trên mỗi token. Đó là tỷ lệ thưa vào khoảng 22,6 trên 1.

Sự phân biệt này không phải là chuyện câu nệ. Tổng số tham số quyết định mô hình cần bao nhiêu bộ nhớ; tham số hoạt động quyết định mỗi token tốn bao nhiêu tính toán. Một mô hình 78B với 3,46B tham số hoạt động là một tạo tác rất lớn, nhưng khi suy luận lại hành xử như một mô hình nhỏ xét theo từng token — và đó chính xác là lý do Aleph Alpha có thể đưa ra mức triển khai tối thiểu hai GPU cho một thứ có kích thước cỡ này. Bất kỳ bản tóm tắt nào về Kolibri mà chỉ đưa ra 78B mà không có con số hoạt động đều đã bỏ sót phần quyết định hóa đơn.

Để so sánh với chính dòng sản phẩm của nó: Kolibri Origin có tổng cộng 30,6B tham số với 3,27B tham số hoạt động. Kolibri gần như tăng gấp đôi tổng số lượng tham số trong khi hầu như không thay đổi số lượng tham số hoạt động, điều này nói lên dung lượng trên mỗi đơn vị chi phí phục vụ chứ không phải về tốc độ thuần túy.

Kiến trúc và giấy phép: trọng số là gì, và Apache 2.0 thực sự bao gồm những gì ở đây

Kolibri là một transformer mixture-of-experts 50 lớp, hoàn toàn không có bất kỳ lớp feed-forward dày đặc nào. Mỗi lớp định tuyến tới 384 chuyên gia, sáu trong số đó hoạt động trên mỗi token, cộng thêm một chuyên gia chia sẻ; chiều trung gian của chuyên gia là 512 và chiều của mô hình là 2.560. Cơ chế attention mang tính lai: hầu hết các lớp dùng cửa sổ trượt 512 token, với attention đầy đủ chỉ xuất hiện ở mỗi lớp thứ năm. Bài viết về kiến trúc của Aleph Alpha nêu rõ hệ quả — tỷ lệ công việc attention thuần túy giảm từ 51 phần trăm xuống 27 phần trăm ở ngữ cảnh 16K so với Kolibri Origin, và số lớp attention đầy đủ giảm khoảng năm lần.

Tokenizer là một bản dựng song ngữ Đức-Anh với vốn từ vựng 128.000 token, được huấn luyện bằng một phương pháp mà phòng thí nghiệm gọi là UniBPE. Hai ngôn ngữ, một cách có chủ đích: nhà cung cấp định hình phạm vi là chiều sâu thay vì chiều rộng và nói thẳng như vậy, thay vì trình bày hai ngôn ngữ được phục vụ tốt như một thành tựu đa ngôn ngữ.

Giấy phép là Apache 2.0, và thẻ mô hình đặc biệt chính xác về ranh giới của nó. Giấy phép áp dụng, theo chính cách diễn đạt trong thẻ, "chỉ đối với các tệp trọng số và cấu hình được công bố trong kho lưu trữ này" — nó không mở rộng đến mã nguồn cơ sở, định nghĩa kiến trúc, thiết lập tham số hay phương pháp huấn luyện. Vậy nên quan điểm thực tiễn đối với một đội triển khai là thế này: các trọng số thực sự mở và có thể dùng cho mục đích thương mại mà không có phụ lục sử dụng được chấp nhận, không có ngưỡng người dùng hoạt động hằng tháng và không có điều khoản thương mại riêng, nhưng giấy phép không phải là sự cấp phép đối với công thức huấn luyện của Aleph Alpha hay mã suy luận của nó. Nếu bộ phận pháp lý của bạn hỏi liệu đây có phải là nguồn mở theo nghĩa OSI hay không, thì câu trả lời trung thực là đây là các trọng số mở theo một giấy phép được OSI phê duyệt với giới hạn phạm vi được nêu rõ, và đó không phải là cùng một khẳng định.

Cửa sổ ngữ cảnh và đầu ra tối đa

Aleph Alpha công bố cửa sổ ngữ cảnh theo hai bậc, và sự phân biệt đó đáng để giữ lại.

• Mức tối đa đã được xác thực — 1.048.576 token, được nêu trên cả trang sản phẩm lẫn thẻ mô hình.

• Native và được khuyến nghị — 262.144 token. Thẻ khuyến nghị nên duy trì ở mức bằng hoặc dưới con số này để đảm bảo hiệu quả phục vụ và cho các tác vụ phức tạp; trang của nhà cung cấp gọi 256K là con số làm việc.

• Tiến trình huấn luyện — tiền huấn luyện ở 16.384 token, huấn luyện giữa ở độ dài ngữ cảnh 65.536 token, sau đó mở rộng lên 262.144 như độ dài huấn luyện.

Đạt tới đủ một triệu không phải là cấu hình bạn có được theo mặc định. Công thức phục vụ yêu cầu một cờ maximum-model-length rõ ràng và một ghi đè position-embedding, những thứ mà nhà cung cấp có tài liệu. Hãy coi 1M là mức trần đã được xác thực với một quy trình đã có tài liệu, còn 262K là con số để thiết kế khối lượng công việc sản xuất xoay quanh.

Độ dài đầu ra tối đa không được công bố. Cả trang sản phẩm, thẻ mô hình lẫn thông báo đều không nêu giới hạn sinh. Nếu một triển khai phụ thuộc vào giới hạn đầu ra cứng, thì đó là câu hỏi dành cho Aleph Alpha hoặc cho cấu hình phục vụ của riêng bạn — không phải điều mà tài liệu phát hành trả lời.

Phương thức: chỉ văn bản, và đó là một ranh giới có chủ đích.

Kolibri là một mô hình văn bản vào, văn bản ra. Thẻ pipeline của model card là tạo văn bản, nó mô tả mô hình là xử lý đầu vào văn bản và tạo đầu ra văn bản, đồng thời lưu ý rằng kho ngữ liệu huấn luyện chỉ có văn bản. Không có bộ mã hóa thị giác, không có luồng âm thanh, không có tạo hình ảnh, không có phương thức kết quả công cụ nào được ghi nhận ngoài các lệnh gọi công cụ có dạng văn bản.

Đây chính là điểm mà ngôn ngữ của nhà cung cấp và kỳ vọng của người đọc thường khác xa nhau nhất, nên đáng để nói thẳng: không có gì ở tên gọi, kích thước hay các dòng máy anh em của Kolibri khiến bạn nên cho rằng nó chấp nhận hình ảnh. Nó không hề. Hai ngôn ngữ của nó là tiếng Đức và tiếng Anh, và nó không được thiết kế để xử lý ngôn ngữ thứ ba — một yêu cầu bằng tiếng Pháp hoặc tiếng Tây Ban Nha nằm ngoài mục tiêu thiết kế, bất kể một bản demo có làm được gì với nó.

Điều nó thực sự có là khả năng gọi công cụ — kiểu Hermes, với trình phân tích cú pháp được phát hành cùng kho lưu trữ với trọng số — và bốn mức độ nỗ lực suy luận, none, low, medium và high, được thiết lập thông qua chat template. Cả hai đều là những hành vi đã được ghi trong tài liệu, không phải phát hiện từ cộng đồng.

Aleph Alpha tuyên bố gì, và những gì người khác đã đo lường được

Hai loại, và chúng không cùng kích cỡ.

Do nhà cung cấp báo cáo, từ chính harness của Aleph Alpha, do Aleph Alpha chạy, do Aleph Alpha công bố: Kolibri nằm trên biên Pareto về chất lượng so với chi phí phục vụ đối với tiếng Anh và tiếng Đức; nó sánh ngang với các mô hình có số lượng tham số hoạt động gấp tới bốn lần nó, một tuyên bố mà nhà cung cấp minh họa bằng Nemotron 3 Super, một mô hình 120B-A12B; nó được chuyên biệt hóa cho tiếng Đức, suy luận, toán học và công việc agentic, với các hàng sử dụng công cụ mạnh (Tau2-Bench viễn thông 94,7%, bán lẻ 69,9%, hàng không 76,7%; BFCL v4 tổng thể 61,4%) và các hàng suy luận (GPQA Diamond 84,3% tiếng Anh, AIME 2025 96,9% tiếng Anh). Các con số tiếng Đức trong cùng bảng đó — GPQA Diamond 81,3%, AIME 2025 87,5%, AIME 2026 90% — đến từ một bản chuyển ngữ tiếng Đức của cùng các benchmark đó.

Đo lường độc lập, tính đến ngày 13 tháng 10 năm 2026: không có gì. Không có mục Artificial Analysis nào cho Kolibri và không có dòng Aleph Alpha nào trong danh sách nhà cung cấp của nó; bản thân thẻ mô hình nêu rõ rằng mô hình không được triển khai bởi bất kỳ nhà cung cấp suy luận nào trên Hugging Face; và không bên thứ ba nào đã công bố bản tái lập khung đánh giá của nhà cung cấp, dù mã harness đã công khai trong kho lưu trữ của chính phòng thí nghiệm. Đánh giá này rất kỹ lưỡng và đây là đánh giá của một phòng thí nghiệm. Hãy coi mọi tỷ lệ phần trăm ở trên là tuyên bố của nhà cung cấp cho đến khi một ai đó bên ngoài Heidelberg chạy nó.

Một con số trong tài liệu của nhà cung cấp đáng được đối xử đặc biệt cẩn trọng thay vì chỉ lặp lại. Trang sản phẩm của Aleph Alpha hiển thị chỉ số AA-Omniscience là 33,6 phần trăm cho Kolibri. Chỉ số đó là một cấu trúc do Artificial Analysis tạo ra, và Artificial Analysis hiện không công bố mục nào cho Kolibri. Con số này là kết quả do chính Aleph Alpha chạy chỉ số của người khác, một việc hợp lệ để công bố nhưng không hợp lệ để đọc như một điểm số độc lập. Đây là con số do nhà cung cấp tự báo cáo cho đến khi chủ sở hữu chỉ số công bố một con số.

Cách bạn thực sự chạy nó

Không có endpoint được lưu trữ sẵn nào để trỏ tới. Kolibri được phân phối dưới dạng trọng số kèm một gói suy luận, và để gọi nó, bạn phải tự chạy nó.

• Cài đặt — pip install "aleph-alpha-inference>=1.0", cung cấp plugin Kolibri vLLM và ghim phiên bản vLLM mà nó hỗ trợ; hoặc kéo image container ghcr.io/aleph-alpha/aleph-alpha-inference.

• Phục vụ — một lệnh gọi vLLM tiêu chuẩn đối với Aleph-Alpha/Kolibri-1, với bộ nhớ đệm KV FP8, bộ phân tích suy luận Kolibri, bộ phân tích lệnh gọi công cụ Kolibri và chọn công cụ tự động được bật.

• Bộ nhớ — trọng số FP8 khoảng 78 GB. Mức tối thiểu được công bố là hai card A100 80 GB, hai H100 SXM5, một H200, một B200 hoặc một B300; cấu hình được khuyến nghị là hai H100 SXM5, hai H200, một B200 hoặc một B300.

• Lấy mẫu — temperature 1.0, top-p 0.97, top-k 128, theo khuyến nghị của card.

• Giao diện — tương thích OpenAI, được phục vụ cục bộ. Mã chat-completions hiện có thể trỏ đến nó; reasoning effort được truyền qua chat template và các lệnh gọi công cụ nằm trong trường tools tiêu chuẩn.

Biểu mẫu đăng ký của chính nhà cung cấp có "Modelltest API" như một danh mục yêu cầu, nên có thể trao đổi về API thông qua bộ phận kinh doanh. Không có công bố nào mô tả nó là có sẵn, có giá hoặc tự phục vụ.

Không có gì trong tài liệu phát hành nêu mức giá, vì không có gì để định giá: các trọng số được tải xuống miễn phí và chi phí sử dụng Kolibri chính là chi phí của những GPU mà bạn đặt bên dưới nó. Aleph Alpha cũng không công bố giới hạn tần suất, không tín dụng miễn phí và không có gói dùng thử cho mô hình — bất kỳ tuyên bố ngược lại nào cũng sẽ là suy diễn từ chữ "available", chứ không phải sự thật từ các trang của nhà cung cấp.

Không có tuyến nào trên OrcaRouter, và giải pháp thay thế trung thực

Hôm nay chúng tôi đã kiểm tra danh mục của chính mình: OrcaRouter cung cấp 207 mô hình và Kolibri không nằm trong số đó, dưới bất kỳ cách viết nào của tên gọi hay tiền tố Aleph Alpha. Điều đó có ý nghĩa với một độc giả mà câu hỏi thật sự là “liệu tôi có thể gọi cái này mà không cần mua hai H100 hay không”, bởi câu trả lời là không — không phải ở đây, và cũng không phải trên hạ tầng của chính nhà cung cấp như một dịch vụ đã được công bố. Tự host là cách duy nhất để chạy Kolibri ngay bây giờ.

Nếu thứ bạn cần là một mô hình mixture-of-experts có khả năng tiếng Đức lẫn tiếng Anh mà bạn có thể gọi ngay chiều nay, thì thứ gần nhất chúng tôi có là Gemma 4 26B A4B IT, một MoE trọng số mở với giá $0.06 mỗi triệu token đầu vào và $0.33 mỗi triệu token đầu ra cùng cửa sổ 262.144 token — cùng hạng ngữ cảnh như con số làm việc được Kolibri khuyến nghị, tính theo từng token thay vì 78 GB VRAM và một cuộc bàn bạc mua sắm. OrcaRouter định tuyến mọi mô hình mà nó cung cấp theo đúng giá niêm yết của nhà cung cấp, không cộng thêm gì, đó là cách rẻ để biết liệu một khối lượng công việc có đáng để sở hữu phần cứng hay không. Hai lưu ý, được nói thẳng chứ không hàm ý: đây là một mô hình khác với bộ trọng số khác, và nó không phải là sự thay thế cho chiều sâu tiền huấn luyện tiếng Đức của Kolibri. Đây là so sánh trung thực giữa một mô hình bạn có thể thuê và một mô hình bạn phải sở hữu.

Với một nhóm đang cân nhắc phương án triển khai có chủ quyền, có lý do thứ hai để định tuyến thay vì cam kết. Nếu một khối lượng công việc hiện đang được phục vụ bởi một mô hình được lưu trữ và bạn đang cân nhắc chuyển nó sang Kolibri tự lưu trữ, thì phép thử hữu ích là chạy cả hai với lưu lượng của chính bạn, chứ không phải đọc hai bảng benchmark — và một endpoint được định tuyến với tính năng chuyển đổi dự phòng tự động là nơi ít rủi ro hơn để chạy bài kiểm tra đó so với một đường dẫn production mà bạn đã di chuyển.

Vị thế của Kolibri

Aleph Alpha đã công bố một bản mô tả đầy đủ đến mức bất thường về một mô hình — quy trình huấn luyện, nguồn gốc dữ liệu, phương pháp tokenizer, con số năng lượng và một phiên bản tiền nhiệm đã được xây dựng rồi bị loại bỏ — và phát hành trọng số theo một giấy phép mà một công ty thực sự có thể triển khai theo. Đối với một người mua trong khu vực công hoặc công nghiệp của Đức mà các quy tắc mua sắm bắt đầu từ việc dữ liệu nằm ở đâu, sự kết hợp đó chính là sản phẩm, và không một hàng kết quả benchmark nào có thể thay thế được nó.

Điều mà người mua chưa thể làm là kiểm chứng các tuyên bố. Không có đánh giá độc lập, không có endpoint được lưu trữ sẵn, và không có mức giá để so sánh với bất cứ thứ gì khác, nghĩa là quyết định chỉ dựa vào các con số của chính nhà cung cấp cùng một bản dùng thử tự triển khai. Đó là một hạn chế thực sự và nó không phải là lý do để bác bỏ mô hình — nó chính là lý do bản đặc tả ở trên đáng được đọc từng dòng thay vì chỉ lướt qua các tỷ lệ phần trăm. Nếu bạn muốn hiểu Kolibri là gì, câu trả lời là một mô hình MoE 78B trọng số mở, chỉ văn bản, Đức-Anh với giới hạn trần 1M token và mức tối thiểu hai GPU. Việc liệu đây có phải là mô hình phù hợp cho khối lượng công việc của bạn hay không là câu hỏi mà chỉ đánh giá của chính bạn mới có thể trả lời.