Kolibri: Aleph Alpha의 78B 오픈 웨이트 모델이 실제로 무엇인지

Kolibri는 Aleph Alpha의 오픈 웨이트 언어 모델입니다. Aleph Alpha는 유럽 기관들이 자체 하드웨어에서 실행할 수 있는 모델이 필요하다고 수년간 주장해 온 하이델베르크 연구소입니다. 이 모델은 780억 개 매개변수의 전문가 혼합(mixture-of-experts) 시스템으로, 토큰당 약 34억 6천만 개 매개변수를 활성화하며, 독일어와 영어만 읽고 쓰고 그 외에는 아무 언어도 다루지 않으며, 검증된 1,048,576개 토큰의 컨텍스트 창을 갖추고 있습니다. 가중치는 Hugging Face의 Aleph-Alpha/Kolibri-1라는 저장소에 Apache 2.0에 따라 공개되어 있습니다. 같은 릴리스 자료는 또한 Kolibri Origin이라는 306억 개 매개변수 규모의 전신 모델을 설명합니다. 이 모델은 훈련되었고 내부적으로 검증되었지만 공개된 적은 없습니다. 이름만 검색해서 이곳에 도착했다면, 이것이 짧은 답입니다. 이 페이지의 나머지는 그 뒤에 있는 사양이며, 각 수치는 이를 발표한 출처에 귀속됩니다.

이 모델은 2026년 10월 3일에 출시되었다 — Aleph Alpha 자체 뉴스 게시물은 하이델베르크, 10월 5일자로, Kolibri가 10월 3일부터 이용 가능했다고 밝히고 있으며, 모델 카드에도 같은 날짜가 적혀 있다. 이 날짜는 모델을 알리기 위한 것이 아니라 자리매김하기 위해 여기 있다. 다음은 상시 버전이다: 모델이 무엇인지, 무엇이 아닌지, 어떤 숫자가 Aleph Alpha에서 나온 것인지, 그리고 오늘 현재 어떤 숫자가 전혀 아무에게서도 나오지 않는지.

Kolibri, Kolibri-1, Kolibri Origin: 세 개의 이름, 하나의 릴리스

명명은 독자가 가장 먼저 분명히 해야 할 사항이다. 왜냐하면 공급업체가 이 중 두 가지를 서로 바꿔 사용하고, 세 번째는 전혀 다른 것에 속하기 때문이다.

• Kolibri — Aleph Alpha가 쓰는 모든 자료에서 이 모델의 이름: 제품 페이지, 발표문, 기술 보고서. 독일어 단어이며, 공급업체는 정확히 그렇게 표기합니다. 대문자 K, 접미사 없음.

• Kolibri-1 — 리포지토리 수준에서 동일한 모델입니다. Hugging Face 리포지토리는 Aleph-Alpha/Kolibri-1이며, 벤더가 공개한 서빙 명령은 vllm serve Aleph-Alpha/Kolibri-1입니다. 이는 버전 식별자일 뿐 두 번째 모델이 아니며, 두 문자열은 동일한 가중치를 가리킵니다.

• Kolibri Origin — 다른 모델이며, 다운로드할 수 있는 모델이 아닙니다. 2026년 6월에 사전 학습을 마친 306억 개 매개변수, 32억 7천만 개 활성 매개변수의 전신 모델로, 학습 파이프라인을 검증하는 데 사용되었으며 공개된 적이 없습니다. Aleph Alpha는 Kolibri의 대부분 벤치마크 행을 이 모델과 비교한 병렬 열로 보고하는데, 그 때문에 Kolibri에 관한 거의 모든 표에서 이 이름이 등장합니다. 가중치를 찾고 있다면, 찾아야 할 모델은 이것이 아닙니다.

별도의 "Kolibri 2"는 없고, 다른 이름으로 공개된 채팅용 튜닝 변형도 없으며, 양자화된 공식 배포판도 없습니다. 다운로드 색인에서 그 이름을 달고 있는 다른 것은 모두 제3자 변환이며, 공급업체 자체 자료에는 그러한 것이 문서화되어 있지 않습니다.

크기: 78B라는 수치는 맞고, 모든 것을 결정하는 것은 두 번째 숫자입니다.

"Kolibri 78B" 쿼리가 회자되고 있으며, 벤더는 이를 바로잡기보다 확인해 주고 있다. 가중치와 함께 공개된 모델 카드에 따르면, 총 파라미터는 78,103,074,560개이고 그중 토큰당 활성 파라미터는 3,457,573,120개다. 이는 대략 22.6 대 1의 희소성 비율이다.

이 구분은 단순한 현학이 아니다. 전체 파라미터는 모델에 필요한 메모리 양을 결정하고, 활성 파라미터는 토큰당 연산 비용을 결정한다. 활성 파라미터가 3.46B인 78B 모델은 매우 큰 아티팩트이지만, 추론 시에는 토큰당 기준으로 작은 모델처럼 동작한다. 그리고 바로 그렇기 때문에 Aleph Alpha가 이 정도 규모의 무언가에 대해 2-GPU 배포 최소 사양을 제시할 수 있는 것이다. 활성 수치 없이 78B만 알려주는 Kolibri 요약은 비용을 좌우하는 부분을 빠뜨린 것이다.

자체 계보 대비 규모를 보면: Kolibri Origin은 총 30.6B에 활성 3.27B였습니다. Kolibri는 전체 파라미터 수를 대략 두 배로 늘리면서도 활성 수는 거의 움직이지 않았는데, 이는 순수한 속도보다는 서빙 비용 단위당 용량에 관한 이야기입니다.

아키텍처와 라이선스: 가중치가 무엇인지, 그리고 Apache 2.0이 여기서 실제로 무엇을 포괄하는지

Kolibri는 덴스 피드포워드 층이 전혀 없는 50층 전문가 혼합(MoE) 트랜스포머입니다. 각 층은 384개의 전문가로 라우팅하며, 토큰당 여섯 개가 활성화되고 공유 전문가 하나가 더해집니다. 전문가 중간 차원은 512이고 모델 차원은 2,560입니다. 어텐션은 하이브리드 방식입니다. 대부분의 층은 512토큰의 슬라이딩 윈도우를 사용하고, 다섯 번째 층마다에만 전체 어텐션을 사용합니다. Aleph Alpha의 아키텍처 해설은 그 결과를 명확히 보여줍니다. 16K 문맥에서 순수 어텐션 작업의 비중은 Kolibri Origin과 비교해 51퍼센트에서 27퍼센트로 떨어지고, 전체 어텐션 층 수는 대략 5분의 1로 줄어듭니다.

토크나이저는 128,000개 토큰 어휘를 갖춘 독일어-영어 이중언어 빌드로, 연구소가 UniBPE라고 부르는 방법으로 훈련되었다. 두 언어, 그것도 의도적으로: 공급업체는 범위를 넓이보다 깊이로 규정하며, 잘 지원되는 두 언어를 다국어 성과로 제시하기보다는 이를 말 그대로 명시한다.

라이선스는 Apache 2.0이며, 모델 카드는 그 경계에 대해 이례적으로 정확합니다. 카드 자체의 표현에 따르면 라이선스는 “이 저장소에 게시된 가중치와 구성 파일에만” 적용됩니다. 기반 코드, 아키텍처 정의, 파라미터 설정 또는 학습 방법까지 확장되지는 않습니다. 따라서 배포 팀의 실무적 입장은 이렇습니다. 가중치는 진정으로 개방되어 있고 상업적으로 사용할 수 있으며, 허용 가능한 사용 부속 조항도, 월간 활성 사용자 임계값도, 별도의 상업적 조건도 없습니다. 그러나 라이선스가 Aleph Alpha의 학습 레시피나 추론 코드에 대한 권리 부여는 아닙니다. 법무 검토에서 이것이 OSI 의미의 오픈 소스인지 묻는다면, 정직한 답은 이것이 명시된 범위 제한이 있는 OSI 승인 라이선스에 따른 오픈 가중치이며, 그 둘은 같은 주장이 아니라는 것입니다.

컨텍스트 윈도우 및 최대 출력

Aleph Alpha는 컨텍스트 윈도우를 두 등급으로 공개하는데, 이 구분은 유지할 가치가 있습니다.

• 검증된 최대치 — 1,048,576 토큰, 제품 페이지와 모델 카드 모두에 명시됨.

• 네이티브 및 권장 — 262,144 토큰. 이 카드는 서빙 효율성과 복잡한 작업을 위해 이 수치 이하로 유지할 것을 권장하며, 벤더 페이지에서는 256K를 실사용 기준 수치로 부릅니다.

• 훈련 진행 — 16,384개 토큰에서 사전 훈련되고, 65,536개 토큰 범위에서 중간 훈련된 다음, 훈련 길이로서 262,144개로 확장되었습니다.

전체 100만에 도달하는 것은 기본으로 얻어지는 구성이 아니다. 서빙 레시피에는 명시적인 maximum-model-length 플래그와 position-embedding 재정의가 필요하며, 이는 공급업체가 문서화해 둔 사항이다. 1M을 문서화된 절차가 있는 검증된 상한으로, 262K를 프로덕션 워크로드를 설계할 기준 숫자로 해석하라.

최대 출력 길이는 공개되지 않았습니다. 제품 페이지에도, 모델 카드에도, 발표 자료에도 생성 상한이 명시되어 있지 않습니다. 배포가 엄격한 출력 제한에 의존한다면, 이는 Aleph Alpha나 자체 서빙 구성에 물어볼 문제이며, 릴리스 자료가 답하는 내용이 아닙니다.

모달리티: 텍스트 전용이며, 이는 의도된 경계입니다.

Kolibri는 텍스트 입력, 텍스트 출력 모델입니다. 이 카드의 파이프라인 태그는 텍스트 생성이며, 모델이 텍스트 입력을 처리하고 텍스트 출력을 생성한다고 설명하고, 학습 코퍼스가 텍스트 전용이라고 명시합니다. 비전 인코더도, 오디오 경로도, 이미지 생성도, 텍스트 형태의 도구 호출 외에 문서화된 도구 결과 모달리티도 없습니다.

바로 이 지점에서 판매사 측 설명과 독자의 기대가 가장 자주 어긋나므로, 단호히 말해 둘 만합니다. Kolibri의 이름, 크기, 형제 모델 중 어느 것도 Kolibri가 이미지를 받아들인다고 가정하게 해서는 안 됩니다. 받아들이지 않습니다. 이 모델이 지원하는 두 언어는 독일어와 영어이며, 세 번째 언어를 처리하도록 만들어지지 않았습니다 — 프랑스어나 스페인어로 된 요청은 데모에서 이것으로 무엇을 하든 설계 목표 밖입니다.

그것이 실제로 가진 것은 도구 호출입니다 — Hermes 스타일로, 가중치와 같은 저장소에 함께 제공되는 파서를 포함합니다 — 그리고 네 가지 추론 노력 수준, none, low, medium 및 high가 있으며, 이는 채팅 템플릿을 통해 설정됩니다. 둘 다 커뮤니티의 발견이 아니라 문서화된 동작입니다.

Aleph Alpha가 주장하는 것, 그리고 다른 누군가가 측정한 것

두 가지 범주인데, 크기가 서로 같지 않습니다.

공급업체 보고: Aleph Alpha 자체 하네스에서, Aleph Alpha가 실행하고 Aleph Alpha가 게시함: Kolibri는 영어와 독일어에 대해 서빙 비용 대비 품질의 파레토 프론티어에 있습니다. 자신의 활성 매개변수 수의 최대 4배에 달하는 모델과 맞먹으며, 공급업체는 120B-A12B 모델인 Nemotron 3 Super로 이 주장을 예시합니다. 독일어, 추론, 수학 및 에이전트 작업에 특화되어 있으며, 강력한 도구 사용 행(Tau2-Bench 통신 94.7퍼센트, 소매 69.9퍼센트, 항공 76.7퍼센트; BFCL v4 전체 61.4퍼센트)과 추론 행(GPQA Diamond 영어 84.3퍼센트, AIME 2025 영어 96.9퍼센트)을 보유합니다. 같은 표에 있는 독일어 수치 — GPQA Diamond 81.3퍼센트, AIME 2025 87.5퍼센트, AIME 2026 90퍼센트 — 는 동일한 벤치마크의 독일어 버전에서 나온 것입니다.

독립적으로 측정된 결과, 2026년 10월 13일 기준: 아무것도 없습니다. Artificial Analysis에는 Kolibri 항목이 없고, 제공업체 목록에도 Aleph Alpha 행이 없습니다. 모델 카드 자체가 해당 모델이 Hugging Face의 어떤 추론 제공업체에 의해서도 배포되지 않는다고 밝히고 있으며, 제3자가 벤더의 평가 프레임워크를 재현한 결과를 공개한 적도 없습니다. 비록 하네스 코드는 해당 연구소 자체 저장소에 공개되어 있음에도 말입니다. 이 평가는 철저하기는 하지만, 한 연구소의 평가일 뿐입니다. 하이델베르크 외부의 누군가가 이를 실행하기 전까지는 위에 나온 모든 백분율을 벤더의 주장으로 취급하십시오.

벤더 자료에 있는 한 숫자는 단순히 반복하기보다 각별히 주의해서 다뤄야 한다. Aleph Alpha의 제품 페이지에는 Kolibri의 AA-Omniscience 지수가 33.6퍼센트로 나와 있다. 그 지수는 Artificial Analysis가 만든 지수이며, Artificial Analysis는 현재 Kolibri 항목을 공개하지 않는다. 이 수치는 Aleph Alpha가 남의 지수를 자체적으로 실행한 결과로, 이를 공개하는 것은 정당하지만 독립적인 점수로 해석하는 것은 부당하다. 지수 소유자가 해당 수치를 발표하기 전까지, 그것은 벤더가 보고한 숫자일 뿐이다.

실제로 실행하는 방법

호스팅된 엔드포인트는 가리킬 곳이 없습니다. Kolibri는 가중치와 추론 패키지로 배포되며, 호출하려면 직접 실행해야 합니다.

• 설치 — pip install "aleph-alpha-inference>=1.0"를 실행하면 Kolibri vLLM 플러그인이 제공되고, 지원되는 vLLM 버전이 고정됩니다. 또는 컨테이너 이미지 ghcr.io/aleph-alpha/aleph-alpha-inference를 가져오세요.

• Serve — Aleph-Alpha/Kolibri-1에 대한 표준 vLLM 호출로, FP8 KV 캐시, Kolibri 추론 파서, Kolibri 도구 호출 파서, 자동 도구 선택이 활성화되어 있습니다.

• 메모리 — FP8 가중치는 약 78GB입니다. 공개된 최소 사양은 A100 80GB 카드 2장, H100 SXM5 2장, H200 1장, B200 1장 또는 B300 1장이며, 권장 구성은 H100 SXM5 2장, H200 2장, B200 1장 또는 B300 1장입니다.

• 샘플링 — 카드 권장 사항에 따라 temperature 1.0, top-p 0.97, top-k 128.

• 인터페이스 — OpenAI 호환, 로컬에서 제공됩니다. 기존 chat-completions 코드가 이를 가리킬 수 있으며, reasoning effort는 채팅 템플릿을 통해 전달되고 도구 호출은 표준 tools 필드에 들어갑니다.

공급업체 자체의 가입 양식은 "Modelltest API"를 요청 카테고리로 제공하므로, 영업을 통해 API 관련 논의가 가능하다. 공개된 어떤 자료도 그것이 이용 가능하거나, 가격이 책정되었거나, 셀프서비스라고 설명하지 않는다.

출시 자료 어디에도 가격은 명시되어 있지 않습니다. 가격을 매길 대상이 없기 때문입니다. 가중치는 무료로 다운로드할 수 있고, Kolibri 사용 비용은 그 아래에 두는 GPU 비용입니다. Aleph Alpha 역시 이 모델에 대한 요청 속도 제한, 무료 크레딧, 체험용 등급을 공개하지 않습니다. 그와 반대되는 주장은 "available"이라는 단어에서 끌어낸 추론일 뿐, 공급업체 페이지에서 확인되는 사실이 아닙니다.

OrcaRouter에는 경로가 없으며, 정직한 대안

우리는 오늘 자체 카탈로그를 확인했습니다: OrcaRouter는 207개 모델을 제공하며, 이름을 어떻게 표기하든, Aleph Alpha 접두사를 붙이든 Kolibri는 그 안에 없습니다. 이는 실제 질문이 "H100 두 장을 사지 않고도 이걸 호출할 수 있나?"인 독자에게 중요한데, 답은 아니오이기 때문입니다 — 여기서도, 그리고 공개된 서비스로서 벤더 자체 인프라에서도요. 현재 Kolibri를 실행하는 유일한 방법은 셀프 호스팅입니다.

오늘 오후에 바로 호출할 수 있는 독일어·영어 지원 전문가 혼합(MoE) 모델이 필요하다면, 저희가 실제로 갖고 있는 것 중 가장 가까운 것은 Gemma 4 26B A4B IT입니다. 이는 백만 입력 토큰당 $0.06, 백만 출력 토큰당 $0.33에 262,144토큰 윈도우를 갖춘 오픈 웨이트 MoE로, Kolibri가 권장하는 작업 기준과 동일한 컨텍스트 등급을 78GB VRAM과 조달 논의 대신 토큰당 비용으로 제공합니다. OrcaRouter는 자사가 취급하는 모든 모델을 공급자 정가에 아무것도 더하지 않고 라우팅합니다. 이는 특정 워크로드가 하드웨어를 소유할 가치가 있는지 알아보는 저렴한 방법입니다. 두 가지 주의점을 암시하지 않고 분명히 밝히자면, 이것은 가중치가 다른 별개의 모델이며 Kolibri의 독일어 사전 학습 깊이를 대체할 수 없습니다. 이는 임대할 수 있는 모델과 소유해야 하는 모델 사이의 정직한 비교입니다.

소버린 배포를 고려하는 팀에게는 확정하기보다 라우팅할 두 번째 이유가 있습니다. 워크로드가 현재 호스팅 모델로 처리되고 있고 이를 자체 호스팅 Kolibri로 옮기는 것을 고려 중이라면, 유용한 테스트는 두 벤치마크 표를 읽는 것이 아니라 두 모델을 모두 자체 트래픽에 대해 실행해 보는 것입니다 — 그리고 라우팅된 엔드포인트는 자동 장애 조치가 있는, 그 테스트를 실행하기에 위험이 더 낮은 곳입니다 이미 마이그레이션한 프로덕션 경로보다.

Kolibri의 입장

Aleph Alpha는 한 모델에 관해 이례적으로 완전한 설명을 공개했다 — 학습 파이프라인, 데이터 출처, 토크나이저 방식, 에너지 수치, 그리고 구축되었다가 폐기된 이전 모델까지 — 그리고 기업이 실제로 배포할 수 있는 라이선스 아래 가중치를 출시했다. 데이터가 어디에 있는지에서 시작하는 조달 규칙을 가진 독일 공공 부문 또는 산업 구매자에게 그 조합이 바로 제품이며, 어떤 벤치마크 행도 그것을 대신하지 못한다.

구매자가 아직 할 수 없는 일은 그 주장을 확인하는 것이다. 독립적인 평가도, 호스팅된 엔드포인트도, 다른 무엇과 비교할 가격도 없으므로, 결정은 벤더 자체의 수치와 자체 호스팅 체험판에 달려 있다. 이는 실질적인 한계이며, 이 모델을 일축할 이유는 아니다 — 오히려 위 명세를 퍼센트만 훑어보는 대신 한 줄 한 줄 읽을 가치가 있는 이유다. Kolibri가 무엇인지 이해하고 싶다면, 답은 1M 토큰 상한과 최소 2개 GPU 요구 사항을 갖춘 78B 오픈 웨이트, 텍스트 전용, 독일어-영어 MoE다. 그것이 당신의 워크로드에 맞는 모델인지는 오직 당신 자신의 평가만이 답할 수 있는 질문이다.