Glimpse vs Kolibri: 토큰당 더 많은 컴퓨트를 구매하는 두 가지 방법

Elorian Glimpse와 Kolibri는 같은 경제적 질문, 즉 컴퓨트 단위당 더 많은 역량을 어떻게 얻을 것인가에 대한 두 가지 답이며, 이 둘은 그 질문의 양 극단에 위치한다. Elorian이 2026년 10월 16일에 공개한 Glimpse는 추론 시점에 역량을 구매한다: 클립을 대략 초당 8프레임으로 첫 번째 패스로 훑은 다음, 답하기 전에 선택된 0.9초 구간을 약 초당 14프레임으로 다시 스캔하는 데 추가 컴퓨트를 사용한다. Aleph Alpha가 2026년 10월 3일에 공개한 Kolibri는 아키텍처 시점에 역량을 구매한다: 총 781억 개 파라미터 중 토큰당 약 34억 6천만 개만 활성화되므로, 모델의 거의 모든 파라미터는 평가 비용을 지불할 일이 없는 파라미터다.

둘은 서로 바꿔 쓸 수 있는 것이 아니며, 그 이유는 품질 때문이 아니다. 하나는 가중치도, 공개된 파라미터 수치도, 공개된 컨텍스트 윈도도 없는 호스팅 미리보기다. 다른 하나는 Apache 2.0 다운로드로, 그 모델 카드에는 전문가 수, 어텐션 스케줄, 숫자 형식, 토크나이저의 언어 지원 범위, 그리고 학습 실행의 정확한 전력 요금까지 명시되어 있다. 이 둘을 비교하는 것은 사실상 두 전략을 비교하는 것이며, 흥미로운 질문은 어떤 전략이 당신의 워크로드와 맞닥뜨렸을 때 살아남느냐이다.

아무도 발표하지 않은 비율에 맞선 22대 1의 비율

Kolibri는 희소 전문가 혼합 모델이며, 그 희소성은 현재 기준으로도 극단적이다. 50개 층 모두가 전문가 혼합이고, 층당 384명의 전문가가 있으며, 그중 하나는 공유되고 여섯은 라우팅된다. 이는 전체 대 활성 비율이 대략 22.6 대 1에 달한다 — 780억 개의 파라미터를 보유하지만 주어진 토큰마다 약 35억 개만 평가하는 모델이다. Aleph Alpha는 이를 4대 1 패턴으로 그룹 쿼리 어텐션 블록과 교차 배치하는데, 이것이 262,144 토큰 네이티브 컨텍스트를 감당 가능하게 유지하는 비결이다: 100만 토큰 경로가 검증되었고, KV 캐시는 FP8로 유지되어 그 윈도우의 긴 쪽 끝이 스프레드시트가 아닌 메모리에 맞도록 한다.

숫자 형식 선택 사항이 이례적일 정도로 공개되어 있다. 가중치는 128×128 블록 단위의 FP8이다. KV 캐시는 FP8이다. 임베딩, 언어 모델 헤드, 정규화 계층, 라우터는 bfloat16으로 유지된다 — 양자화 손상이 손실이 아니라 라우팅 결정에서 드러날 수 있는 부분들이다. 네 가지 노력 수준이 제공된다. 도구 호출은 vLLM 파서와 함께 Hermes 형식을 따르므로, 맞춤형 통합을 요구하기보다는 기존 에이전트 스택에 그대로 끼워 넣을 수 있다.

Glimpse는 그중 어느 것도 공개하지 않는다. 파라미터 수도 없다. 말할 만한 전문가 구조도, 컨텍스트 윈도도, 양자화 방식도, 이름이 밝혀진 기본 모델도 없다. 오직 "오픈 웨이트 기본 모델을 기반으로 포스트트레이닝됨"이라는 문구뿐인데, 그것도 어떤 모델인지는 말하지 않는다. 대신 공개하는 것은 추적 기록이다: 대략 초당 8프레임의 첫 번째 패스, 잠정적인 판독, 클립의 0.9초 지점으로 초당 약 14프레임으로 돌아가는 것, 그리고 두 번째 예시에서는 클립의 약 2.2초 지점부터 5.13초에서 거의 멈출 때까지 추적된 창 가장자리.

둘 다 연산에 관한 공개입니다. K​olibri의 것은 모델이 로드될 때 연산이 어디로 가는지에 대한 진술입니다. G​limpse의 것은 모델이 생각하는 동안 연산이 어디로 가는지에 대한 진술입니다. 그중 하나만 숫자를 함께 제시합니다.

게시된 시트, 나란히

• 크기 — Kolibri: 총 파라미터 78,103,074,560개, 활성 파라미터 3,457,573,120개. Glimpse: 미공개이며, Elorian이 크기에 관해 언급한 것은 "벤치마크 대상인 프런티어 시스템보다 실질적으로 더 작고 저렴하다"는 것뿐이다.

• 액세스 — K​olibri용 Apache 2.0 가중치는 다운로드 및 자체 호스팅이 가능합니다. G​limpse는 무료 가입만 하면 이용할 수 있는 API와 채팅만 제공하므로 가중치는 없습니다.

• 컨텍스트 — Kolibri의 경우 네이티브 262,144 토큰이며, 1,048,576개가 검증되었습니다. Glimpse의 경우에는 공개되지 않았는데, 이는 더 어색한 공백입니다. 왜냐하면 이 제품의 대표 기능이 동영상 읽기이기 때문입니다.

• 언어 — Kolibri의 경우 독일어와 영어를 지원하며, Aleph Alpha는 이를 한계가 아닌 설계상의 결정이라고 제시한다. Glimpse는 언어 지원 범위를 전혀 공개하지 않는다.

• 가격 — G​limpse의 경우 입력 토큰 백만 개당 $0.60, 출력 토큰 백만 개당 $3.00 — 그리고 그 메커니즘상 재스캔이 드러나는 지점이 바로 출력 토큰이므로, 트레이스가 곧 영수증이다. K​olibri에는 요금표가 없는데, 비용은 하드웨어이기 때문이다.

• 독립적 평가 — 사실상 양쪽 모두 전무하다. 어느 쪽도 자사 수치를 재현하는 제3자 검증 체계를 갖추지 못했으며, 공개된 두 수치 모두 벤더 자체의 것이다.

A​leph Alpha가 전부 공개한 학습 실행

여기서 K​olibri는 올해 거의 모든 출시작과 갈라진다. 그리고 이 부분은 짚고 넘어갈 만한데, 희소성을 구축하는 데 어떤 대가가 들었는지 알려주기 때문이다.

사전 학습 코퍼스는 20조 토큰이었으며, 대략 영어 62.5%, 독일어 23.9%, 코드 13.6%로 나뉘었습니다. 중간 학습에서는 3.44조 토큰이 추가되었고, 롱컨텍스트 단계에서는 2,010억 토큰이 기여했습니다. 이 실행에는 96개의 HGX 노드에 걸쳐 768개의 NVIDIA B200 가속기가 사용되었으며, 실제 경과 시간으로 21일 511시간이 걸렸고, 약 392,000 GPU-시간을 소비했습니다 — 6.4×10²³ 부동소수점 연산이며, 에너지 예산은 대략 9.5×10² 메가와트시였습니다.

그 숫자들은 훨씬 더 큰 모델처럼 작동하는 활성 파라미터 34억 6천만 개짜리 모델의 정직한 대가다. 그것들은 또한 자금력 있는 연구소 밖의 누구에게도 재현 불가능하며, 바로 그것이 오픈 웨이트를 주장하는 근거다: 학습 비용은 모델 카드를 공개하는 회사가 한 번 지불하고, 그 뒤의 모든 사람은 다운로드 대가만 치르고 그 산출물을 얻는다.

선행 모델은 시사하는 바가 크다. K​olibri Origin은 파라미터 306억 개에 활성 파라미터 32억 7천만 개, 65,536토큰 컨텍스트, 7조 5,100억 훈련 토큰을 갖춘 모델이었지만 — 끝내 공개되지 않았다. 공개된 모델은 첫 번째 시도가 아니라 두 번째 시도이며, 그 둘 사이의 격차는 대략 프로토타입과 제품 사이의 격차에 맞먹는다.

G​limpse에 대해서는 비교할 만한 것이 존재하지 않는다. E​lorian은 그 모델이 수백 개의 GPU를 보유한 소규모 팀에 의해 사후 학습되었다고만 말한다. 명시된 베이스 모델도, 토큰 수도, 데이터 설명도, 컴퓨트 공개도 없다. 이는 체크포인트를 공개하는 것과 엔드포인트를 제공하는 것 사이의 정당한 차이다 — 넘겨주는 것을 공개하는 것이므로 — 하지만 이는 두 릴리스가 요금표 외의 경제성 측면에서 비교될 수 없음을 의미한다. 둘 중 하나만 비용을 공개했기 때문이다.

빈 매개변수 개수 셀

이 비교에 숨은 함정이 바로 여기 있으며, 그것은 Glimpse에게 유리하게 작용합니다.

K​olibri의 34억 6천만 개 활성 파라미터를 보고, G​limpse가 — 호스팅형이고 토큰당 저렴하며 좁은 역량을 겨냥한 — 작아야 한다고, 혹은 실행 비용이 저렴해야 한다고, 혹은 별것 아닌 무언가를 파인튜닝한 것이어야 한다고 결론내리기는 쉽다. 그중 어느 것도 따라 나오지 않는다. G​limpse의 파라미터 수는 공개된 적이 없다. 그 컨텍스트 윈도우도 공개된 적이 없다. 그 기반 모델의 이름도 밝혀진 적이 없다. 출시 게시물에서 크기에 관한 유일한 주장은 상대적이며 정량화되어 있지 않다. 행동이 크기를 드러내지 않고, 이 모델의 행동이 아키텍처라기보다 샘플링 스케줄이라면, 파라미터 수는 거의 무엇이든 될 수 있으며 공개된 어떤 것도 그것을 반박하지 못할 것이다.

따라서 파라미터 수 칸은 비어 있는 채로 남고, 이번 달 G​limpse의 크기에 대해 누군가 인용하는 수치는 모두 명세로 위장한 추정치입니다. 참고로 반대 방향도 마찬가지입니다: K​olibri의 22.6대1 비율은 여러분의 하드웨어에서의 추론 비용을 알려주지 않습니다. 왜냐하면 128×128 블록의 FP8 가중치가 변환 단계가 아니라 이득이 되려면 특정 가속기 지원이 필요하기 때문입니다.

각 전략이 실패하는 부분

K​olibri의 제약은 언어 커버리지이며, 이는 의도된 것입니다. 독일어와 영어, 그 외에는 없습니다. 독일어 트래픽이 있는 유럽 기업에게 이것은 하나의 기능입니다 — 훈련 믹스가 대부분의 오픈 모델이 반올림 오차로 취급하는 언어 쪽으로 가중되어 있기 때문입니다. 다른 누구에게는 이는 강경한 거부이며, 아무리 큰 컨텍스트 윈도도 이를 상쇄하지 못합니다.

두 번째 제약은 긴 문맥 산술입니다. 백만 토큰 경로가 검증되었는데, 이는 정말로 큽니다. 하지만 검증된 경로가 저하되지 않은 경로와 같은 것은 아닙니다. 이런 길이에서는 거의 모든 모델의 검색 정확도가 창이 끝나기 훨씬 전에 떨어지며, 어떤 공개된 평가도 Kolibri의 곡선이 어디에서 꺾이는지 말해주지 않습니다. 창을 가정할 수 있는 정확도가 아니라 할당할 수 있는 용량으로 취급하세요.

Glimpse의 제약은 정반대 형태다: 주변에 아무것도 없는 좁은 능력이다. 질문이 영상의 1초도 안 되는 순간에 무슨 일이 일어났는지에 관한 것이라면, Glimpse는 바로 그것을 겨냥한다. 질문이 장면이 진술하는 바가 아니라 암시하는 바에 관한 것이라면, 되감기는 도움이 되지 않는다 — 모델 출시 9일 전에 Elorian이 Scale AI와 함께 공개한 벤치마크인 Humanity's Sixth Sense에서 Glimpse는 GPT-6 Astra의 53.6에 맞서 46.36을 기록했고, 벤치마크 자체의 실패 분석은 레이블된 오류의 94%를 추론이 아니라 보기와 유추에 귀속시킨다. 더 많이 보는 것이 더 많이 이해하는 것은 아니며, 공급업체 자신의 표가 그 증거다.

또한 둘 중 어느 쪽도 다루지 않는 문제 부류가 하나 더 있습니다: 답이 임계값이어야 하는 경우입니다. G​limpse는 산문을 씁니다. K​olibri는 읽고 씁니다. 어느 쪽도 옵션별로 보정된 수치를 반환하도록 만들어지지 않았으며, 파이프라인에 필요한 것이 바로 그것이라면, 그 도구는 완전히 다른 형태의 모델입니다.

라우팅 계층이 존재 가치를 입증하는 곳 — 그리고 그렇지 않은 곳

두 모델은 라우팅이 이동시킬 수 있는 경계와 그럴 수 없는 경계의 양쪽에 자리한다.

그것이 옮기는 경계는 레인 혼합의 비용과 복원력입니다. 독일어 트래픽에는 자체 가속기에서 K​olibri를 실행하고 그 외의 모든 것에는 호스팅 모델을 사용하는 팀은 두 개의 코드 경로, 두 가지 장애 모드, 두 세트의 자격 증명을 갖습니다. OrcaRouter는 200개가 넘는 모델 앞에서 이를 단일 키로 축소합니다. 어떤 요청이 어느 레인으로 갈지 결정하는 라우팅 DSL 그리고 자체 호스팅 레인이 포화되거나 다운되었을 때 요청을 계속 살려 두는 자동 페일오버가 있습니다. 제공업체 정가는 토큰당 아무것도 추가되지 않고 그대로 전달되며, 따라서 그 조합에서 호스팅되는 절반은 해당 공급업체가 청구하는 비용이 들고 공급업체가 가격을 바꾸는 날 그 가격을 따릅니다.

그것이 넘지 않는 경계는 보관이며, 여기서 Kolibri는 어떤 라우팅 계층도 만들어낼 수 없는 이점을 가진다. 그 가중치는 다운로드할 수 있다. 코퍼스가 건물 밖으로 나갈 수 없다면, Apache 2.0 체크포인트는 이 둘 중 데이터가 있는 곳에서 실행되는 유일한 것이며, 어느 모델에 대한 평가도 이를 바꾸지 않는다. 또한 두 모델 중 어느 것도 우리 카탈로그에 없다 — Kolibri는 다운로드이고 Glimpse는 Elorian 자체의 API와 채팅 인터페이스이다 — 따라서 이는 우리가 어떻게 라우팅하는지에 대한 진술이지, 그것들을 제공하겠다는 주장이 아니다.

공유된 벤치마크 없이 어떻게 결정할까

이 둘의 순위를 매기는 스코어보드는 없으며, 그것은 둘 중 하나가 신제품이기 때문이 아니다. Elorian의 표는 비디오와 이미지 인식을 GPT-6 Astra와 비교해 측정하고, Aleph Alpha의 카드는 일반적인 학술 범위에 장문맥 검색을 더해 측정한다. 두 모델은 공유하는 과제가 없으므로, 중요한 유일한 비교는 당신 자신의 워크로드와의 비교뿐이다.

세 가지 질문이면 어떤 표보다 더 빨리 결론이 난다.

데이터가 반드시 귀하가 통제하는 하드웨어에 남아 있어야 합니까? 그렇다면 여기에서는 K​olibri가 유일한 후보이며, 라이선스는 Apache 2.0이고, 독일어-영어 지원 범위는 귀하의 배포 환경에 맞거나 그렇지 않으면 즉시 후보에서 제외됩니다.

실패 모드가 시간적인가 — 가림(occlusion)을 가로지르는 객체 동일성, 팬 대 컷, 1초 미만 창 안의 이벤트인가? 그렇다면 G​limpse는 둘 중 명시된 메커니즘이 이 문제를 다루는 유일한 모델이고, 무료 가입은 시험을 저렴하게 해주며, 트레이스는 점수보다 더 많은 것을 알려줍니다: 직접 클립을 돌려 보고, 그 모델이 답을 결정한 구간으로 되돌아간 적이 있는지 확인하세요.

워크로드가 장문 컨텍스트이긴 하지만 장시간 비디오는 아닌가요 — 문서 코퍼스, 제출 서류 세트, 감사 추적 기록 같은 것인가요? 그렇다면 K​olibri의 검증된 백만 토큰 경로가 있는 262,144토큰 네이티브 윈도가 관련 수치이며, 두 모델의 공개된 평가 중 어느 것도 그러한 길이에서 성능 저하 곡선을 견뎌내는지 판가름하지 못합니다. 그 부분은 어느 결정이든 안전해지기 전에, 당신의 데이터로 측정해야만 합니다.

이번과 같은 릴리스의 배경이 되는, 문서화된 AI 실패 및 에이전트 사건들은 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 플래그가 포함되어 있습니다.