ERNIE Light DT 1.0 vs ERNIE 5.5 Flash Base: 라이선스가 곧 제품이다

ERNIE Light DT 1.0 및 ERNIE 5.5 Flash Base는 2026년 11월에 닷새 간격으로 공개된, 같은 연구소가 서로 다른 두 질문에 내놓은 답이다. Light DT는 API다. 가중치도, 모델 카드도 없고, 입력 100만 토큰당 1.13달러, 출력 상한은 131,072토큰이다. Flash Base는 다운로드다. 2,800억 개 매개변수, 토큰당 140억 개 활성, 33.5조 개 학습 토큰을 갖췄으며 바이두가 제공하는 호스팅 엔드포인트는 전혀 없다. 둘 중 무엇을 선택할지는 사실 벤치마크의 문제가 아니다. 둘 다 논쟁할 만한 공개 점수가 없기 때문이다. 문제는 서빙 스택을 빌릴지, 아니면 그 위에 구축할 라이선스를 소유할지다.

그리고 라이선스는 이 비교가 대칭성을 잃는 지점인데, Flash Base의 라이선스는 이를 어디에서 사용할 수 있는지, 누구에게 알려야 하는지에 대해 유난히 구체적이기 때문이다.

두 유물, 한 실험실, 5일 간격

Flash Base는 2026년 11월 5일 기술 보고서와 함께 Hugging Face에 FP8과 BF16 두 가지 정밀도로 오픈 가중치를 공개했으며, ERNIE 5.5 Flash Base Model License v1.0에 따라 배포되었습니다. 이는 사전 학습 체크포인트로, 제공되는 가중치는 명령어 튜닝이나 선호도 작업을 거치기 전 사전 학습에서 나온 것입니다. 제대로 된 채팅 템플릿은 없으며, 함께 공개된 instruct 파생 모델도 없습니다.

Light DT는 2026년 11월 10일 국제 API 엔드포인트로 등장했다. 바이두는 이 모델이 오픈소스 GLM 모델을 기반으로 하며 자사의 검색 "Lightning" 라인 연구를 접목했고, 바이두 Sparse Attention과 공급업체가 KV-cache 저장 및 연산을 줄인다고 주장하는 피드백 기반 이력 압축 기법을 중심으로 구축됐다고 설명한다. 이 모델은 포스트 트레이닝을 거쳤고, 질문에 답하며, 도구를 호출하고, 다운로드할 수 있는 파일로 존재하지 않는다.

그렇게 보면 이 짝은 뻔한 방향으로 한쪽으로 치우쳐 보인다. 하나는 완성품이고 다른 하나는 출발점이다. 하지만 가격은 다른 말을 하고, 라이선스는 또 다른 말을 한다.

잘못된 방향으로 가는 요금표

Light DT는 활성 파라미터 수가 20배인 모델보다 토큰당 비용이 더 높습니다. 이것이 이 글에서 그 무엇보다 먼저 곱씹어야 할 사실입니다:

• 입력 가격 — ERNIE Light DT 1.0은 백만 토큰당 $1.13인 반면, ERNIE 5.5 Flash Base는 $0입니다. Baidu 엔드포인트가 없어 정가 자체가 존재하지 않기 때문입니다. 이 $0은 실제입니다. 호스팅은 청구서에 찍히는 항목이 아니라 자본 비용이기 때문입니다.

• 출력 가격 — Light DT의 경우 백만 개당 $3.94, Flash Base의 경우 자체 GPU 시간.

• 캐시된 입력 — Light DT에서 백만 개당 $0.113, 캐시 읽기에서 10배 할인. Flash Base에는 이에 상응하는 기능이 없습니다. 캐시 경제성이 결국 스케줄러의 문제가 되기 때문입니다.

• 토큰당 활성 파라미터 — Light DT의 경우 비공개, Flash Base의 경우 140억 개.

• 컨텍스트 — Light DT는 1,024,000 토큰, Flash Base는 파인튜닝 및 추론 시 1,000,000 토큰이며, 최대 학습 컨텍스트는 128,000입니다.

• 최대 출력 — Light DT의 경우 131,072토큰, Flash Base의 경우 서빙 구성에 따라 제한됩니다.

• 가중치 — Light DT의 경우 없음; Flash Base의 경우 FP8 또는 BF16으로 280B이며, FP8 저장소에서 128개의 safetensors 샤드로 분할됨.

• 서빙 스택 — Light DT의 경우 Baidu의 스택, Flash Base의 경우 Baidu 자체 플러그인을 사용하는 SGLang 또는 vLLM. 공개된 SGLang 레시피는 텐서 병렬 처리 4와 어텐션 데이터 병렬 크기 4를 요구하므로, 요청을 하나도 로드하기 전에 최소 4개 GPU가 필요합니다.

280B를 자체 호스팅하면 100만 토큰당 실제 비용은 얼마일까

이것은 대결의 승패를 결정하는 계산이며, 느낌이 아니라 딱 떨어지는 숫자로 해볼 가치가 있다.

공개 구성의 최소 기준은 GPU 4개이지만, FP8에서 280B 파라미터는 캐시를 제외하고도 약 280GB의 가중치이므로, 현실적인 프로덕션 노드는 KV 캐시와 배칭을 위한 여유를 갖춘 8개의 가속기입니다. H100급 카드 8장을 카드당 시간당 2달러의 혼합 임대료로 가정하면 — 이는 견적이 아니라 2026년 중간 시장 수치입니다 — 노드 비용은 시간당 약 16달러이며, 연속 가동 시 월 약 11,700달러입니다.

이제 처리량 문제입니다. 토큰당 140억 개 파라미터를 활성화하는 희소 MoE는 모든 희소 모델이 그렇듯 토큰당 속도는 빠르지만, 배치 전체의 총 처리량이 단가를 결정하며, 바이두는 이 체크포인트에 대해 초당 토큰 수를 공개하지 않습니다. 보수적으로 노드가 전체 배치에서 초당 4,000개의 출력 토큰을 유지한다고 가정해 봅시다. 이는 시간당 1,440만 개의 출력 토큰이며, 시간당 $16이면 백만 출력 토큰당 약 $1.11에 해당합니다. 이는 가동률 손실도, 배포를 담당하는 엔지니어도, 트래픽이 줄어드는 유휴 시간도 반영하기 전의 수치입니다.

용량의 3분의 1로 돌리면—대부분의 실제 배포가 피크 시간 외에 하는 방식이다—실효 비용은 세 배가 된다. 솔직히 요약하면, Flash Base를 셀프 호스팅하는 비용은 노드를 얼마나 잘 채우느냐에 따라 백만 출력 토큰당 대략 1~3달러 사이이며, 이 범위는 Light DT의 $3.94를 걸치고 높은 활용률에서는 이를 여유 있게 앞지를 수 있다.

즉 Light DT의 가격 프리미엄은 무지에 대한 세금이 아니다. 그것은 그러한 계산을 하지 않아도 되는 데 대해, 그리고 캐시를 충분히 작게 유지해 100만 토큰 창을 계속 저렴하게 서비스할 수 있다고 주장하는 압축 방식에 대해 Baidu가 부과하는 비용이다. 트래픽이 변동이 심하거나, 볼륨이 낮거나, 대부분 긴 컨텍스트라면, $3.94를 지불하고 활용률 문제를 다른 누군가가 맡게 하는 것이 합리적인 선택이다.

라이선스, 바로 이 부분에서 Flash Base가 복잡해진다

Flash Base의 라이선스는 표준적인 허용형 라이선스가 아니며, 세 가지 조항이 어떤 벤치마크보다 더 중요합니다.

• 영역. 이 부여는 "유럽연합, 영국 및 한국을 제외한 전 세계 모든 지리적 지역"에 적용됩니다. 해당 영역 밖에서 가중치를 사용하거나 파생물을 배포하는 것은 부여된 권리 밖에 있습니다. EU 사용자, EU 추론 리전 또는 모델을 다루는 EU 직원이 있는 경우, 이는 각주로 넘길 사항이 아니라 변호사와 함께 주의 깊게 읽어야 할 차단 요인입니다.

• 매출 기준. 해당 모델을 사용하는 제품 또는 서비스와 관련된 연간 매출이 5천만 달러 미만인 경우 상업적 사용은 무료이며, Baidu에 일회성 통지를 해야 합니다. 그 이상인 경우 시작 전에 별도의 서면 상업적 승인을 받아야 하며, 성장하여 해당 기준을 초과하게 되는 경우에는 기준을 넘기 전에 승인을 받거나 영향을 받는 사용을 중단해야 합니다.

• 저작자 표시. 상용 제품은 쉽게 접근할 수 있는 곳—UI, 소개 페이지, 또는 API 및 백엔드 서비스의 경우 개발자 문서—에 정확히 "Powered by ERNIE"라는 문구를 표시해야 합니다.

또한 증류를 계획하는 사람이라면 누구나 주목할 만한 조항이 있습니다. 이 라이선스는 해당 자료나 그 출력물을 모델 자체 또는 그 파생 모델이 아닌 다른 AI 모델을 개선하는 데 사용하는 것을 금지합니다. 더 작은 학생 모델을 Flash Base의 출력물로 훈련하는 것은 허용 범위에 포함되지만, 다른 아키텍처를 그 출력물로 훈련하는 것은 포함되지 않습니다.

Light DT는 라이선스할 가중치가 없기 때문에 이런 문제가 전혀 없습니다. 여러분이 받는 것은 서비스 이용약관과 요금표뿐이며, 이는 법무팀이 다뤄야 할 범위가 훨씬 작고 야심이 개입할 여지도 훨씬 작습니다.

역량: 각 항목이 별도의 설정 없이 무엇을 하고 무엇을 하지 않는지

• 추론 제어 — Light DT는 네 가지 노력 수준(max, high, low, none)을 제공하며 기본값은 max입니다. Flash Base에는 추론 모드가 전혀 없습니다. 이는 완성 모델이며, 추론 동작은 직접 학습시켜야 하는 것입니다.

• 도구 호출 — Light DT는 강제 도구 선택, 구조화된 출력 및 JSON 응답 형식을 갖춘 함수 호출을 지원합니다. Flash Base는 이를 기반으로 구현하는 모든 것을 지원합니다.

• 모달리티 — 둘 다 텍스트 입력, 텍스트 출력입니다. 어느 쪽도 이미지를 받지 않으며, 스캔한 문서를 대신 읽어 주지도 않습니다.

• 긴 컨텍스트 — Light DT는 압축 캐시 설계를 통해 1,024,000 토큰을 지원한다고 내세웁니다. Flash Base는 파인튜닝과 추론 중 1M을 지원하지만, 8개 카드에서 그 정도 길이를 사용할 때는 KV 캐시 예산이 실질적인 제약 조건이며, Baidu가 Flash 자체 어텐션에 내장한 압축 — 43개 레이어 중 37개에 적용된 Heavily Compressed Attention — 이 애초에 이를 가능하게 만드는 요소입니다.

• 평가 — Flash Base는 전체 벤더 표를 공개합니다. MMLU 93.3, MMLU-Pro 78.4, GPQA 60.2, HumanEval+ 82.3, LiveCodeBench 40.1, HELMET-RAG 71.5, LongBench-v2 48.7이며, 하나의 파이프라인에서 DeepSeek-V4-Flash-Base, Hy3-preview-Base, MiMo-V2.5-Base와 비교 측정한 값입니다. 이는 Baidu가 직접 실행한 Baidu 자체 수치이므로 그렇게 해석해야 합니다. Light DT는 아무것도 공개하지 않습니다.

그 마지막 문장이 구매자에게 가장 중요한 비대칭성입니다. Flash Base는 최소한 그 주장을 확인할 수 있게 해 줍니다 — 가중치를 다운로드하고, 직접 평가를 실행하고, 공급업체 표가 당신의 데이터에서도 성립하는지 확인해 보세요. Light DT는 메커니즘을 믿고 받아들이라고 요구합니다. 이용 가능한 유일한 증거가 한 단락의 제품 홍보 문구뿐이기 때문입니다.

라우터가 적합한 경우와 그렇지 않은 경우

이 두 모델은 현재 OrcaRouter의 카탈로그에 없으며, 그렇지 않다고 말하는 것은 독자에게 일주일을 잃게 만들 수 있는 종류의 일입니다. 라우터가 실제로 바꾸는 것은 결정의 형태입니다.

Flash Base 경로를 택한다면, 품질은 측정할 수 있지만 서빙 비용은 고칠 수 없는 모델에 자본과 인력을 투입하는 것입니다. 그리고 합리적인 아키텍처는 노드가 가득 차거나, 배치가 콜드 상태이거나, 평가 실행이 카드를 독점하는 날을 대비해 동일한 인터페이스 뒤에 호스팅 모델을 폴백으로 두는 것입니다. Light DT 경로를 택한다면, 뒤에 두 번째 제공자도 없고 가격이 바뀌어도 옮길 가중치도 없는 단일 벤더의 엔드포인트에 묶이는 것입니다.

어느 쪽이든 실패 방식은 같습니다. 대안이 얼마의 비용을 초래했을지 비교할 방법 없이 한 모델에 고정된 긴 컨텍스트 워크로드 말입니다. 모델별 가격표가 있는 라우팅된 엔드포인트가 해결하는 것이 바로 이것입니다 — 선택을 대신 해 주는 것이 아니라, 선택의 비용을 분기별이 아니라 요청별로 보이게 함으로써요.

어느 걸 고를까?

서빙 문제가 아니라 학습 문제가 있다면 ERNIE 5.5 Flash Base를 선택하세요. 280B 희소 시작점을 원하고, 이를 미세 조정할 계획이며, 사용자와 인프라가 EU, 영국, 한국 밖에 있고, 매출 기준 미만이거나 Baidu에 승인을 요청할 준비가 되어 있는 경우입니다. 공급업체 벤치마크 표는 방어 가능한 기준선을 제공하며, 가중치 덕분에 누구도 모델을 당신에게서 빼앗을 수 없습니다.

컨텍스트 창이 핵심이라면 ERNIE Light DT 1.0을 선택하세요. 압축 캐시를 통해 제공되는 100만 토큰, 조정 가능한 추론 예산과 도구 호출은 특정 작업—긴 검색 문서, 긴 에이전트 트랜스크립트, 장시간 실행되는 세션—을 위한 특정 제품이며, 캐시 예산을 직접 감당하지 않기 위해 토큰당 프리미엄을 지불하는 것은 합당한 거래입니다.

프롬프트가 짧다면 둘 다 선택하지 마세요. 요청당 8,000토큰이라면 양쪽의 아키텍처 이야기는 전부 무관하며, 백만 입력 토큰당 $1.13은 10분의 1 가격의 모델이 똑같이 잘할 일을 하는 값비싼 방법일 뿐입니다.