ERNIE-5.5-Flash-Base: 바이두, 280B 체크포인트 공개 후 사용 허용 범위 축소

2주 동안 ERNIE-5.5-Flash-Base에 대해 가장 눈에 띄는 점은 Baidu가 그것에 대해 얼마나 말을 아꼈는가였다. Hugging Face 저장소는 2026년 10월 21일에 등록되었고, README만 겨우 들어 있는 채로 11월 2일까지 사실상 비어 있었다. 첫 번째 가중치 샤드가 그날 아침 도착했고, 128개 부분으로 구성된 FP8 체크포인트는 다음 날 업로드를 마쳤다. Baidu가 실제로 무엇을 올렸는지 설명하는 기술 블로그와 모델 카드를 공개한 것은 11월 5일에 이르러서였다: 280B 파라미터의 희소 전문가 혼합(mixture-of-experts) 체크포인트로, 토큰당 14B가 활성화되며, 33.5조 토큰으로 처음부터 사전 학습되었다.

그날 아침까지 주 저장소는 네 번 다운로드된 반면, 좋아요 수는 50대 후반이었다. 두 숫자 사이의 격차는 이번 공개를 축소판으로 보여준다. 아주 많은 사람이 바이두의 두 번째 오픈 웨이트 행보를 지켜보고 있지만, 아직 가중치를 집으로 가져간 사람은 거의 없다.

망설임을 설명하는 두 가지가 있는데, 둘 다 그 주변의 이야기가 아니라 릴리스 자체의 속성입니다. 첫째는 이것이 베이스 체크포인트라는 점입니다 — 사전 학습의 끝이며, 중간 학습과 사후 학습이 없습니다 — 따라서 채팅 모델이 아니고 채팅 모델처럼 동작하지도 않습니다. 둘째는 라이선스입니다. Apache 2.0이 아니며, 유럽연합, 영국, 한국에는 적용되지 않고, 관련 매출이 연간 미화 5,000만 달러를 넘으면 상업적 조건이 바뀝니다.

Baidu가 무엇을, 어떤 순서로 공개했는지

저장소의 커밋 기록은 어떤 발표문보다 이 릴리스에 대해 더 명확하게 보여준다. 10월 21일의 최초 커밋. 10월 26일의 README가 있었고, 2분 뒤 폴더 업로드가 이어졌으며, 그다음 아키텍처 및 성능 이미지가 삭제되었다 — 누군가 페이지를 구성하는 과정에서 흔히 있는 변동이다. 구성 파일은 11월 2일 06:29에 도착했고, 가중치 샤드는 바로 그 뒤에, 128개 중 마지막은 다음 날 아침 09:00 전에 도착했다. 벤치마크와 아키텍처 수치는 11월 4일에 게시되었다. 로고, 토크나이저 조정, 그리고 최종 README 손질은 11월 5일, 블로그 게시물이 공개된 지 몇 시간 안에 이루어졌다.

그래서 순서는 이렇다. 가중치가 먼저, 문서가 두 번째, 발표가 세 번째다. 바이두는 출시 행사를 연출한 뒤 그 뒤따라 파일을 끌어내놓지 않았다. 280B 체크포인트를 인터넷에 올리고 나서 설명을 썼다. 이 점은 분명히 짚고 넘어갈 만하다. 중국어 보도에서 보게 될 틀—의기양양한 오픈소스 발표—은 11월 2일에 일어난 일이 아니라 11월 5일에 일어난 일을 말해 주기 때문이다.

두 개의 리포지토리가 존재하며, 이 분할은 평소보다 더 중요하다. baidu/ERNIE-5.5-Flash-Base는 FP8 혼합 정밀도 safetensors를 제공하고, baidu/ERNIE-5.5-Flash-Base-BF16는 동일한 체크포인트를 BF16으로 제공한다. 둘 다 게이트가 없고, 둘 다 텍스트 전용이며, 둘 다 동일한 280B 총 파라미터와 14B 활성 파라미터를 표기한다. 모델 내부에는 ECHO 파라미터라는 세 번째 가중치 세트가 존재하는데 — 0.36B 규모로 — Baidu는 이를 대표 수치에서 명시적으로 제외한다.

집계 기준은 같은 페이지에서 서로 어긋나기 때문에 명확히 짚고 넘어갈 가치가 있습니다. Baidu의 280B에는 입력 임베딩과 출력 헤드가 포함되며, 14B 활성화 수치는 출력 헤드는 세지만 임베딩 룩업은 세지 않습니다. Hugging Face 자체의 모델 크기 위젯은 286B로 표시하는데, 이는 같은 파일들에 다른 기준을 적용한 것입니다. 어느 쪽도 틀린 것은 아니며, 서로 조금 다른 질문에 답하고 있는 것입니다. 이 둘을 섞은 사양서는 숫자가 맞아떨어지지 않을 것입니다.

베이스 체크포인트는 챗봇이 아니며, 그 차이는 겉모습만의 문제가 아닙니다.

모델 카드에서 가장 중대한 한 줄은 가장 극적이지 않은 문장입니다. 바로 "중간 학습이나 사후 학습 이전, 사전 학습 종료 시점의 체크포인트"라는 것입니다. 바이두가 밝힌 목적은 도메인 적응, 명령어 튜닝, 강화학습 연구입니다. 이는 출발점이며, 출발점으로서 판매됩니다.

실제로 이것이 의미하는 것은, 그것을 채팅 제품에 넣고 ERNIE를 기대할 수는 없다는 것입니다. 이 카드는 채팅 완성이 아니라 /v1/completions 엔드포인트를 통해 이를 제공하며, 입력에 BOS 토큰이 필요하므로 토큰화는 add_special_tokens=True를 유지해야 한다고 명시합니다. 베이스 모델은 텍스트를 이어 씁니다. 지시를 따르거나, 요청을 거부하거나, 대화를 나누지 않습니다. 그렇게 하도록 가르친 것이 아무것도 없기 때문입니다.

아직 포스트트레이닝된 형제 모델도 없으며, 이 부분이 독자들이 벤치마크 수치를 볼 때 가장 자주 오해하는 지점입니다. 바이두의 블로그에 따르면 포스트트레이닝된 ERNIE 5.5 Flash는 "추후 공개될 예정"입니다. 현재로서는 존재하지 않습니다. 출시 자료에 명시된 Qianfan의 호스팅 API도 없고, 비교할 챗 모델도 없으며, Artificial Analysis에 ERNIE 5.5 Flash 행도 없습니다. 저는 11월 5일 모델 인덱스를 확인했는데, 거기에는 ERNIE 4.5 300B A47B와 ERNIE 5.0 Thinking Preview가 있을 뿐 5.5 라인업의 어떤 것도 없습니다.

그래서 5.5 Flash를 하나의 제품군으로서 솔직하게 설명하자면, 발표 당일 기준으로는 베이스 체크포인트 하나, 공개 가중치, 인스트럭트 모델 없음, 엔드포인트 없음입니다. 나머지는 모두 나중에 대한 약속입니다.

아키텍처 내부에서 간단히

Baidu는 긴 컨텍스트의 비용에 엔지니어링 노력을 쏟았고, 그 설계는 훈련해 보지 않아도 알아볼 수 있을 만큼 명료하다.

• 어텐션 — 43개 레이어 중 37개는 128개 토큰당 하나의 항목을 캐시하는 Heavily Compressed Attention을 사용하는 반면, 6개 레이어는 희소 어텐션(DSA)이 적용된 MLA를 통해 토큰 수준 접근을 유지합니다. 동일한 KV 캐시 예산에서 Baidu는 MLA와 결합된 HCA가 압축 희소 어텐션과 결합된 HCA를 능가한다고 보고합니다.

• 헤드 구조 — 비용이 낮은 128× 압축 HCA 레이어는 넓은 512차원 헤드를 사용하고, 비용이 큰 토큰 수준 MLA 레이어는 좁은 256차원 헤드를 사용한다. 헤드 너비는 각 레이어의 어텐션에 실제로 드는 비용에 맞춰진다.

• 전문가 — MoE 계층당 512개의 라우팅된 전문가가 top-10 라우팅과 하나의 공유 전문가를 사용하며, 은닉 폭의 절반인 2,048차원 잠재 공간에서 디스패치되고 결합됩니다. 로드 밸런싱은 보조 손실 없이 이루어집니다.

• 잔차 및 출력 — 네 개의 병렬 잔차 스트림을 갖춘 Manifold-Constrained Hyper-Connections가 표준 잔차 경로를 대체하며, 학습 가능한 구간별 온도를 가진 MultiMax 헤드가 어휘 분포를 더 선명하게 만듭니다.

• ECHO — 별도의 멀티 토큰 예측 모듈 대신, 백본 자체의 최종 레이어가 미래 토큰을 예측하며 추측 디코딩용 드래프트 모델 역할까지 겸합니다. 이것이 파라미터 수에 포함되지 않는 0.36B입니다.

• 토크나이저 — 약 201,000개의 BPE 항목이 있으며, 숫자는 최대 세 자리씩 묶여 오른쪽에서 왼쪽으로 토큰화됩니다.

컨텍스트 길이 이야기가 실질적인 핵심이다. 학습 시에는 128K, 미세 조정과 추론 시에는 1M이며, 공개된 구성에서 이미 1M 설정을 활성화할 수 있다. 이는 이 규모의 오픈 체크포인트로서는 정말로 큰 윈도이며, 바이두가 나중에 덧붙인 것이 아니라 아키텍처를 중심으로 구축한 역량이다.

벤치마크 표는 실제이며, 그것은 당신이 생각하는 숫자가 아닙니다.

Baidu는 시험, 지식, STEM, 추론, 다국어, 코드, 긴 문맥에 걸쳐 30개 행을 공개하며, 세 가지 동시대 베이스 모델과 비교한다: DeepSeek-V4-Flash-Base는 총 284B 및 활성 13B, Hy3-preview-Base는 295B 및 21B, MiMo-V2.5-Base는 310B 및 15B다. 네 모델 모두 동일한 프롬프트와 퓨샷 설정으로 하나의 평가 파이프라인을 통해 실행되었다 — 이는 표를 만드는 올바른 방식이며, 또한 이 표를 채팅 모델 옆의 리더보드에 그대로 넣을 수 없는 이유이기도 하다.

ERNIE-5.5-Flash-Base는 30개 행 중 24개에서 앞서 있습니다. 가장 중요한 격차는 코드와 시험형 지식에 있으며, 이 영역에서는 기본 모델 간 차이가 보통 작습니다:

• HumanEval+ (1-shot, Pass@1) — ERNIE 82.3 대 DeepSeek 69.5, Hy3 78.0, MiMo 74.4

• MMLU-Pro(5-shot, EM) — ERNIE 78.4 대 DeepSeek 69.2, Hy3 66.9, MiMo 65.7

• LiveCodeBench(1-shot, Pass@1) — ERNIE 40.1 대 DeepSeek 31.9, Hy3 33.5, MiMo 32.4

• RepoQA(0-shot, Pass@1) — ERNIE 91.7 대 DeepSeek 81.0, Hy3 91.3, MiMo 56.5

또한 여섯 개에서도 패배하는데, 그 여섯 개가 승리보다 더 많은 정보를 준다. ChineseSimpleQA에서는 DeepSeek가 75.3 대 ERNIE의 73.0으로 승리했다. 사고의 연쇄(chain-of-thought)를 적용한 BBH에서는 Hy3가 90.0 대 89.2로 승리했다. INCLUDE-lite는 79.8 대 79.5로 DeepSeek에 반올림 차이만큼의 석패를 당했다. FullStackBench에서는 Hy3가 56.7 대 54.6으로 승리했다. HELMET-Rerank에서는 60.0 대 56.2로 가장 큰 폭의 패배를 기록했다. InfiniteBench에서도 48.0 대 46.5로 DeepSeek에 패배했는데, 이는 장기 컨텍스트를 핵심 설계 목표로 삼았던 모델에게 뼈아픈 결과다.

그 수치들은 하나같이 Baidu 자체의 것이며, Baidu가 구성한 하네스에서 Baidu가 산출해 가중치와 함께 공개한 것이다. 제3자는 그중 어느 것도 재현하지 않았다. 이는 비난이 아니다. 나온 지 겨우 몇 시간 된 모델의 정상적인 상태이며, 바로 그 상태에서 벤더 표가 마치 측정값인 것처럼 가장 자주 인용된다.

실제로 유용할 비교는 아직 존재하지 않으며, 그것은 이 표가 권하는 비교가 아니다. 이것들은 모두 base 모델이다. 베이스 체크포인트에서 MMLU 93.3은 채팅 모델에서의 93.3이 아니며, 이를 — 사후 학습된 모델이 에이전트 및 추론 작업을 수행하는 것을 기준으로 계산되는 — Artificial Analysis Intelligence Index 점수 옆에 놓는 것은 범주 오류가 될 것이다. Baidu는 동일 범주 내의 신중한 비교를 발표했다. 그것을 읽는 모든 사람이 저지를 수 있는 실수는 이를 범주 간 비교로 취급하는 것이다.

실제로 사람들을 제지할 부분은 라이선스입니다.

발표 내용을 걷어내면, 이번 릴리스를 규율하는 문서는 ERNIE 5.5 Flash Base Model License Agreement v1.0입니다. 이 문서의 날짜는 2026년 11월 5일이며 — 라이선스 자체가 발표 날짜를 가장 확실하게 뒷받침하는 근거입니다 — OSI 승인을 받은 것이 아닌 맞춤형 계약입니다.

세 개의 조항이 대부분의 역할을 합니다.

• 영토. 이 허여는 "영토 내에서만" 이루어지며, 제1.11조는 영토를 전 세계 모든 지리적 지역으로 정의합니다. 다만 다음은 제외합니다: 유럽연합, 영국 및 대한민국. 제3.1조에 따른 재배포는 동일한 영토로 제한됩니다. 이 조항은 "오픈 웨이트"를 읽고 배포를 계획하는 회사에 가장 중요할 가능성이 높은 조항입니다.

• 미화 5,000만 달러 기준선. 비상업적 사용은 무료입니다. 상업적 사용도 관련 제품이나 서비스에서 발생하는 연간 매출이 미화 5,000만 달러 이하인 경우 무료이며, 단 최초 상업적 사용 전에 Baidu에 일회성 사용 통지를 보내고 "Powered by ERNIE"라는 정확한 문자열을 UI, 소개 페이지 또는 API 및 백엔드 서비스의 경우 개발자 문서 등 쉽게 접근할 수 있는 곳에 표시해야 합니다. 미화 5,000만 달러를 초과하는 경우 시작하기 전에 별도의 사전 서면 승인이 필요하며, 요금은 별도 계약으로 정해집니다.

• 매출이 어떻게 산정되는지. 섹션 1.7은 공동 지배하에 있는 모든 법인 — 지분 또는 의결권의 50% 초과 — 을 하나의 사업자로 합산합니다. 또한 관련 제품이 ERNIE와 함께 다른 모델을 사용하는 경우에도 해당 제품의 전체 매출을 산정합니다. 이 가중치에 닿는 트래픽 비중을 내세워 귀속 계산으로 임계값 아래로 내려갈 수는 없습니다.

바이두 자체의 역사와 대비된다는 점이 이것을 일상적인 소식이 아니라 뉴스 가치가 있는 사안으로 만든다. 2025년 6월 30일 공개된 ERNIE 4.5는 Apache 2.0 아래 열 가지 변형을 내놓았다. 진정으로 허용적인 라이선스로, 지역 제한도, 매출 기준도, 저작자 표시 문구도 없었다. 2025년 11월의 ERNIE 5.0은 완전히 반대 방향으로 가서 가중치를 전혀 공개하지 않았다. ERNIE-5.5-Flash-Base는 세 번째 입장이다. 내려받을 수 있는 가중치이되, "오픈"을 허가에 관한 진술이 아니라 가용성에 관한 진술로 만드는 조건 아래 제공된다.

이 모델을 상업적인 어떤 목적으로든 평가하고 있다면, 벤치마크 표를 읽기 전에 1.7절, 1.11절, 4절을 읽으십시오. 그 표는 이 모델이 무엇을 할 수 있는지 알려줍니다. 그 세 절은 당신이 그것을 알아내는 것이 허용되는지 알려줍니다.

실행에 필요한 것

가중치는 하드웨어에 대한 질문이 저절로 답이 나올 만큼 크고, 그 답이 터무니없지 않을 만큼 작습니다. FP8에서 280B 파라미터는 KV 캐시를 제외하고도 대략 280GB의 가중치입니다 — 측정값이 아니라 산술 계산이죠 — 이는 80GB 카드 네 장으로 구성된 4-GPU 노드에 들어가며, 128K 컨텍스트를 활성화하면 생각보다 여유가 빠듯해집니다. BF16 리포지토리는 이를 두 배인 대략 560GB로 늘리고 카드 여덟 장을 필요로 합니다.

Baidu는 두 가지 서빙 경로를 제공하며, 둘 다 시작하기 전에 알아둘 만한 마찰이 있습니다.

• SGLang — 사전 빌드된 이미지인 lmsysorg/sglang:dev-ernie-55-flash를 텐서 병렬 처리 4 및 어텐션 데이터 병렬 처리 4로 실행합니다. 고정된 릴리스가 아닌 개발용 태그입니다.

• vLLM — vLLM 0.32.0 및 Baidu 자체 vLLM-ERNIE 저장소에서 설치한 플러그인. 실행 플래그에는 FP8 KV 캐시, 전문가 병렬 처리, --moe-backend humming이 포함됩니다.

어느 경로도 한 줄 설치가 아니며, 특히 vLLM 경로는 특정 vLLM 버전과 Baidu가 유지 관리하는 플러그인에 고정됩니다. 이는 새로운 어텐션 및 MoE 구조를 가진 모델에서는 정상적인 일이며, 2주짜리 평가가 일주일 지연될지를 결정하는 종류의 세부 사항입니다. Megatron-Bridge 파인튜닝 예제가 같은 이유로 모델 카드에서 링크되어 있습니다. 이 체크포인트는 단지 서빙되는 것이 아니라 학습되는 것을 전제로 하기 때문입니다.

누가 다운로드해야 하고, 누가 기다려야 할까요?

{{1}}다운로드하세요{{/1}} 파인튜닝할 환경이 준비되어 있다면. 33.5T 토큰으로 학습된 280B-A14B 베이스 체크포인트는 1M 토큰 추론 윈도와, 매출 기준선 아래 및 제외 지역 밖에서 운용 가능한 상업 조건을 갖추고 있어 도메인 적응이나 RL 실행을 위한 진지한 출발점입니다 — 그리고 활성화 비율 덕분에 학습 및 서빙 비용은 280B가 아니라 14B를 따릅니다. Baidu가 어텐션과 KV 캐시에서 수행한 효율화 작업은 비슷한 품질의 덴스 모델에서 실행하기에 비싼 롱컨텍스트, 에이전틱 워크로드를 정면으로 겨냥합니다.

호출할 모델을 원한다면 기다려야 한다. instruct 버전도, API도, 독립적인 평가도 없다. ERNIE 5.5 Flash를 제품으로 필요로 하는 사람은 누구나 Baidu가 약속했지만 날짜를 밝히지 않은 post-trained 릴리스를 기다리고 있다.

그리고 어느 쪽이든 그 전에 지도를 확인하세요. 사용자, 법인 또는 인프라가 EU, 영국 또는 한국에 위치한다면, 이 라이선스는 다운로드 버튼이 암시하는 권리를 부여하지 않습니다.

팀의 진짜 질문이 "이걸 실행할 수 있나"가 아니라 "이게 우리가 이미 지불하는 것보다 더 나은가"라면, 실용적인 중간 경로가 있습니다. 필요한 비교는 교체하려는 호스팅 모델 및 오늘 호출할 수 있는 모델과의 비교입니다. OrcaRouter는 200개 이상의 모델을 하나의 API 뒤에 0% 마크업으로 제공하며 — 공급자 정가를 그대로 전달, 따라서 공급업체 가격 인하가 같은 날 반영됩니다 — 이는 현재 프로덕션 모델과의 비교 평가를 두 번째 계약 체결이 아니라 모델 문자열 변경 문제로 만들어 줍니다. 파인튜닝 후 자체 호스팅하려는 체크포인트의 경우, 라우팅 계층은 파인튜닝이 실제로 더 나은지 알아보는 동안 기존 모델을 계속 비교 대상으로 유지하는 방법이며, 그렇지 않을 경우 자동 장애 조치가 제공됩니다. ERNIE-5.5-Flash-Base는 OrcaRouter에 없습니다. 그것은 직접 실행하는 가중치 세트이며, 여기서 어떤 내용도 그 사실을 바꾸지 않습니다.

무엇을 볼까요?

흥미로운 변수는 기본 체크포인트가 좋은지 여부가 아니다 — Baidu 자체 수치로 보면 그것은 비교 대상이었던 기본 모델들과 경쟁력이 있으며 대부분의 행에서 이긴다. 변수는 Baidu가 후속 학습된 모델로 무엇을 하느냐인데, 바로 그 지점에서 라이선스 조건이 실제 제품에 구속력을 갖기 시작하고 독립적인 점수가 마침내 존재하게 되기 때문이다.

기억해 둘 만한 날짜가 두 개 있다. 첫 번째는 사후 학습된 ERNIE 5.5 Flash로, 바이두는 이것이 뒤따를 것이라고 말했지만 일정은 잡지 않았다. 두 번째는 그 30행 표의 어느 행이든 최초의 제3자 재현이 이루어지는 순간, 즉 수치가 바이두의 것이기를 멈추고 모두의 것이 되기 시작하는 순간이다. 그때까지 ERNIE-5.5-Flash-Base에 대한 정직한 요약은 이렇다. 바이두는 크고 신중하게 설계된 사전학습 체크포인트를 공개적으로 내놓았고, 그것을 정확하게 설명했으며, "오픈 웨이트"라는 표현이 흔히 함축하는 것보다 상당히 덜 개방적인 라이선스를 붙였다.