LFM2.5-24B-A2B-DSpark, Hugging Face에 공개 — Liquid AI는 아직 발표하지 않았다

Liquid AI의 가장 큰 모델에 대한 모델 카드에는 아직도 추측 디코딩 드래프터가 출시 예정이라고 적혀 있다. 이 드래프터는 나오지 않는다. LFM2.5-24B-A2B-DSpark는 2026-10-19부터 공개 저장소, 655MB BF16 체크포인트, 전체 벤치마크 표, 다음 날 저녁에 공개된 GGUF 사이드카, 그리고 모델 카드에 적힌 SGLang용 실행 플래그를 보유해 왔다. 다만 공식 발표는 없다. LFM2.5-24B-A2B, 즉 이 드래프터가 가속하려고 존재하는 24B 전문가 혼합 모델은 2026-10-13에 블로그 게시물, 출시일이 명시된 런칭, 가격표, 플레이그라운드 링크를 받았다. 그 드래프터는 저장소와 모델 카드를 받았고, Liquid AI 자체의 추측 디코딩 문서 페이지에는 여전히 1.2B, 2.6B, 8B, VL-3B 대상만 지원되는 것으로 나와 있다. 이와 같은 출시의 이면에 있는, 문서화된 AI 실패 및 에이전트 사고는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급, 이의 제기 플래그가 포함되어 있다.

그 격차가 바로 여기서 중요한 이야기이며, 그것이 무엇을 의미하고 무엇을 의미하지 않는지 정확히 짚을 가치가 있다. 가중치가 공개되어 있고, 모델 옆에 있는 CSV만으로 벤치마크를 재현할 수 있으며, 추론 경로가 이미 업스트림에 병합되어 있는 저장소는 유출이 아니라 실제 릴리스다. 그러나 이에 대해 벤더가 글로 확인한 바는 없고, 제3자가 측정한 적도 없으며, 모델 카드에 있는 수치는 그들이 선택한 동일한 하드웨어에서 측정한 같은 팀의 수치다. 이 글은 두 가지를 구분한다. 저장소가 입증하는 것과 여전히 주장에 머무는 것.

저장소에 실제로 무엇이 들어 있나요?

체크포인트는 작아서 파일 목록 자체만으로도 정보가 충분합니다. 전체는 하나의 model.safetensors 파일로, 655,421,522바이트 — BF16 기준 327.7M 파라미터 — 에 구성 파일, 라이선스, 벤치마크 디렉터리가 더해진 것이 전부입니다. 그 외에는 아무것도 없습니다. 토크나이저도, 임베딩 행렬도, LM 헤드도 없습니다. 아키텍처가 로드 시점에 대상 모델에서 세 가지 모두를 재사용하기 때문입니다. 이것이 설계입니다. 드래프터는 대상 모델의 어휘 안에서 다음 토큰 블록을 추측하는 방법만 알면 되고, 세상을 표현하는 방법은 알 필요가 없습니다.

구성은 8월 DSpark 설명문에서 묘사한 형태를 확인해 줍니다. 은닉 크기 2,048, 중간 크기 6,144의 완전 어텐션 층 5개(SiLU/SwiGLU 사용); 헤드 차원 64에서 32개 헤드와 8개 KV 헤드를 갖는 그룹화된 쿼리 어텐션; 랭크 256 Markov 헤드와 별도의 신뢰도 헤드; 블록 크기 9; 어휘 128,000; 최대 위치 임베딩 131,072로, 이는 타깃의 컨텍스트 창과 정확히 일치합니다. 이 드래프터에만 해당하는 유일한 필드는 target_layer_ids: [2, 10, 18, 26, 34] 대비 num_target_layers: 40 — 드래프터가 은닉 상태를 컨텍스트로 읽는 24B 모델의 다섯 개 층입니다. 이 인덱스 때문에 한 LFM2.5 모델용으로 학습된 드래프터를 다른 모델에 그대로 적용할 수 없습니다.

라이선스는 lfm1.0이며, 패밀리의 나머지와 동일한 사용자 지정 라이선스입니다. 이는 내부적으로 사용하는 대신 대상 모델과 드래프터가 함께 묶인 아티팩트를 재배포할 계획이 있는 사람이라면 주목해 둘 만한 점입니다.

공급업체 표로 읽은 벤치마크 표

이 카드는 단일 NVIDIA B300에서 FP8 타깃, BF16 KV 캐시, temperature 0으로 동시성 1, 32, 256에서 여덟 개 데이터셋의 처리량을 공개합니다. 아래의 모든 수치는 Liquid AI 자체 측정값이며 회사 외부에서 재현된 적이 없습니다. 원시 행은 저장소의 benchmarks/b300-fp8.csv에 있으며, 직접 산술을 확인하려면 그곳을 보세요.

• 8개 데이터셋에 대한 산술 평균 — 동시성 1에서 2.38×, 동시성 32에서 2.69×, 동시성 256에서 1.71×.

• 최고의 단일 셀 — 동시성 32에서 MBPP 3.28×, MATH-500이 3.04×로 바짝 뒤따름.

• 최악의 단일 셀 — 동시성 256에서 LiveCodeBench 1.34×, 256에서 AIME 1.36×.

• 단계당 수락되는 토큰 — 평균 5.16으로, 블록 크기와 타깃의 보너스 토큰으로 설정된 상한 10에 대비합니다.

• 최고 수용률 — MBPP는 단계당 6.70토큰; 최저 — LiveCodeBench는 4.02.

그 표에 관해 헤드라인보다 더 흥미로운 점이 두 가지 있습니다. 첫째는 동시성 32에서 평균 속도 향상이 동시성 1보다 더 높다는 것입니다 — 2.69× 대 2.38× — 이는 배치 처리가 이점을 잡아먹는 일반적인 추측 디코딩 설명과 정반대입니다. 둘째는 256에서 무너진다는 점입니다. 동시 요청 256개에서는 대상 모델만으로도 해당 GPU에서 MATH-500에 대해 이미 초당 약 15,000토큰을 생성하고 있고, 드래프터의 기여는 1.79×로 떨어집니다. "2.4×"만 보고 판단하는 서빙 팀은 클러스터 규모를 잘못 산정할 것입니다. 배치 엔드포인트에서 중요한 숫자는 1.71×이며, 그마저도 대부분의 배포가 맞지 않을 동시성 프로필을 가진 B300 수치입니다.

8월 이후로 바뀐 문장

Liquid AI가 2026-08-20에 1.2B, 2.6B, 8B-A1B 타깃용 DSpark 드래프터를 출시했을 때, 블로그 글에서 강한 주장을 내놓았다. 타깃이 제안된 모든 토큰을 검증하고 거부된 토큰을 자체 선택으로 대체하기 때문에 "따라서 출력되는 시퀀스는 구조상 베이스라인 그리디와 동일하다"는 것이다. 8B 드래프터의 모델 카드는 이러한 취지를 되풀이하며 "정확히 동일한 출력"을 약속한다.

24B 드래프터의 카드에는 그렇게 적혀 있지 않습니다. 카드에는 대상 모델이 제안된 모든 토큰을 검증한다고 적혀 있으며, 이어서 다음과 같이 말합니다: “배치 검증과 일반 디코딩 간의 부동 소수점 차이로 인해 텍스트가 달라질 수 있으며, 그리디 샘플링에서도 마찬가지입니다.” 또한 측정값은 성능을 평가하는 것이지 작업 정확도를 평가하는 것이 아니라고 덧붙입니다.

이것은 더 신중한 문장이며, 옳은 문장입니다. 배치 검증은 순차 디코딩과 동일한 부동소수점 연산을 동일한 순서로 수행하지 않으므로, 비트 동일성은 정확한 산술에서는 성립하지만 실제 하드웨어에서는 항상 성립하지는 않는 가정입니다. 최신 카드가 그렇게 말하고 이전 카드는 그렇지 않다는 사실은 문서 수정이거나 이 드래프터를 훈련하는 중에 발견된 것 중 하나입니다 — 저장소는 어느 쪽인지 알려주지 않으며, Liquid는 설명을 공개하지 않았습니다. 실제로 의미하는 바는 좁지만 실질적입니다: 회귀 스위트가 모델 출력을 바이트 단위로 비교한다면, 이 드래프터를 추가하는 것이 이를 걸리게 할 수 있으며, 이는 드래프트의 버그라기보다 산술의 특성입니다.

드래프터가 자체 모델보다 6일 늦게 도착한 이유

타임라인을 짚어 볼 만한 이유는, 그것이 전략에 관한 어떤 추측보다도 그 침묵을 더 잘 설명해 주기 때문이다.

• 2026-08-20 — Liquid, DSpark 제품군을 공개: LFM2.5-1.2B-Instruct, LFM2.5-2.6B, LFM2.5-8B-A1B용 드래프터. 아직 24B 타깃은 존재하지 않음.

2026-08-31 — SGLang이 PR #31041을 병합하며 LFM2 및 LFM2-MoE DSpark 추측적 디코딩 지원을 추가합니다. 24B에 필요한 MoE 경로가 바로 여기서 도입되는데, 이는 해당 경로가 서비스하게 될 모델보다 한 달 반이나 앞선 시점입니다.

• 2026-10-13 — LFM2.5-24B-A2B가 블로그 게시물과 가격을 함께 선보이며 출시됩니다. 같은 날 SGLang은 PR #43939를 병합했으며, 이를 통해 서버가 Hugging Face LFM2-MoE 구성을 직접 재사용할 수 있습니다.

• 2026-10-19 — LFM2.5-24B-A2B-DSpark 저장소가 가중치와 벤치마크와 함께 등장합니다.

• 2026-10-20 — GGUF 사이드카 공개: llama.cpp용 단일 664MB F16 파일.

• 2026-10-21 — 대상 모델 카드에 드래프터 행이 추가됩니다. 여전히 출시 예정이라고 표시됩니다.

그 순서를 읽어 보면 가장 가능성 높은 설명은 시시한 쪽이다. 인프라가 아티팩트보다 먼저 배포되었고, 아티팩트는 학습이 끝났을 때 배포되었으며, 발표는 아직 일어나지 않은 마케팅 작업이다. 저장소 어디에도 의도적으로 조용히 출시했다는 암시는 없다. 카드는 완성되어 있고, 벤치마크는 프로토콜 수준까지 문서화되어 있으며, SGLang과 llama.cpp 호출 방식은 전부 적혀 있다. 여기서 조용하다는 것은 숨겨졌다는 뜻이 아니라 아직 발표되지 않았다는 뜻이다.

아직 알 수 없는 것은 무엇인가요?

이 글의 정직한 경계는 짧은 목록이며, 각 항목은 형식적인 것이라기보다 실제적인 공백이다.

독립적인 측정은 없습니다. Artificial Analysis 항목도, 제3자가 수행한 수용 테스트 실행도, 처리량 표의 재현도 없습니다. 2026-10-21 기준으로 해당 저장소에는 다운로드 7회와 좋아요 1개가 표시되었습니다. 이 글의 모든 속도 향상은 벤더가 선택한 GPU와 벤더가 선택한 목표 정밀도에서 벤더가 측정한 값입니다.

공지가 없으니, 프레이밍도 없습니다. Liquid가 이것을 24B에 대한 프로덕션 권장 사항으로 의도한 것인지, 아니면 연구용 결과물로 의도한 것인지는 알 수 없습니다. 카드의 어조 — 전체 출시 플래그, 패밀리 표, 연락처 링크 — 는 전자를 시사하지만, 그것은 추론일 뿐입니다.

가격이 없습니다. 가격이 존재할 수 없기 때문입니다. 드래프터는 서빙되는 모델이 아닙니다. 백만 토큰당 요율도 없고, 모델 카탈로그에 호출 가능한 엔드포인트로 등장할 일도 없습니다. 그 비용은 대상 모델 옆에 차지하는 655MB의 VRAM 또는 통합 메모리, 그리고 토큰 하나 대신 블록을 검증하는 추가 연산입니다.

Apple 실리콘 관련 수치는 없습니다. 이것이 가장 큰 격차이며, 다음 섹션에서 이 격차가 다른 것들보다 더 중요한 이유를 설명합니다.

빠져 있는 Mac 번호가 흥미로운 누락이다.

24B 모델은 온디바이스 모델로 판매된다. Liquid의 출시 게시물은 Apple M5 Max에서 초당 184토큰을 앞세우며, 온디바이스에서 빠르고 프라이빗한 에이전트를 위해 만들어졌다고 말한다. 반면 드래프터의 카드에는 B300 수치만 기재되어 있다. 8월의 8B 드래프터에 대해 Liquid는 H100과 M4 Max 결과를 모두 공개했고 그 사이의 격차에 대해 솔직했다. H100에서 2.54× 평균 속도 향상은 MacBook에서 1.18×가 되었다. Liquid가 밝힌 이유는 메커니즘상의 것이었다 — 검증하는 k 토큰은 단일 디코드 단계보다 더 많은 전문가를 활성화하므로, MoE 타깃은 검증된 토큰당 더 많은 가중치 트래픽을 지불하며, llama.cpp의 Metal 백엔드가 이를 더 악화시켰다.

LFM2.5-24B-A2B도 전문가 혼합(mixture of experts) 모델입니다. 블록당 64개 전문가에 top-4 라우팅을 사용합니다. 동일한 메커니즘이 적용되며, 24B는 더 큰 모델이고 페이징해 넘겨야 할 전문가 집합도 더 큽니다. 그렇다고 해서 온디바이스 속도 향상이 작다는 것이 입증되는 것은 아닙니다. 드래프터는 이 대상 모델을 위해 특별히 훈련되었고, 수용률은 처음의 8B보다 훨씬 좋습니다. 하지만 이는 노트북 사용자에게 필요한 바로 그 수치가 이 카드에는 없다는 것을 의미합니다. B300 비율이 Mac에도 그대로 적용된다는 가정은 미검증으로 취급하십시오.

실행해 보기, 그리고 당신의 발목을 잡을 단 하나의 플래그

GPU에서 공개된 레시피는 FP8 타깃과 드래프터가 연결된 SGLang이며, 블록 크기는 9이고 드래프트 토큰은 10개입니다. 설치된 SGLang은 PR #31041의 LFM2-MoE DSpark 경로와 PR #43939의 구성 재사용을 포함할 만큼 최신이어야 합니다. 구버전 빌드에서는 서버가 드래프터 아키텍처를 전혀 인식하지 못합니다. 벤치마크 수치는 FP8 타깃을 가정한다는 점에 유의하세요. BF16 타깃은 다르게 동작하며, 반드시 더 나은 것은 아닙니다. 드래프터가 특정 분포의 타깃 로짓에 맞춰 학습되었기 때문입니다.

CPU와 Apple 실리콘에서는 경로가 F16 GGUF 사이드카를 사용하는 llama.cpp입니다. 사이드카는 자체 메타데이터에서 블록 크기를 읽고, 그 크기로 클램프하는 대상은 --spec-draft-n-max이며, 따라서 드래프트 길이를 12로 설정해도 12가 되지 않습니다. 응답별 타이밍이 노출하는 값은 draft_n 및 draft_n_accepted이며, 자체 워크로드에서 주시해야 할 필드입니다: 트래픽에서의 수락률이 카드의 5.16 평균보다 훨씬 낮다면, 드래프터는 순전파 한 번을 소모하면서 거의 이득을 주지 못하므로, 정직한 선택은 이를 분리하는 것입니다.

이번 주에 모델을 선택하려는 경우 이것이 의미하는 바

대부분의 팀에게 실질적인 영향은 작습니다. 드래프터는 성능이 아니라 속도를 바꾸기 때문입니다. LFM2.5-24B-A2B는 프롬프트에 응답하는 쪽이고, 드래프터는 초당 그 응답을 몇 개나 받을 수 있는지만 바꿉니다. 지난주에 24B가 여러분의 후보 목록에 없었다면, 더 빨라진 버전이라고 해서 목록에 오르지는 않습니다.

이 모델이 후보 목록에 올라 있었다면, 드래프터는 셀프 호스팅의 명분을 강화할 뿐 API 사용 사례에는 아무것도 해주지 않습니다. 이 구분은 분명히 짚고 넘어갈 가치가 있습니다. 추측 디코딩(speculative decoding) 체크포인트는 호스팅된 엔드포인트를 호출하는 사람에게는 보이지 않습니다. 이를 붙일지 여부는 서빙 스택이 결정하기 때문입니다. 동등한 조건에서 비교할 수 있는 것은, 모델 자체를 달리 라우팅했을 대안들과 견주는 것입니다. 그리고 이를 Qwen3.6-35B-A3B 같은 모델 — Liquid가 8개 에이전트 작업 중 5개에서 벤치마크 대상으로 삼는 모델 — 과 비교해 평가하고 있다면, OrcaRouter는 그 비교 대상을 하나의 키 뒤에서 제공사 정가 대비 0% 마크업으로, 제공사 간 자동 페일오버와 함께 제공합니다. 저희는 현재 LFM2.5 제품군을 서빙하지 않으므로, 24B 자체는 벤더의 자체 API나 여러분의 GPU에서 가져와야 합니다. 저희가 제공하는 것은 두 번째 계약 없이 비교의 반대편을 확보하는 것입니다.

이 그림을 바꿀 수 있는 것은 무엇일까요?

이야기를 가장 크게 바꿀 수 있는 순서대로 세 가지입니다. Liquid의 블로그 글은 이것이 권장 프로덕션 페어링인지 연구용 릴리스인지에 대한 프레이밍을 정리해 줄 것입니다. 공개된 Mac 측정 결과는 24B가 겨냥한 청중에게 중요한 주장을 정리해 줄 것입니다. 그리고 temperature 0에서의 여덟 개 벤치마크 데이터셋이 아니라 실제 트래픽에 대한 독립적인 인수 테스트 실행이, 스텝당 5.16 토큰이 이 모델이 실제로 판매되는 지저분하고 길며 도구 호출이 포함된 프롬프트와 접촉해도 살아남는지 알려 줄 것입니다.

그때까지 저장소는 공개되어 있고, 가중치는 다운로드할 수 있으며, CSV는 바로 거기 있고, 공급업체 자체의 모델 카드는 그 소식을 찾아볼 곳으로는 가장 마지막에 봐야 할 곳이다. 릴리스가 처한 상태로는 이례적이지만, 그것은 실제 상태이며, 아무도 블로그 글을 쓰지 않았다고 해서 그 아티팩트가 덜 실제적이 되는 것은 아니다.