LFM2.5-24B-A2B vs LFM2.5-8B-A1B-DSpark: 이 중 하나는 실행할 수 있는 모델이 아니다

넣어 보세요: LFM2.5-24B-A2B와 LFM2.5-8B-A1B-DSpark를 비교 표에 넣으면, 단 한 칸도 채우기 전에 그 표는 거짓말이 된다. Liquid AI의 LFM2.5-24B-A2B는 2026년 10월 13일 출시된 언어 모델로, 파라미터 24.0B, 토큰당 활성 2.45B, 컨텍스트 131,072토큰이며 프롬프트에 답한다. LFM2.5-8B-A1B-DSpark는 2026년 8월 20일 출시된 3억 2770만 파라미터의 드래프트 체크포인트로, 그 자체로는 아무것도 답할 수 없으며 — 다른 모델인 LFM2.5-8B-A1B의 다음 토큰을 추측하고 그에 의해 검증받기 위해 존재한다. 이 둘을 혼동하는 것은 이번 릴리스가 잘못 읽히는 가장 흔한 단일 방식이며, 이 페이지의 나머지가 그것에 달려 있으므로 첫 문단에서 정리할 가치가 있다: 이들 중 하나는 백만 토큰당 가격과 에이전트를 가리킬 수 있는 Hugging Face 카드가 있고, 다른 하나는 다른 누군가의 추론 스택 안에 산다.

그런데 이 조합이 정말로 한 페이지를 할애할 가치가 있게 만드는 것은, 그것이 Liquid AI가 스스로를 위해 마련한 비교라는 점이다. LFM2.5-24B-A2B 모델 카드에는 24B용 DSpark 추측 디코딩 드래프트가 곧 출시 예정이라고 적혀 있다. 그것이 나오면, 이 페이지가 답하는 바로 그 질문이 사람들이 그것에 대해 던지게 될 질문이 될 것이다 — 데이터센터 GPU에서 8B 모델을 최대 3.18× 더 빠르게 만든 그 드래프트 기법이, 존재 이유 전체가 노트북인 24B 모델에서도 실제로 효과를 발휘할까? 8B 수치에는 이미 답의 윤곽이 담겨 있고, 그것은 헤드라인이 시사하는 윤곽이 아니다.

초안 체크포인트가 실제로 무엇인지, 세 문장으로

추측 디코딩은 저렴한 모델을 비싼 모델 앞에 배치합니다: 드래프터는 후보 토큰 블록을 제안하고, 실제 모델은 단일 순방향 패스에서 전체 블록을 검증하며, 동의하는 것은 무엇이든 유지합니다. 타깃이 제안된 모든 토큰을 확인하기 때문에, 그리디 디코딩에서의 출력은 타깃만 실행한 것과 비트 단위로 동일합니다 — Liquid의 표현을 빌리면 "구조적으로 무손실"이며, 이것이 드래프트를 프로덕션 스택에 안전하게 추가할 수 있는 이유입니다. LFM2.5-8B-A1B-DSpark는 의도적으로 작은 드래프터입니다: 5개의 어텐션 전용 레이어, 단계당 9개의 제안 토큰 블록, 그리고 타깃의 128,000개 토큰 어휘에 대한 마르코프 헤드를 갖추고 있으며, 채팅, 코드, 함수 호출 데이터로 15 에포크 동안 학습되었고, 체크포인트는 검증 손실이 아닌 수락률로 선택되었습니다.

그 마지막 세부 사항은 사소한 것이 아니다. Liquid 자체의 기술 문서는 더 큰 드래프트의 경우, 검증 손실이 "우리가 중요하게 여기는 벤치마크 통과가 더 이상 움직이지 않게 된 뒤에도 계속 개선된다"고 지적한다 — 이는 팀이 논문을 발표하는 것이 아니라 이것을 실제 서빙 환경에 출시하고 있을 때에만 나오는 종류의 문장이다.

두 스택, 차원당 한 줄

• 무엇인가 — LFM2.5-24B-A2B는 배포 가능한 추론 모델로, 텍스트를 입력받아 텍스트를 출력합니다. LFM2.5-8B-A1B-DSpark는 추측 디코딩(speculative decoding) 가속기일 뿐, 그 외에는 아무것도 아닙니다.

• 크기 — 토큰당 총 24.0B / 활성 2.45B, 40개 레이어 전반에 걸친 top-4 라우팅 방식의 64개 전문가(expert) 대비, 5개 어텐션 전용 레이어의 327.7M 드래프트 파라미터.

• 컨텍스트 — 24B의 경우 131,072 토큰으로, 이전 세대에서 두 배로 늘어났습니다. 드래프트는 타깃의 스트림에서 동작하므로 자체 컨텍스트가 없습니다.

• 추론 — 24B는 항상 <think> 블록 안에 명시적인 사고 연쇄를 출력합니다. 드래프트는 사용자가 결코 보지 못하는 어떤 것도 출력하지 않습니다.

• 가격 — Liquid의 Console에서 24B 기준 입력 토큰 백만 개당 $0.10(캐시 시 $0.05), 출력 백만 개당 $1.00이며, $2의 시작 크레딧이 제공됩니다. 초안 모델은 이를 제공하는 추론 제공자가 없기 때문에 가격이 없습니다.

• 라이선스 — lfm1.0은 두 경우 모두 해당: 기업의 연간 매출이 1,000만 달러를 넘을 때까지 무료로 다운로드, 파인튜닝, 상업적 배포가 가능하며, 그 이후에는 상업용 라이선스가 적용됩니다.

• 공개된 형식 — 14.5GB의 Q4_K_M부터 48GB BF16까지의 GGUF, 13.6GB의 QAT QAD-Q4_0, FP8, ONNX, 그리고 24B용 4/5/6/8비트 MLX; 드래프트용 Safetensors 및 GGUF, SGLang과 llama.cpp를 출시 첫날부터 지원.

모든 것을 결정하는 차원은 다섯 번째가 수정한 마지막 차원이다: 이들 중 하나는 토큰당 가격이 있고, 다른 하나는 자체 호스팅 모델의 토큰당 비용을 더 저렴하게 만들기 위해 설치하는 것이다. 둘은 결코 경쟁하지 않는다. 둘은 함께 쌓인다.

중요한 숫자들, 그리고 당신을 걱정하게 만들 하나

Liquid는 다섯 개 데이터셋에 걸쳐 배치 크기 1, temperature 0에서 DSpark 드래프트를 측정했습니다 — SGLang에서 BF16으로 구동한 80GB H100에서, 그리고 llama.cpp에서 실험적 Metal 커널을 사용해 FP16 GGUF로 구동한 M4 Max MacBook Pro에서. 모든 속도 향상은 동일한 하드웨어에서 단독으로 실행한 동일한 대상 모델과 비교한 것입니다. 이 모든 것은 벤더가 보고한 내용이며, 3개월이 지난 지금도 여전히 재현되지 않았습니다.

H100에서, LFM2.5-8B-A1B 대비:

• MATH500 — 3.18× (428 → 1,362 토큰/초, 수용 8.27) — 핵심 수치.

• MT-Bench — 3.02× (426 → 1,288 토큰/초, 수락률 8.52).

• MBPP — 2.64× (426 → 1,122) 및 HumanEval — 2.58× (426 → 1,100).

• GSM8K — 1.29× (385 → 496, 수용률 4.02) — 취약한 사례이며, 애초에 대상이 이미 더 빨랐던 경우라는 점에 주목하세요.

• 평균 — 2.54× (418 → 1,074 토큰/초).

M4 Max에서는 동일한 드래프트를 동일한 타깃에 대해 사용하면 다른 제품이 됩니다: MATH500 1.21× (93 → 112), GSM8K 1.44× (90 → 129), HumanEval 1.12× (91 → 101), MBPP 1.09× (89 → 97), MT-Bench 1.04× (87 → 90), 평균 1.18× (90 → 106).

두 목록을 나란히 놓고 읽으면 결론은 피할 수 없다. 드래프트 체크포인트는 모델이 애초에 염두에 두지 않고 만들어진 하드웨어에서는 속도를 끌어올리지만, 원래 겨냥했던 하드웨어에서는 거의 변화를 주지 못한다. 이는 Liquid의 구현상 버그가 아니라 병목이 자리한 지점의 문제다. 추측적 디코딩은 연산은 놀고 있고 메모리에 굶주려 있을 때 효과를 발휘하는데, 양자화된 1.5B 활성 MoE를 돌리는 M4 Max는 이미 메모리 대역폭 한계에 거의 다다라 있다. Liquid 스스로 결과의 나쁜 절반을 공개했기에, 3.18×라는 수치가 대다수 독자가 실제로 겪게 될 1.18×보다 훨씬 더 자주 단독으로 인용되어 온 것이다.

24B 페어링이 진정으로 열린 질문인 이유

곧 나올 LFM2.5-24B-A2B 드래프트에 관해서는 모델 카드에 적힌 "coming soon"이라는 말 외에는 아무것도 발표되지 않았으므로, 이어지는 내용은 보고서라기보다 문제의 윤곽에 대한 추론이다.

드래프트의 가치는 수용률에 의해 좌우되고, 수용률은 타깃이 얼마나 예측 가능한지에 의해 좌우된다. 항상 명시적인 사고의 연쇄(chain of thought)를 생성하는 추론 모델 — LFM2.5-24B-A2B가 바로 그렇고, Liquid는 이를 권장 temperature 0.1과 함께 제공한다 — 은 길고 국소적으로 예측 가능한 텍스트 구간을 내놓는다. 이는 9-token 블록에 이상적인 토양이다. 따라서 24B 드래프트의 상한은 높을 수 있으며, 카드 자체의 어휘 관련 설명도 도움이 된다: 24B는 8B 드래프터의 마르코프 헤드가 그 위에 구축된 것과 동일한 128,000-token 어휘를 사용하므로, 드래프트 헤드를 다른 토큰 공간에서 다시 구축할 필요가 없다.

상쇄 요인은 하드웨어다. 24B 모델이 제시한 엣지 결과는 Apple M5 Max에서 초당 184토큰이며, 더 큰 타깃은 블록이 통째로 수락되더라도 더 큰 검증 패스를 뜻한다. 8B 패턴이 그대로라면 — 여유 연산 자원이 있을 때는 큰 이득, 노트북에서는 작은 이득 — 24B 드래프트는 엣지 모델에 붙은 데이터센터 도구로 판명될 수 있으며, 이는 제품으로서 이상한 형태다. 이를 기대하며 "3.18×"를 인용하는 사람은 다른 모델, 다른 하드웨어, 다른 드래프트에서 측정된 수치를 인용하는 것이다.

비용, 그리고 셀프 호스팅을 아예 하지 않는 것이 나은 이유

한 가지 솔직한 복잡한 점이 있습니다: DSpark의 전체 가치 제안은 자체 호스팅 토큰당 처리량에 있으므로, 그 경제성은 자체 GPU 시간의 토큰당 비용으로 따져야 합니다. 반면 24B 모델은 공개 가격이 있습니다 — 백만 입력 토큰당 $0.10(캐시된 경우 $0.05), 백만 출력 토큰당 $1.00 — 이는 14.5 GB 양자화 체크포인트를 자신의 노트북에서 전혀 실행하고 싶지 않을 때 지불하는 비용입니다.

우리가 제공하는 것과 제공하지 않는 것을 분명히 하자면: 우리는 OrcaRouter에서 LFM2.5-24B-A2B나 LFM2.5-8B-A1B-DSpark를 제공하지 않습니다. 우리가 제공하는 것은 이 결정이 자꾸 마주치게 되는 오픈 웨이트 모델들입니다 — qwen/qwen3.6-35b-a3b, Liquid가 자사의 24B와 벤치마크 비교하는 모델로, 총 파라미터와 활성 파라미터가 약 50퍼센트 더 많으며, 여기에 google/gemma-4-26b-a4b-it, obsidian/gemma-4-26B-A4B 및 google/gemma-4-31b-it도 같은 스파스-오픈 계열에 있습니다. 14GB 다운로드와 추측 디코딩 스택을 제공자의 목록 가격에 0% 마크업으로 하나의 키 뒤에서 서빙되는 모델을 호출하는 것과 저울질하고 있다면, 그것은 우리 쪽에서는 오늘 오후에 실행할 수 있고 그들 쪽에서는 추정만 할 수 있는 비교입니다.

오늘 두 사람과 무엇을 할까

호출할 모델을 원한다면 답은 LFM2.5-24B-A2B이며, DSpark 체크포인트는 당신과 상관없습니다. 이는 특정 8B 모델 하나만 가속하고, 둘 중 어느 것도 서빙하는 제3자 플랫폼은 없습니다. 이미 GPU에서 LFM2.5-8B-A1B를 셀프 호스팅하고 있다면, 드래프트는 출력을 전혀 바꾸지 않으면서 처리량을 공짜로 늘려 주는 배수이며, 평균 2.54×는 실질적인 서빙 비용 절감입니다. Mac에서 셀프 호스팅한다면 평균은 1.18×이고, 솔직히 해석하면 드래프트의 가치는 출시 헤드라인이 시사하는 것의 약 10분의 1에 불과합니다.

주목할 것은 아무도 공개하지 않은 24B 드래프트의 등장 시점이 아니다. 그것이 두 체제 중 어디에 속하는지다. Liquid가 Apple 실리콘에서 2배를 웃도는 평균을 발표한다면, 추측 디코딩은 선을 넘은 것이고 엣지 티어의 실행 비용이 정말로 더 저렴해진다. 만약 노트북 평균 없이 피크 수치를 발표한다면, 8B 결과가 처음부터 답이었던 셈이다: 이 기법은 유휴 연산이 있는 곳에서 효과를 발휘하는데, 배터리로 24B 전문가 혼합을 구동하는 기계에는 남는 연산이 없다.

이와 같은 비교는 또한 실패 모드가 드러나는 지점이기도 합니다: 이 등급의 모델 뒤에 있는 문서화된 AI 사고와 에이전트 실패는 the OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 여부 플래그가 포함되어 있습니다.