
LFM2.5-24B-A2B vs Gemma 4 26B-A4B: 두 개의 희소 모델, 연산이 어디로 향하는가에 대한 두 가지 상이한 이론
- OrcaNEWOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 100만 토큰당 · 182 tok/s
- tencentNEWTencent: Hy4 Flash2026-11-16$0.02 / $0.07 100만 토큰당 · 356 tok/s
- GoogleNEWGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 100만 토큰당 · 87 tok/s
- AnthropicNEWAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 100만 토큰당 · 147 tok/s
- orcaNEWOrca: OrcaC2 1.02026-11-0737 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 100만 토큰당 · 92 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 100만 토큰당 · 135 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 100만 토큰당 · 81 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 100만 토큰당 · 117 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 100만 토큰당 · 110 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 100만 토큰당 · 66 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 100만 토큰당 · 42 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447지능
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 100만 토큰당 · 211 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929지능
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 100만 토큰당 · 109 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733지능
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 100만 토큰당 · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740지능
LFM2.5-24B-A2B와 Gemma 4 26B-A4B는 같은 아이디어를 두 번 반복한 것처럼 보인다. Liquid AI의 체크포인트는 2026년 10월 13일, 총 파라미터 240억 개에 토큰당 24억 5천만 개를 읽는 사양으로 출시되었다. Google DeepMind의 Gemma 4 26B-A4B는 총 252억 개에 토큰당 38억 개가 활성화되는 사양을 갖추고 있으며, 2026년 3월 11일 Hugging Face에 공개되었다. 둘 다 전문가 혼합(MoE) 모델이고, 둘 다 대략 250억 파라미터 체크포인트에 20억~40억 파라미터의 연산 예산을 붙인 형태이며, 두 벤더 모두 이 트레이드오프를 설명할 때 같은 문장을 꺼낸다 — 큰 모델은 메모리로, 작은 모델은 지연 시간으로 비용을 치른다. 그 거의 동일한 산술은 바로 이 비교를 제대로 해볼 가치가 있는 이유다. 왜냐하면 두 모델은 그다음 그 예산을 완전히 다른 것에 쓰기 때문이다. Gemma 4 26B-A4B는 이를 비전, 256K 컨텍스트, 광범위한 지식 기반에 쓰고; LFM2.5-24B-A2B는 이를 추론 트레이스, 도구 호출 하네스, 에이전트형 강화 학습에 쓴다. 형태는 같고 우선순위는 정반대다.
그 위에 또 하나의 비대칭이 얹혀 있다: LFM2.5-24B-A2B 벤치마크 표는 세 가지 베이스라인 중 하나로 Gemma-4-26B-A4B-it를 사용하므로, 이번만큼은 두 개의 출시 표를 나란히 놓고 추측하는 것이 아니다 — Liquid가 동일한 vLLM 환경에서 둘 다 실행해 그 행들을 공개했다.
둘 다 같은 것을 놓치고 있는데, 그것은 모두가 당연하게 여기는 것이다
이 두 모델이 가장 흔하게 만들어낼 법한 오해부터 시작하겠습니다. 두 모델 모두에게 같은 오해이기 때문입니다. 희소 전문가 혼합은 메모리 요구량을 줄여주지 않습니다. 체크포인트의 모든 파라미터는 메모리에 상주해야 합니다. 2.45B 또는 3.8B 활성 파라미터가 주는 것은 토큰당 처리량이지, 더 작은 메모리 풋프린트가 아닙니다. "2.45B active"를 보고 4 GB 머신을 선택하는 독자는 안 좋은 오후를 보내게 될 것입니다.
자체 카탈로그에서는 Gemma 4 26B A4B 체크포인트가 262,144 토큰 컨텍스트로 등록되어 있고, LFM2.5-24B-A2B 카드에는 131,072가 기재되어 있습니다. 디스크상 격차는 파라미터 수가 시사하는 것보다 더 큽니다. LFM2.5-24B-A2B는 Q4_K_M GGUF를 14.5GB로, QAT QAD-Q4_0을 13.6GB로 공개하며, BF16으로는 48GB입니다. Gemma 4 26B A4B는 bfloat16 safetensors를 49.9GB 샤드와 1.7GB 샤드로 공개하고, 양자화 인식 4비트 GGUF는 소형 가중치 파일과 별도의 멀티모달 프로젝션 파일을 짝지어 제공합니다. 어림잡아 말하면, 압축되지 않은 상태에서 약 14GB 대 약 50GB이며, 이는 총 파라미터 수가 10억 개 차이 나는 두 체크포인트에서 나온 것입니다. 그 차이는 파라미터 대표 수치가 아니라 어휘, 전문가 레이아웃, 멀티모달 스택에서 비롯되며, 이 글 전체에서 가장 실용적인 한 줄입니다.
사양 대조, 차원당 한 줄
• 총 / 활성 매개변수 — LFM2.5-24B-A2B 24.0B / 2.45B, 40개 레이어에 걸쳐 top-4 라우팅을 사용하는 64개 전문가. Gemma 4 26B-A4B 25.2B / 3.8B, 30개 레이어에 걸쳐 128개 중 8개의 활성 전문가와 1개의 공유 전문가.

• 컨텍스트 — 131,072 토큰 대 262,144 토큰, Gemma 4 26B A4B는 1,024 토큰 슬라이딩 윈도우와 로컬 및 전역 레이어를 교차 배치하는 하이브리드 어텐션을 사용하며, 마지막 레이어는 전역으로 유지합니다.
• 모달리티 — LFM2.5-24B-A2B는 텍스트 입력, 텍스트 출력입니다. Gemma 4 26B A4B는 텍스트와 이미지를 처리하며, 약 5억 5천만 개 파라미터의 비전 인코더를 갖추고 있습니다. 오디오는 더 작은 Gemma 4 크기에만 국한됩니다.
• 추론 — LFM2.5-24B-A2B는 항상 <think> 블록 안에 명시적인 사고 연쇄를 출력합니다. Gemma 4 26B A4B는 필수 추적이 없는 명령어 튜닝 범용 모델입니다.
• 어휘 — 128,000 토큰으로, 인플레이스 토크나이저 확장을 통해 이전 세대보다 두 배로 늘어난 반면, 다섯 가지 Gemma 4 크기 모두에서 공유되는 262K 제품군 어휘와 대비됩니다.
• 라이선스 — lfm1.0, 연간 매출 1,000만 달러까지 상업적 사용 무료, 그 이상은 상업용 라이선스가 필요합니다. Gemma 4 26B A4B는 Apache 2.0이며, 표준 라이선스 전문은 ai.google.dev/gemma/apache_2에 있고, Google의 금지 사용 정책이 라이선스 제한이 아닌 허용 사용 문서로 함께 명시되어 있습니다.
• 공개된 형식 — Liquid 모델의 경우 GGUF(Q4_K_M~BF16), FP8, ONNX 및 4/5/6/8비트 MLX; Gemma 크기의 경우 bfloat16 safetensors, 사전 학습된 체크포인트, QAT 4비트 빌드, llama.cpp-ready GGUF, 그리고 멀티 토큰 예측 drafter.
Liquid는 둘 다 실행했지만, 결과는 완전한 싹쓸이가 아니었다
LFM2.5-24B-A2B 출시 게시물은 Gemma-4-26B-A4B-it를 자사의 16개 벤치마크 표의 기준선 열에, Qwen3.6-35B-A3B 및 Nemotron-3.5-Lightning과 나란히 배치합니다. 네 열 모두 벤치마크별 생성 설정으로 vLLM에서 실행되었습니다. 아래의 모든 내용은 양측 모두 공급업체가 보고한 것입니다 — Liquid가 작성한 표에 담긴 Liquid의 수치입니다. 독립적인 평가는 아니지만, 적어도 단일 하네스이며, 이는 대부분의 모델 대 모델 페이지가 얻는 것보다 낫습니다.
에이전트 관련 행들은 일방적인 완승처럼 보인다: AutomationBench 27.69 대 5.46, ToolSandbox 80.71 대 72.09, LiveClaw 48.09 대 41.25, τ³-Bench Banking 8.04 대 4.54, BFCLv4 65.01 대 57.09. 지시 따르기도 같은 양상이다 — IFEval 96.75 대 92.00, IFBench 74.69 대 47.44, Multi-IF 84.38 대 82.19.
그다음, 어쨌든 Liquid가 공개한 표의 나머지 절반: PinchBench 83.18 대 77.12는 반대 방향으로 가고, 도구 호출에서의 어떤 승리보다 더 중요한 세 행도 마찬가지다. GPQA Diamond — 74.42 대 74.90, 대학원 과학의 최상위권에서 사실상 동일한 수준이다. OpenCode를 통한 SWE-Bench Verified — 51.00 대 25.80, Liquid 모델에 유리한 2대 1 차이로, 두 표를 통틀어 가장 놀라운 단일 수치다. SciCode — 32.71 대 35.42로, Gemma 크기 모델이 앞선다. 그리고 AA-Omniscience — −24.90 대 −59.39로, 여기서는 두 모델 모두 나쁜 점수를 받는데 Gemma 크기 모델은 두 배 이상 더 나쁜 점수를 받는다.
그것에 대한 두 가지 해석이 있는데, 솔직한 것은 두 번째다. 첫 번째는 2.45B 활성 에이전트 모델이 에이전트 작업에서 3.8B 활성 범용 모델을 능가한다는 것이며, 이는 그 모델이 하도록 만들어진 바로 그 일이다. 두 번째는 Gemma 4 26B A4B 열이 전반적으로 비정상적으로 약해 보인다는 것이다. 즉, 총 25.2B 파라미터와 3.8B 활성이 지시 따르기, 도구 사용 및 지식에서 2.45B 활성 모델보다 낮은 성능을 보이는 것은 Google 자체의 패밀리 테이블이 예측할 바가 아니며, 이는 모델이 서로 다른 생성 설정과 프롬프트를 통해 구동된다면 공유된 하네스가 벤치마크를 비교 가능하게 만들지 못한다는 것을 상기시켜 준다. 이 행들의 방향은 정보로서 의미 있게 여기고, 그 크기는 그렇지 않게 여겨라.
표에 아예 없는 것은 Gemma 4 26B A4B의 멀티모달 절반이다. 여기서는 비전 벤치마크가 불가능한데, LFM2.5-24B-A2B는 볼 수 없기 때문이다. 워크로드의 어느 부분이든 사용자로부터 이미지가 들어오는 경우, 이 비교는 시작하기도 전에 승자가 정해져 있으며, 그 승자는 더 새로운 모델이 아니다.
가격, 그리고 각 항목을 실제로 보유하는 데 드는 비용
LFM2.5-24B-A2B는 토큰당 가격이 있습니다: 입력 토큰 100만 개당 $0.10(캐시된 경우 $0.05), 출력 100만 개당 $1.00이며, Liquid 자체 Console에서 시작 크레딧 $2가 제공됩니다. Gemma 4 26B A4B는 벤더 정가가 전혀 없습니다 — Google은 이를 공개하지 않습니다 — 따라서 유일하게 정직한 비용 수치는 오픈 가중치를 호스팅하는 플랫폼이 부과하는 금액이며, 이는 호스트와 날짜에 따라 달라집니다.
그 비대칭성이야말로 한 공급업체의 엔드포인트를 코드에 직접 연결하는 대신 라우터를 거쳐야 하는 이유입니다. 기하학적 문제는 제쳐두고, 바로 이 지점에서 양쪽 모두를 확보하는 일이 중요해집니다. 저희는 Gemma 4 26B A4B 체크포인트를 두 개의 id로 제공합니다 — google/gemma-4-26b-a4b-it 그리고 obsidian/gemma-4-26B-A4B — 그리고 Liquid가 자사 표에서 사용하는 두 가지 가격 참조도 있는데, qwen/qwen3.6-35b-a3b 역시 그중 하나이며, 공급업체 정가에 0% 마크업으로 하나의 키 뒤에서 제공됩니다. 저희는 LFM2.5-24B-A2B는 제공하지 않습니다. 따라서 이 페이지의 실용적인 요약은 다음과 같습니다. Liquid 체크포인트를 내려받아 로컬에서 실행하고, 결정을 내리는 동안 Gemma 4 사이즈와 Qwen 기준선을 같은 키로 호출하세요. 그러면 어느 공급업체의 하네스 선택이 아니라 여러분 자신의 작업을 기준으로 비교하게 됩니다.


어느 것인지, 그리고 그 질문이 정말로 당신의 기계에 관한 것일 때
워크로드가 텍스트이고 에이전트가 계획을 세우고 도구를 호출하며 스스로를 설명해야 한다면, 다운로드할 것은 더 새로운 체크포인트입니다: Q4_K_M에서 14.5GB, 131K 컨텍스트, 명시적 추론, 그리고 바로 이 상대를 맞아 에이전트 관련 행에서 승리하는 벤치마크 표를 갖추고 있습니다. 작업에 이미지가 포함되거나, 128K가 아니라 256K 컨텍스트가 필요하거나, 추적해야 할 수익 조항이 없는 Apache 2.0 라이선스를 원한다면, Gemma 4 26B A4B는 LFM2.5-24B-A2B가 질문조차 하지 않는 질문에 답합니다 — 압축하지 않은 디스크 사용량이 약 3.5배에 달하면서요.
어느 모델도 해결하지 못하는 점은 둘 다 연산 바운드가 아니라 메모리 바운드이며, 두 벤더 모두 같은 방식으로 읽어야 한다는 것이다. Google의 패밀리 출시 글은 더 큰 두 Gemma 4 크기를 bfloat16 가중치로서 "단일 80GB NVIDIA H100 GPU에 효율적으로 들어간다"고 설명한다 — 이는 사실이면서도, 이 특정 빌드에 대한 측정이라기보다는 벤더 자신의 프레이밍이다. Liquid의 Apple M5 Max에서 초당 184토큰과 "온디바이스에서 비교 가능한 MoE보다 최대 1.7배 빠르다"는 주장 역시 재현 결과를 동반하지 않는다. 두 개의 희소 모델, 두 벤더, 하나의 공통된 지침: 이름에 있는 산수는 속도를 알려주고, 이름에 있는 그 무엇도 메모리를 알려주지 않는다.
이와 같은 비교는 또한 실패 모드가 드러나는 지점이기도 합니다: 이 등급의 모델 뒤에 있는 문서화된 AI 사고와 에이전트 실패는 the OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 여부 플래그가 포함되어 있습니다.
