‘LFM2.5-24B-A2B vs Gemma 4 26B-A4B’라고 적힌 히어로 타이틀 카드, ‘두 개의 희소 모델, 두 가지 서로 다른 예산’이라는 부제, 그리고 ‘LFM2.5-24B-A2B: 총 24.0B, 활성 2.45B, 텍스트 전용’과 ‘Gemma 4 26B A4B: 총 25.2B, 활성 3.8B, 텍스트 + 이미지’라고 적힌 두 개의 라벨이 붙은 패널, 오른쪽 아래에 합성된 OrcaRouter 로고.
Guides & Insights

LFM2.5-24B-A2B vs Gemma 4 26B-A4B: 두 개의 희소 모델, 연산이 어디로 향하는가에 대한 두 가지 상이한 이론

작성자

jinhao.song

게시일

최신 모델 · 20모든 모델 보기 →
벤치마크: Artificial Analysis · 매일 업데이트
모든 게시물로 돌아가기

LFM2.5-24B-A2B와 Gemma 4 26B-A4B는 같은 아이디어를 두 번 반복한 것처럼 보인다. Liquid AI의 체크포인트는 2026년 10월 13일, 총 파라미터 240억 개에 토큰당 24억 5천만 개를 읽는 사양으로 출시되었다. Google DeepMind의 Gemma 4 26B-A4B는 총 252억 개에 토큰당 38억 개가 활성화되는 사양을 갖추고 있으며, 2026년 3월 11일 Hugging Face에 공개되었다. 둘 다 전문가 혼합(MoE) 모델이고, 둘 다 대략 250억 파라미터 체크포인트에 20억~40억 파라미터의 연산 예산을 붙인 형태이며, 두 벤더 모두 이 트레이드오프를 설명할 때 같은 문장을 꺼낸다 — 큰 모델은 메모리로, 작은 모델은 지연 시간으로 비용을 치른다. 그 거의 동일한 산술은 바로 이 비교를 제대로 해볼 가치가 있는 이유다. 왜냐하면 두 모델은 그다음 그 예산을 완전히 다른 것에 쓰기 때문이다. Gemma 4 26B-A4B는 이를 비전, 256K 컨텍스트, 광범위한 지식 기반에 쓰고; LFM2.5-24B-A2B는 이를 추론 트레이스, 도구 호출 하네스, 에이전트형 강화 학습에 쓴다. 형태는 같고 우선순위는 정반대다.

그 위에 또 하나의 비대칭이 얹혀 있다: LFM2.5-24B-A2B 벤치마크 표는 세 가지 베이스라인 중 하나로 Gemma-4-26B-A4B-it를 사용하므로, 이번만큼은 두 개의 출시 표를 나란히 놓고 추측하는 것이 아니다 — Liquid가 동일한 vLLM 환경에서 둘 다 실행해 그 행들을 공개했다.

둘 다 같은 것을 놓치고 있는데, 그것은 모두가 당연하게 여기는 것이다

이 두 모델이 가장 흔하게 만들어낼 법한 오해부터 시작하겠습니다. 두 모델 모두에게 같은 오해이기 때문입니다. 희소 전문가 혼합은 메모리 요구량을 줄여주지 않습니다. 체크포인트의 모든 파라미터는 메모리에 상주해야 합니다. 2.45B 또는 3.8B 활성 파라미터가 주는 것은 토큰당 처리량이지, 더 작은 메모리 풋프린트가 아닙니다. "2.45B active"를 보고 4 GB 머신을 선택하는 독자는 안 좋은 오후를 보내게 될 것입니다.

자체 카탈로그에서는 Gemma 4 26B A4B 체크포인트가 262,144 토큰 컨텍스트로 등록되어 있고, LFM2.5-24B-A2B 카드에는 131,072가 기재되어 있습니다. 디스크상 격차는 파라미터 수가 시사하는 것보다 더 큽니다. LFM2.5-24B-A2B는 Q4_K_M GGUF를 14.5GB로, QAT QAD-Q4_0을 13.6GB로 공개하며, BF16으로는 48GB입니다. Gemma 4 26B A4B는 bfloat16 safetensors를 49.9GB 샤드와 1.7GB 샤드로 공개하고, 양자화 인식 4비트 GGUF는 소형 가중치 파일과 별도의 멀티모달 프로젝션 파일을 짝지어 제공합니다. 어림잡아 말하면, 압축되지 않은 상태에서 약 14GB 대 약 50GB이며, 이는 총 파라미터 수가 10억 개 차이 나는 두 체크포인트에서 나온 것입니다. 그 차이는 파라미터 대표 수치가 아니라 어휘, 전문가 레이아웃, 멀티모달 스택에서 비롯되며, 이 글 전체에서 가장 실용적인 한 줄입니다.

사양 대조, 차원당 한 줄

• 총 / 활성 매개변수 — LFM2.5-24B-A2B 24.0B / 2.45B, 40개 레이어에 걸쳐 top-4 라우팅을 사용하는 64개 전문가. Gemma 4 26B-A4B 25.2B / 3.8B, 30개 레이어에 걸쳐 128개 중 8개의 활성 전문가와 1개의 공유 전문가.

A capture of the Hugging Face model page for google/gemma-4-26B-A4B-it, showing the image-text-to-text pipeline tag, the Transformers and Safetensors formats, the gemma4 and conversational tags, the Apache 2.0 licence, and the card text stating that Gemma 4 models are multimodal, handling text and image input with audio supported on the E2B, E4B and 12B models, that the family spans a context window of up to 256K tokens across five sizes, and the architecture list covering reasoning, extended multimodalities, dense and MoE variants, and on-device optimisation.

• 컨텍스트 — 131,072 토큰 대 262,144 토큰, Gemma 4 26B A4B는 1,024 토큰 슬라이딩 윈도우와 로컬 및 전역 레이어를 교차 배치하는 하이브리드 어텐션을 사용하며, 마지막 레이어는 전역으로 유지합니다.

• 모달리티 — LFM2.5-24B-A2B는 텍스트 입력, 텍스트 출력입니다. Gemma 4 26B A4B는 텍스트와 이미지를 처리하며, 약 5억 5천만 개 파라미터의 비전 인코더를 갖추고 있습니다. 오디오는 더 작은 Gemma 4 크기에만 국한됩니다.

• 추론 — LFM2.5-24B-A2B는 항상 <think> 블록 안에 명시적인 사고 연쇄를 출력합니다. Gemma 4 26B A4B는 필수 추적이 없는 명령어 튜닝 범용 모델입니다.

• 어휘 — 128,000 토큰으로, 인플레이스 토크나이저 확장을 통해 이전 세대보다 두 배로 늘어난 반면, 다섯 가지 Gemma 4 크기 모두에서 공유되는 262K 제품군 어휘와 대비됩니다.

• 라이선스 — lfm1.0, 연간 매출 1,000만 달러까지 상업적 사용 무료, 그 이상은 상업용 라이선스가 필요합니다. Gemma 4 26B A4B는 Apache 2.0이며, 표준 라이선스 전문은 ai.google.dev/gemma/apache_2에 있고, Google의 금지 사용 정책이 라이선스 제한이 아닌 허용 사용 문서로 함께 명시되어 있습니다.

• 공개된 형식 — Liquid 모델의 경우 GGUF(Q4_K_M~BF16), FP8, ONNX 및 4/5/6/8비트 MLX; Gemma 크기의 경우 bfloat16 safetensors, 사전 학습된 체크포인트, QAT 4비트 빌드, llama.cpp-ready GGUF, 그리고 멀티 토큰 예측 drafter.

Liquid는 둘 다 실행했지만, 결과는 완전한 싹쓸이가 아니었다

LFM2.5-24B-A2B 출시 게시물은 Gemma-4-26B-A4B-it를 자사의 16개 벤치마크 표의 기준선 열에, Qwen3.6-35B-A3B 및 Nemotron-3.5-Lightning과 나란히 배치합니다. 네 열 모두 벤치마크별 생성 설정으로 vLLM에서 실행되었습니다. 아래의 모든 내용은 양측 모두 공급업체가 보고한 것입니다 — Liquid가 작성한 표에 담긴 Liquid의 수치입니다. 독립적인 평가는 아니지만, 적어도 단일 하네스이며, 이는 대부분의 모델 대 모델 페이지가 얻는 것보다 낫습니다.

에이전트 관련 행들은 일방적인 완승처럼 보인다: AutomationBench 27.69 대 5.46, ToolSandbox 80.71 대 72.09, LiveClaw 48.09 대 41.25, τ³-Bench Banking 8.04 대 4.54, BFCLv4 65.01 대 57.09. 지시 따르기도 같은 양상이다 — IFEval 96.75 대 92.00, IFBench 74.69 대 47.44, Multi-IF 84.38 대 82.19.

그다음, 어쨌든 Liquid가 공개한 표의 나머지 절반: PinchBench 83.18 대 77.12는 반대 방향으로 가고, 도구 호출에서의 어떤 승리보다 더 중요한 세 행도 마찬가지다. GPQA Diamond — 74.42 대 74.90, 대학원 과학의 최상위권에서 사실상 동일한 수준이다. OpenCode를 통한 SWE-Bench Verified — 51.00 대 25.80, Liquid 모델에 유리한 2대 1 차이로, 두 표를 통틀어 가장 놀라운 단일 수치다. SciCode — 32.71 대 35.42로, Gemma 크기 모델이 앞선다. 그리고 AA-Omniscience — −24.90 대 −59.39로, 여기서는 두 모델 모두 나쁜 점수를 받는데 Gemma 크기 모델은 두 배 이상 더 나쁜 점수를 받는다.

그것에 대한 두 가지 해석이 있는데, 솔직한 것은 두 번째다. 첫 번째는 2.45B 활성 에이전트 모델이 에이전트 작업에서 3.8B 활성 범용 모델을 능가한다는 것이며, 이는 그 모델이 하도록 만들어진 바로 그 일이다. 두 번째는 Gemma 4 26B A4B 열이 전반적으로 비정상적으로 약해 보인다는 것이다. 즉, 총 25.2B 파라미터와 3.8B 활성이 지시 따르기, 도구 사용 및 지식에서 2.45B 활성 모델보다 낮은 성능을 보이는 것은 G​oogle 자체의 패밀리 테이블이 예측할 바가 아니며, 이는 모델이 서로 다른 생성 설정과 프롬프트를 통해 구동된다면 공유된 하네스가 벤치마크를 비교 가능하게 만들지 못한다는 것을 상기시켜 준다. 이 행들의 방향은 정보로서 의미 있게 여기고, 그 크기는 그렇지 않게 여겨라.

표에 아예 없는 것은 Gemma 4 26B A4B의 멀티모달 절반이다. 여기서는 비전 벤치마크가 불가능한데, LFM2.5-24B-A2B는 볼 수 없기 때문이다. 워크로드의 어느 부분이든 사용자로부터 이미지가 들어오는 경우, 이 비교는 시작하기도 전에 승자가 정해져 있으며, 그 승자는 더 새로운 모델이 아니다.

가격, 그리고 각 항목을 실제로 보유하는 데 드는 비용

LFM2.5-24B-A2B는 토큰당 가격이 있습니다: 입력 토큰 100만 개당 $0.10(캐시된 경우 $0.05), 출력 100만 개당 $1.00이며, Liquid 자체 Console에서 시작 크레딧 $2가 제공됩니다. Gemma 4 26B A4B는 벤더 정가가 전혀 없습니다 — Google은 이를 공개하지 않습니다 — 따라서 유일하게 정직한 비용 수치는 오픈 가중치를 호스팅하는 플랫폼이 부과하는 금액이며, 이는 호스트와 날짜에 따라 달라집니다.

그 비대칭성이야말로 한 공급업체의 엔드포인트를 코드에 직접 연결하는 대신 라우터를 거쳐야 하는 이유입니다. 기하학적 문제는 제쳐두고, 바로 이 지점에서 양쪽 모두를 확보하는 일이 중요해집니다. 저희는 Gemma 4 26B A4B 체크포인트를 두 개의 id로 제공합니다 — google/gemma-4-26b-a4b-it 그리고 obsidian/gemma-4-26B-A4B — 그리고 Liquid가 자사 표에서 사용하는 두 가지 가격 참조도 있는데, qwen/qwen3.6-35b-a3b 역시 그중 하나이며, 공급업체 정가에 0% 마크업으로 하나의 키 뒤에서 제공됩니다. 저희는 LFM2.5-24B-A2B는 제공하지 않습니다. 따라서 이 페이지의 실용적인 요약은 다음과 같습니다. Liquid 체크포인트를 내려받아 로컬에서 실행하고, 결정을 내리는 동안 Gemma 4 사이즈와 Qwen 기준선을 같은 키로 호출하세요. 그러면 어느 공급업체의 하네스 선택이 아니라 여러분 자신의 작업을 기준으로 비교하게 됩니다.

A two-column scoreboard titled 'LFM2.5-24B-A2B vs Gemma 4 26B A4B — the scoreboard'. The left column, LFM2.5-24B-A2B, lists 24.0B total and 2.45B active parameters, a 131,072-token context, text-only input, SWE-Bench Verified 51.00, AutomationBench 27.69, and a Q4_K_M download of 14.5 GB. The right column, Gemma 4 26B A4B, lists 25.2B total and 3.8B active parameters, a 262,144-token context, text and image input, SWE-Bench Verified 25.80, AutomationBench 5.46, and bfloat16 weights of about 50 GB, above a footer reading 'Benchmark rows from Liquid AI's 2026-10-13 vLLM table, which ran both models; vendor-reported and unreproduced.' and the OrcaRouter logo composited bottom-right.A capture of OrcaRouter's own model page for google/gemma-4-26b-a4b-it, showing the 'Gemma 4 26B A4B' heading and the google/gemma-4-26b-a4b-it identifier, the vision, tools, JSON and reasoning chips, Google as the vendor with a 2026-04-03 date, the summary noting 25.2B total parameters with only 3.8B activating per token, and the 262K-token context row listing text, image and video input with a p50 time-to-first-token figure.

어느 것인지, 그리고 그 질문이 정말로 당신의 기계에 관한 것일 때

워크로드가 텍스트이고 에이전트가 계획을 세우고 도구를 호출하며 스스로를 설명해야 한다면, 다운로드할 것은 더 새로운 체크포인트입니다: Q4_K_M에서 14.5GB, 131K 컨텍스트, 명시적 추론, 그리고 바로 이 상대를 맞아 에이전트 관련 행에서 승리하는 벤치마크 표를 갖추고 있습니다. 작업에 이미지가 포함되거나, 128K가 아니라 256K 컨텍스트가 필요하거나, 추적해야 할 수익 조항이 없는 Apache 2.0 라이선스를 원한다면, Gemma 4 26B A4B는 LFM2.5-24B-A2B가 질문조차 하지 않는 질문에 답합니다 — 압축하지 않은 디스크 사용량이 약 3.5배에 달하면서요.

어느 모델도 해결하지 못하는 점은 둘 다 연산 바운드가 아니라 메모리 바운드이며, 두 벤더 모두 같은 방식으로 읽어야 한다는 것이다. Google의 패밀리 출시 글은 더 큰 두 Gemma 4 크기를 bfloat16 가중치로서 "단일 80GB NVIDIA H100 GPU에 효율적으로 들어간다"고 설명한다 — 이는 사실이면서도, 이 특정 빌드에 대한 측정이라기보다는 벤더 자신의 프레이밍이다. Liquid의 Apple M5 Max에서 초당 184토큰과 "온디바이스에서 비교 가능한 MoE보다 최대 1.7배 빠르다"는 주장 역시 재현 결과를 동반하지 않는다. 두 개의 희소 모델, 두 벤더, 하나의 공통된 지침: 이름에 있는 산수는 속도를 알려주고, 이름에 있는 그 무엇도 메모리를 알려주지 않는다.

이와 같은 비교는 또한 실패 모드가 드러나는 지점이기도 합니다: 이 등급의 모델 뒤에 있는 문서화된 AI 사고와 에이전트 실패는 the OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 여부 플래그가 포함되어 있습니다.