Hy-Memory-30B-A3B vs LFM2.5-24B-A2B: 두 희소 전문가, 그중 하나만 당신의 머신에서 실행됩니다

Hy-Memory-30B-A3B와 LFM2.5-24B-A2B는 누가 그것을 운영할지에 대해 의견이 다른 두 회사가 만든 같은 아이디어입니다. 둘 다 200억대 중반 규모의 희소 전문가 혼합(MoE) 모델로, 토큰당 20억~30억 개의 매개변수가 활성화됩니다 — Hunyuan 팀의 메모리 라이터는 총 30B, 약 3B 활성으로, 오픈소스로 공개되었으며, 그 날짜는 2026년 10월 15일이며, Liquid AI의 온디바이스 에이전트 모델은 총 24.0B, 2.45B 활성으로 출시되었으며, 그 날짜는 2026년 10월 13일이고, Liquid는 14.5GB의 Q4_K_M GGUF와 13.6GB의 양자화 인식 학습(quantisation-aware-trained) 빌드를 전체 정밀도 가중치와 함께 출시했습니다. 그 팀은 60.1GB BF16 체크포인트 하나를 출시했고 양자화된 대안은 전혀 없었습니다. 숫자만으로는 이것이 현장에서 잘못된 적이 있는지 알 수 없습니다: 이 등급의 모델과 관련된 문서화된 AI 사고와 에이전트 실패는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 플래그가 포함되어 있습니다.

그 패키징의 차이는 스케줄링상의 우연이 아니며, 이를 제대로 읽으면 두 벤치마크 표 중 어느 것보다도 두 모델에 대해 더 많은 것을 알려준다. 또한 이는 이 둘이 흔히 잘못된 이유로 비교되는 이유이기도 하다 — 사람들은 두 카드 모두에서 "small sparse MoE"를 보고 같은 배포 슬롯을 두고 경쟁한다고 가정한다. 그렇지 않다. 하나는 당신의 노트북에 있는 에이전트 프레임워크 안에 있고 싶어 한다. 다른 하나는 당신의 서버에 있는 메모리 파이프라인 안에 있고 싶어 하며, 두 작업은 거의 겹치지 않는다.

그들이 진정으로 공유하는 단 한 가지

둘 다 희소합니다. 둘 다 방대한 파라미터 수를 상주시킨 채, 토큰마다 그중 작은 일부만 읽습니다. 그것이 두 아키텍처가 겹치는 부분의 전부이며, 희소성이 무엇을 주고 무엇을 주지 않는지는 짚고 넘어갈 가치가 있습니다. 이 규모급에서 가장 일관되게 오해받는 속성이기 때문입니다.

24B-A2B 체크포인트는 24억 5천만 개 매개변수 분량의 메모리에 들어가지 않습니다. 파일의 모든 매개변수는 로드 가능해야 합니다. 활성 수치가 얻어 주는 것은 토큰당 처리량이지, 메모리 점유가 아닙니다. Liquid의 자체 카드는 이 점을 분명히 밝힙니다 — 이 모델은 240억 개 매개변수 체크포인트이며, 이를 실행한다는 것은 어딘가에 240억 개 매개변수를 보유한다는 의미입니다. "2.45B 활성"을 읽고 작은 머신을 찾는 사람은 안 좋은 오후를 보내게 될 것입니다. Hy-Memory-30B-A3B의 3B 활성 수치가 60 GB BF16 파일과 대비되는 경우에도 마찬가지입니다.

그 공통된 속성 외에는, 둘은 중요한 거의 모든 축에서 서로 갈라진다.

저 저장소가 무엇인지 주목하십시오. 별도의 GGUF 저장소를 공개하는 공급업체는, 자사가 제공하는 모델이 누군가 이미 소유한 하드웨어에서 다운로드되어 실행되도록 의도되었다는 점을 가능한 가장 구체적인 방식으로 밝히는 것입니다. 그 저장소의 커밋 이력은 커밋 두 개뿐이고 며칠밖에 되지 않았습니다 — 이는 9개월 된 릴리스에 뒤늦게 덧붙인 부가물이 아닙니다.

사양을 나란히 비교, 패키징 행 포함

• 총 / 활성 파라미터 — Hy-Memory-30B-A3B는 총 30B, 약 3B 활성 vs LFM2.5-24B-A2B는 총 24.0B, 2.45B 활성.

• 레이어 구성 — Hy-Memory-30B-A3B는 48개 레이어, 즉 하나의 dense 블록과 top-8 라우팅을 사용하는 128개 전문가에 공유 전문가를 더한 47개 MoE 블록으로 구성된다; LFM2.5-24B-A2B는 40개 레이어로 동작하며, 그중 30개는 이중 게이트 단축 컨볼루션 블록이고 10개는 그룹화된 쿼리 어텐션이며, 각 MoE 블록은 top-4 라우팅으로 64개 전문가를 사용한다.

• 컨텍스트 — Hy-Memory-30B-A3B는 262,144개 위치, LFM2.5-24B-A2B는 131,072개로, 후자는 이전 세대의 32K에서 증가한 수치입니다.

• 가중치 풋프린트 — 51개의 BF16 샤드에 걸쳐 60.1 GB로, BF16에서는 48 GB와 대비되며, Q4_K_M GGUF는 14.5 GB, QAT QAD-Q4_0는 13.6 GB입니다.

• 라이선스 — Hy-Memory-30B-A3B는 Apache 2.0인 반면, LFM2.5-24B-A2B는 LFM1.0 라이선스를 따르는데, 이는 OSI 승인 라이선스가 아닌 맞춤형 허여 조건이므로 상업적 배포 전에 한번 읽어볼 가치가 있습니다.

• 학습 코퍼스 — LFM2.5-24B-A2B의 경우 128,000토큰 어휘로 16개 언어에 걸쳐 36T 토큰; Hy-Memory 카드에는 영어와 중국어가 명시되어 있으며 Hy-Memory-30B-A3B의 토큰 수는 공개하지 않습니다.

• 문서화된 목적 — Mem0, MemOS, Hy-Memory 그리고 (제외된) EverMemOS 내부에서의 메모리 작성 대 실제 하네스 내에서 추론 추적, 도구 호출 및 에이전트형 강화 학습을 수행하는 온디바이스 에이전트.

• 공급업체가 공개한 양자화 — 없음 대 네 가지 형식.

마지막 행을 다시 보십시오. Liquid AI는 LFM2.5-24B-A2B의 GGUF, FP8, ONNX, MLX-4bit 빌드를 기본 가중치가 나온 지 며칠 만에 공개했고, 커뮤니티는 더 많은 빌드를 추가했습니다. 이는 한 벤더가 가능한 가장 구체적인 방식으로, 이 모델이 다운로드되어 로컬에서 실행되도록 의도되었다고 말하는 것입니다. Hy-Memory 릴리스는 그것을 결코 명시하지 않은 채 정반대를 말합니다: 하나의 정밀도, 하나의 포맷, 60 GB, 그리고 vLLM 0.31.0을 서빙하는 방법으로 지목하는 카드.

각각이 무엇을 하도록 훈련되었는지, 그리고 그것이 왜 같은 업무가 아닌지

LFM2.5-24B-A2B는 에이전트입니다. Liquid는 이를 답변 전에 항상 추론하고 도구를 잘 호출하는 빠르고 프라이빗한 실행자로 포지셔닝합니다 — 공개된 도구 사용 및 지시 준수 수치는 이 표에서 가장 강력한 부분이며, 그중에서도 IFEval 96.75와 IFBench 74.69가 특히 눈에 띕니다. 회사 자체 가이던스는 약점에 대해 솔직합니다. 지식이 많이 필요한 질문에 단독으로 투입하지 말고, 대신 검색이나 웹 검색과 함께 사용하라는 것입니다. 이는 행동하도록 만들어진 모델이며, 지식은 의도적으로 외부에 아웃소싱되어 있습니다.

Hy-Memory-30B-A3B는 전혀 행동하지 않는다. 그것은 대화를 읽고 메모리를 기록한다. 입력은 주고받은 대화이고 출력은 구조화된 레코드다 — Hy-Memory quickstart는 자기 완결적인 메모리 문자열 목록을 담은 JSON 객체를 요구하며, temperature 0.0에서 추론을 끈 채 실행된다. LFM2.5-24B-A2B가 과제를 완수했는지로 평가되는 반면, Hy-Memory-30B-A3B는 자신이 기록한 뱅크가 나중에 더 나은 답변을 만들어냈는지로 평가된다. 평가는 모델의 다운스트림에서 이루어지므로, Hy-Memory 표는 모델이 아니라 기록자를 비교한다 — 각 행은 기록자를 바꾸고 답변 모델, 판정자, 검색 구성 및 프롬프트는 고정한다.

대칭적이지 않은 증거 격차

두 숫자 세트는 모두 판매업체 자체의 것이다. 그러나 둘이 똑같이 유용한 것은 아니다.

Liquid AI는 동일한 vLLM 환경에서 자사 모델을 기준선들과 비교해 실행하고 그 결과 행들을 공개했다 — LFM2.5-24B-A2B 카드에는 동일한 하네스에서 Qwen3.6-35B-A3B 및 다른 모델들과의 직접 비교가 포함되어 있어, 적어도 표의 상대적 윤곽은 내적으로 일관되게 만든다. 그 주장은 GGUF를 가진 사람이라면 누구나 이번 주에 보급형 하드웨어에서 재현을 시도해볼 수 있다는 점에서 검증 가능하다.

Hy-Memory 평가는 다르게 설계되었고 확인하기 더 어렵습니다. 주요 매트릭스는 고정된 20% 서브샘플에서 실행되는데, 이는 각 벤치마크의 전체 세트가 아니라 비용 측면에서는 방어할 수 있는 선택이지만, 작은 차이에 기대려는 경우에는 정당화할 수 없는 선택입니다. 그리고 헤드라인이 기대는 것이 바로 작은 차이입니다: Hy-Memory-30B-A3B의 55.49 매크로 평균 대 Claude Opus 5의 54.62는 0.87포인트 차이입니다. MemOS 하네스에서는 격차가 0.01입니다 — 50.51 대 50.50. 한편 주장의 정점인, 홀드아웃 EverMemOS 하네스에서의 56.89는 가장 검증할 가치가 있는 단일 결과이자 아무도 실행하지 않은 결과입니다.

두 벤더 모두 이 두 모델에 대한 독립적인 점수를 가지고 있지 않습니다. LFM2.5-24B-A2B의 경우, 이는 이틀 된 불편함입니다. Hy-Memory-30B-A3B의 경우, 이는 하드웨어 문제와 복합적으로 작용합니다: 14.5 GB GGUF를 다시 실행하듯이 60 GB BF16 모델의 수치를 쉽게 재현할 수는 없습니다.

에이전트에게 기억과 입이 둘 다 필요하다면

실용적으로 해석하자면, 이 둘은 맞대결을 벌이는 경쟁자가 아니라 하나의 시스템 안에서 서로를 보완하는 존재이며, 배포 분담은 자연스럽게 도출된다는 것이다.

메모리 작성기는 짧은 출력으로 매 턴마다 실행됩니다 — 고빈도, 저복잡도, 반드시 결정적이어야 하는 워크로드입니다. 온디바이스 에이전트 실행기는 수행할 작업이 있을 때 호출되며, 계획을 세우고 도구를 호출해야 하고, 데이터 가까이에서 실행될 때 이점을 얻습니다. 서드파티 호출 없이 프라이빗 에이전트 스택을 구축하는 팀이라면 쓰기 경로와 행동 경로가 각각 훈련된 한 가지 일만 수행하는 두 개의 서로 다른 소형 모델이고, 둘 다 로컬에서 실행되기를 원할 수 있습니다.

바로 여기서 라우터에 관한 질문이 나옵니다. OrcaRouter는 200개 이상의 호스팅 모델을 0% 마크업으로 이용할 수 있게 해주는 단일 API 키이며, 라우팅 DSL은 여러 모델을 하나의 호출로 구성합니다. 이것이 바로 로컬에서 서빙되는 라이터와 호스팅된 프런티어 모델이 하나의 엔드포인트로 응답할 수 있게 하는 메커니즘이며, 백엔드가 저하될 때 자동 장애 조치가 이루어집니다. 여기에 적용되는 점을 정확히 말하자면, Hy-Memory-30B-A3B와 LFM2.5-24B-A2B는 둘 다 저희 카탈로그에 없으며 저희가 어느 쪽도 호스팅하지 않습니다. 두 모델로 가는 길은 체크포인트와 사용자 본인의 하드웨어입니다. 라우터가 담당하는 것은 읽기 경로와 그 주변의 계획, 그리고 호출 코드를 바꾸지 않고도 어떤 모델이 슬롯을 채울지 교체할 수 있는 능력입니다.

필요해지기 전에 해두면 좋습니다. 라우팅 테이블은 지금 작성하면 비용이 적게 들지만, 에이전트 프레임워크가 열 군데에 엔드포인트를 하드코딩한 뒤에 나중에 적용하려면 비용이 많이 듭니다.

그 카드는 그 차이를 공정하게 요약한 것이다. Liquid AI 자체의 설명에 따르면 LFM2.5-24B-A2B는 사용자가 있는 곳에서 실행되도록 만들어졌다. Hy-Memory 팀은 이에 상응하는 주장을 한 적이 없으며, Hy-Memory-30B-A3B 뒤에 있는 60 GB 파일은 정반대의 일을 한다.

무엇을 먼저 집을까요?

이번 주에 자신의 하드웨어에서 희소 중형 모델이 실행되는 모습을 보고 싶다면, LFM2.5-24B-A2B가 가장 먼저 살펴볼 만한 대상입니다 — 다운로드 용량은 14.5 GB이고, 라이선스는 읽어봐야 하며, 도구 호출 수치는 이 모델의 표에서 당신에게 가장 중요할 가능성이 높은 부분입니다.

에이전트가 대화가 거듭될수록 커지는 메모리 문제를 겪고 있다면, Hy-Memory-30B-A3B는 바로 그 문제를 정면으로 겨냥하고 있으며, 공개된 것 중에는 이와 비슷한 것이 전혀 없습니다. 시간을 배정하기 전에 하드웨어 예산부터 세우십시오.