Hy-Memory-30B-A3B vs Granite 4.2 30B: 메모리 작성자와 추론자는 같은 구매가 아니다

Hy-Memory-30B-A3B와 Granite 4.2 30B는 둘 다 약 300억 개 파라미터이고, 둘 다 오픈 웨이트이며, 둘 다 Apache 2.0이고, 둘 다 서로 7주 이내에 공개되었습니다. 하지만 조달 스프레드시트가 알아볼 만한 어떤 의미에서도 이 둘은 서로의 대체재가 아닙니다. Hy-Memory-30B-A3B는 Hunyuan 팀이 2026년 10월 15일에 오픈소스로 공개한 모델로, 단 한 가지 일을 합니다. 즉, 장기 기억 프레임워크 내부의 쓰기 경로를 실행하여 에이전트가 무엇을 보존할지, 그리고 새로운 증거가 그것을 어떻게 덮어쓸지를 결정합니다. Granite 4.2 30B는 IBM이 Hugging Face에 2026년 8월 25일에 공개한 모델로, 선택 가능한 사고 모드와 도구 호출 기능, 그리고 최대 512K까지 확장할 수 있는 128K 컨텍스트를 갖춘 고밀도 범용 추론 모델입니다. 하나는 구성 요소이고, 하나는 어시스턴트입니다. 스코어보드가 측정하는 것과 실제 배포가 마주하는 것 사이의 이 간극이 바로 이 기록이 중요한 이유입니다. 이 등급의 모델과 관련해 문서화된 AI 실패 사례와 에이전트 사고들은 the OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목에는 자체 출처와 심각도, 신뢰 등급, 이의 제기 플래그가 함께 제공됩니다.

솔깃한 비교 — 그들의 벤치마크 표를 나란히 놓고 누가 이기는지 보는 것 — 는 잘못된 비교이며, 그것은 당신에게 돈을 잃게 만들 방식으로 잘못되어 있다. 그것들은 같은 작업에서 평가되지 않았고, 같은 방식으로 배포되지도 않았으며, 그중 하나는 대부분의 사람이 실행할 수 있는 형태로 다운로드할 수 없다. 다음은 실제로 무언가를 결정하는 비교다: 각각이 무엇을 위한 것인지, 각각이 하드웨어에서 당신에게 얼마의 비용을 들게 하는지, 그리고 당신에게 하나가 필요한지, 다른 하나가 필요한지, 아니면 둘 다 필요한지.

그들을 구분하는 축부터 시작하세요

Granite 4.2 30B는 dense 모델이므로, 토큰을 생성할 때마다 모든 파라미터를 읽습니다. 요청별로 선택할 수 있는 세 가지 추론 모드—전체 사고, 저노력, 없음—가 있으며, 샌드박스 내 터미널, 코드 실행, 웹 검색을 겨냥한 에이전트형 강화학습으로 후속 학습되었습니다. IBM의 카드는 SWE-Bench Verified 57.00, Terminal-Bench 2.1 29.24, AIME 2025 89.17, MMLU-Pro 77.60을 주장합니다. 이는 공급업체가 보고한 수치이며 독립적으로 재현된 것이 아닙니다, 그리고 이 모델은 두 달 되었는데, 독립적인 점수가 없는 것이 약간 눈에 띄기는 해도 치명적이지는 않다고 볼 만큼 오래되었습니다.

Hy-Memory-30B-A3B는 희소 모델로, 300억 개의 매개변수를 보유하지만 토큰당 약 30억 개만 읽으며, 단일 작업을 위해 학습되었다. Hy-Memory 카드는 이 모델이 Mem0, MemOS 및 Hy-Memory 내부의 범용 LLM을 대체한다고 설명한다 — 무엇을 유지할지, 이를 어떻게 정밀하게 표현할지, 새로운 증거가 영구 메모리 뱅크를 어떻게 갱신할지 결정한다는 것이다. 그런 다음 전적으로 학습에서 제외된 프레임워크인 EverMemOS에서 테스트되었는데, 이는 두 릴리스 중 실제 일반화 테스트에 가장 가까운 것이다. 대표적인 주장은 네 개의 하네스에서 매크로 평균 55.49로, Claude Opus 5의 54.62에 대비된다는 것이다.또한 벤더 보고 수치이며, 역시 재현되지 않았고 — Granite의 수치와 달리 — 전체 세트가 아니라 각 벤치마크의 고정된 20% 하위 표본에서 평가되었다.

그래서 이 점수들은 비교 대상이 아니다. Granite의 SWE-Bench Verified 57.00과 Hy-Memory의 매크로 평균 55.49는 서로 다른 종목에서 나온 숫자이며, 이 둘을 한 칼럼에 넣는 것은 산술의 거짓말이 될 것이다.

이 수치들이 어디에서 나온 것인지도 짚어볼 만하다. Hy-Memory의 수치는 가중치가 공개된 당일 제출된 기술 보고서 arXiv 2610.22196에 실려 있다 — 1차 출처가 공개되어 있고 읽을 수 있다는 점은 많은 출시 당일 표가 갖추지 못한 장점이다. 다른 쪽의 수치는 모델 카드에 실려 있다. 둘 다 벤더가 자기 숙제를 스스로 채점하는 셈이고, 어느 쪽도 다른 누구의 평가 하네스를 거치지 않았다.

사양, 차원별로

• 파라미터 — Hy-Memory-30B-A3B는 총 30B / 활성 약 3B MoE인 반면, Granite 4.2 30B는 대략 29B dense로 모든 토큰에서 모든 파라미터가 활성화됩니다.

• 레이어 구조 — Hy-Memory-30B-A3B는 48개 레이어로, 하나의 dense 피드포워드 블록과 47개의 sparse MoE 블록으로 구성되며, 각 블록은 top-8 라우팅 방식의 전문가 128개와 공유 전문가 1개를 사용합니다. 반면 Granite 4.2 30B는 GQA를 갖춘 표준 dense 디코더 전용 트랜스포머로, 32개의 어텐션 헤드와 8개의 키-값 헤드를 사용합니다.

• 컨텍스트 — Hy-Memory-30B-A3B의 구성 파일 기준 262,144개 포지션 vs Granite 4.2 30B의 네이티브 128K 및 확장 512K.

• 가중치 용량 — Hy-Memory-30B-A3B는 51개의 BF16 safetensors 샤드에 걸쳐 약 60.1GB인 반면, Granite 4.2 30B는 BF16 기준 약 29B(290억)개의 dense 파라미터를 가지며, FP8, NVFP4/MXFP4 및 GGUF 빌드도 함께 공개되었습니다.

• 양자화 옵션 — Hy-Memory-30B-A3B에는 없습니다. 팀은 BF16 체크포인트 하나만 공개했을 뿐 다른 것은 없습니다. Granite 4.2 30B에는 공식 FP8 빌드, 두 가지 4비트 형식, 그리고 여러 커뮤니티 배포자가 제공하는 GGUF 변환이 있습니다.

• 추론 제어 — Hy-Memory-30B-A3B는 reasoning_effort 스위치를 노출하지만 프로젝트 자체의 퀵스타트에서는 이를 no_think으로 temperature 0.0으로 실행합니다; Granite 4.2 30B에는 think 태그로 감싸진 전체 사고 연쇄를 포함한 세 가지 사고 모드가 있습니다.

• 라이선스 — 둘 다 Apache 2.0이므로, 법률 검토에서 그렇지 않으면 제기했을 두 가지 질문 중 하나가 사라집니다.

• 호스팅 가용성 — 두 모델 모두 호스팅된 공급업체 엔드포인트에서 제공되지 않습니다. Granite 4.2 30B의 카드에는 추론 제공업체가 나열되어 있고, Hy-Memory-30B-A3B의 카드에는 어떤 제공업체도 이를 배포하지 않는다고 분명히 명시되어 있습니다.

• 공개된 목적 — 범용 추론 모델과 맞붙는 메모리 작성자. 이것이 그 위의 모든 것을 결정하는 행이다.

실제로 선택이 이루어지는 곳은 바로 하드웨어입니다

다음은 스펙 시트가 감추고 있는 비대칭입니다.

Hy-Memory-30B-A3B는 BF16에서 60GB이며 양자화된 대안이 없습니다. 이는 노트북에서 평가할 모델이 아니고, 논문의 주장이 성립하는지 확인하려고 워크스테이션 카드 한 장에 띄워 볼 모델도 아닙니다. Hy-Memory의 수치를 확인하려는 팀은 그게 작동하는지 알기도 전에 현재 대략 소규모 프로덕션 배포에 준하는 하드웨어를 프로비저닝해야 합니다.

Granite 4.2 30B는 덴스 모델이지만, 오늘 실제로 실행할 수 있는 형태로 제공됩니다. FP8 및 4비트 빌드는 이를 단일 가속기 메모리 안에 들어가게 하고, GGUF 변환은 사람들이 이미 보유한 하드웨어에 사용 가능한 버전을 올려놓습니다. 그 팀은 그 빌드들을 의도적으로 출시했습니다. 네 가지 양자화 형식을 공개하는 벤더는, 이 모델이 데이터센터에서 임대되는 것이 아니라 이에 대해 읽고 있는 사람이 실행하기를 기대한다고 말하는 셈입니다.

그 모든 것이 Granite를 더 나은 모델로 만드는 것은 아니다. 그것은 Granite를 알아보는 데 더 저렴한 모델로 만든다.

직관적이지 않은 답: 이것들은 동일한 시스템에 속합니다.

장기 기억을 갖춘 에이전트는 두 기능 모두를 필요로 하며, 프레임워크 아키텍처는 이러한 분리를 이론적인 것이 아니라 명시적으로 드러낸다.

메모리 하네스는 쓰기 경로에서 작성자를 호출한다 — 매 턴마다 실행되고, 출력이 짧고, 결정론적이며, 사용자가 말하지 않은 사실을 절대 만들어내서는 안 된다. 그것이 Hy-Memory-30B-A3B의 전체 임무이며, no-think 설정의 3B 활성 모델은 그것에 딱 맞는 형태다: 호출당 저렴하다, 왜냐하면 호출이 많기 때문이다. Granite 4.2 30B는 그 자리를 두고 경쟁하지 않는다. 그것이 속한 곳은 읽기 경로와 그 주변의 추론이다 — 뱅크에 있는 것으로 무엇을 할지 결정하고, 계획하고, 도구를 호출하고, 답을 생성하는 것. 그것들은 밀집 추론 모델의 깊이가 그 무게만큼 가치 있는 프런티어 지향 호출이다.

두 모델, 매우 다른 두 가지 호출 프로필, 그리고 여기서 흥미로운 엔지니어링 질문은 하나의 키를 둘 모두 앞에 어떻게 배치하느냐입니다. 바로 그것을 위한 것이 라우팅 계층입니다. OrcaRouter의 라우팅 DSL은 여러 모델을 하나의 호출로 구성합니다. 쓰기 경로는 자체 호스팅된 Hy-Memory-30B-A3B 엔드포인트로, 읽기 경로는 호스팅된 프런티어 모델로 지정하고, 둘 모두를 하나의 API 키로 200개 이상의 모델 전반에서 구동할 수 있으며, 백엔드가 성능 저하를 보이면 자동 페일오버가 작동합니다. 이 두 모델 중 어느 것도 우리 카탈로그에 없으며 우리는 둘 중 어느 것도 호스팅하지 않습니다. 두 모델 모두의 가용성 경로는 여러분의 자체 하드웨어나 벤더 자체 채널입니다. 우리가 다루는 것은 나머지 절반, 즉 자체 호스팅 쓰기 모델 주변에 있는 호스팅 모델이며, 제공자 정가 대비 0% 마크업으로 제공합니다.

그 조합은 두 모델 중 어느 하나가 당신에게 프로덕션에 바로 쓸 수 있게 되기 전에 이해해 둘 가치가 있습니다. 쓰기 경로가 Hy-Memory-30B-A3B를 실행하든, 메모리 프롬프트를 덧붙인 범용 모델을 실행하든 아키텍처는 동일하기 때문입니다. 라우터는 어느 쪽이든 상관하지 않습니다. 나중에 하나를 다른 것으로 교체하는 일은 재작성이 아니라 라우팅 테이블 편집이어야 합니다.

어느 것을 먼저 봐야 할까요?

메모리 프레임워크를 갖춘 장기 실행 에이전트가 있고, 쓰기 경로가 현재 매 턴마다 실행하는 데 프런티어 가격을 지불하는 프런티어 모델이라면, Hy-Memory-30B-A3B는 둘 중 더 흥미로운 쪽이며 해결해야 할 구체적이고 정량화된 문제를 가진 쪽입니다. 가서 살펴보세요 — 다만 첫 번째 과제는 그것을 테스트할 하드웨어를 구축하는 것이고, 아직 어떤 제3자도 55.49를 확인하지 않았다는 점을 이해하고 가세요.

추론하고, 도구를 호출하며, 본인이 보유한 카드 한 장 안에서 실행되는 오픈 웨이트 모델 하나가 필요하다면, 이번 주에 평가해 볼 모델은 Granite 4.2 30B입니다. 출시된 지 두 달 되었고, 양자화 버전도 존재하며, 공개된 수치들은 재현되지 않았습니다 — 이는 중간 규모 오픈 모델에서 흔한 상태이며, 그 자체로 경고 신호는 아닙니다.

전체를 구축하고 있다면, 솔직한 답은 아마도 둘 다 필요하다는 것입니다. 각각이 설계된 두 가지 역할에서 말이죠. 그리고 흥미로운 작업은 둘 중 하나를 고르는 일이 아니라 둘 사이를 라우팅하는 일입니다.