Hy-Memory-30B-A3B vs Nemotron 3.5 Lightning 30B-A3B Base: 같은 세 글자, 서로 다른 두 객체

Hy-Memory-30B-A3B와 NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16는 동일한 파라미터 산술을 갖습니다 — 총 300억 개, 활성 30억 개 — 그리고 바로 그 지점부터 유사성은 더 이상 유용하지 않습니다. Hunyuan 팀의 모델은 2026년 10월 15일에 오픈소스로 공개되었으며, 완성된 제품입니다: Mem0, MemOS 및 Hy-Memory 내부에서 메모리 쓰기를 실행하도록 완전히 후처리 학습되었고, OpenAI 호환 서빙 레시피와 Claude Opus 5를 능가한다고 주장하는 벤치마크 표를 갖추어 제공됩니다. NVIDIA의 모델은 2026년 8월 11일에 공개되었으며, 제품이 전혀 아닙니다. 이름에 있는 "Base"라는 단어는 문자 그대로입니다 — 지도 미세 조정, 강화 학습, 증류 중 어느 것도 적용되지 않았습니다. 이것은 사전 학습된 원재료이며, 그 위에 여러분만의 후처리 학습 모델을 구축할 수 있도록 공개된 것입니다. 숫자가 말해 주지 못하는 것은 이 부류의 모델이 현장에서 잘못된 적이 있는지 여부입니다: 이 계열 모델과 관련된 문서화된 AI 사고와 에이전트 실패는 다음에 수집되어 있습니다: the OrcaRouter AI Incident Archive — 각 항목에는 자체 출처, 심각도, 신뢰도 등급 및 이의 제기 플래그가 포함되어 있습니다.

이름에 같은 숫자가 들어간 두 모델, 그중 하나는 사용되도록 설계되었고 다른 하나는 수정되도록 설계되었다. 가치 있는 비교는 어느 쪽이 더 높은 점수를 받는가가 아니다 — 둘은 공통적으로 평가된 것이 아무것도 없고, 그중 하나는 평가할 지시 따르기 행동 자체가 없다. 가치 있는 비교는 증거에 관한 것이다: 각 공급업체가 무엇을 공개했는지, 그중 얼마나 많은 부분을 스스로 확인할 수 있는지, 그리고 각 모델이 무엇이든 하기 전에 당신에게 무엇을 요구하는지.

각 모델이 실제로 무엇인지

Hy-Memory-30B-A3B는 특이한 역할을 맡은 기존의 희소 트랜스포머입니다. 구성 파일에는 48개 레이어가 기술되어 있는데, 첫 번째는 밀집 피드포워드 블록이고 나머지 47개는 전문가 혼합이며, 블록당 128개의 전문가가 top-8 라우팅으로 구성되고 단일 공유 전문가가 추가됩니다. 은닉 크기 2,048, 전문가 중간 너비 768, 쿼리-키 정규화와 함께 32개의 어텐션 헤드 대 4개의 키-값 헤드, 그리고 262,144 위치 컨텍스트를 갖춥니다. 대략 60.1GB가 51개의 BF16 샤드에 걸쳐 있습니다. 두 단계로 훈련되었습니다 — Memory On-Policy Distillation, 그다음 Attributed Memory Reinforcement Learning — 그리고 이 작업의 핵심 목적은 메모리 프레임워크가 현재 매 턴마다 호출하는 범용 모델을 대체하는 것이었습니다. vLLM 0.31.0으로 서빙되며, 에이전트가 기억해야 할 내용을 설명하는 구조화된 JSON 레코드를 반환합니다.

Nemotron 3.5 Lightning 30B-A3B Base는 하이브리드 머신이다. NVIDIA는 Mamba-2 상태 공간 블록을 전문가 혼합(mixture-of-experts) 및 어텐션 레이어와 교차 배치하고, 전용 지속 사전 학습 단계에서 훈련된 다중 토큰 예측(Multi-Token Prediction) 헤드를 추가했으며, 전체를 20조 개 이상의 토큰에 대해 NVFP4 레시피로 사전 학습했다. 하이브리드 스택의 핵심은 키-값 캐시다. Mamba-2 블록은 기존 트랜스포머의 캐시처럼 커지지 않도록 막아주며, 이 덕분에 NVIDIA는 최대 100만 토큰의 컨텍스트 길이를 내세울 수 있다. BF16, NVFP4, FP8 빌드로 제공되며, 여러 제3자가 제공하는 GGUF 변환 및 양자화도 있다. 라이선스는 OpenMDW-1.1로, 가중치와 학습 데이터, 레시피를 포괄한다 — 이는 일반적인 모델 라이선스보다 더 넓은 허여다.

파라미터 수가 일치하는 것은 사실이지만 피상적이다. 둘 다 토큰당 약 3B개의 파라미터를 활성화하는데, 이는 두 팀이 같은 방식으로 내린 유일한 설계 결정이다.

그 배너는 이 페이지에서 가장 많은 정보를 담고 있는 단일 요소다. NVIDIA가 그것을 베이스 저장소 맨 위에 둔 것은 의도적이다. 이 체크포인트는 대부분의 사람들이 원하는 그 체크포인트가 아니며, 벤더는 300억 개 파라미터를 다운로드하기 전에 먼저 그 점을 알려준다.

모든 것을 결정짓는 차이: 후속 학습된 모델 대 사전 학습된 모델

베이스 체크포인트는 지시를 따르지 않습니다. 질문을 던지면 텍스트를 이어서 생성할 뿐인데, 사전 학습이 가르쳐 준 유일한 것이 바로 그것이기 때문입니다. 이름값을 하는 채팅 템플릿도, 도구 호출 동작도, 거부 경계도 없으며, 대화에 턴이 있다는 개념조차 없습니다. NVIDIA의 모델 카드가 이를 명백히 밝히고 있고, 저장소 상단의 "포스트트레이닝된 모델을 찾고 계신가요?" 배너는 대화할 수 있는 무언가를 원하는 사람을 위해 형제 체크포인트를 가리킵니다.

베이스 체크포인트의 용도는 여러분의 포스트트레이닝입니다. 도메인 코퍼스에 대한 지속 사전 학습, 또는 NeMo RL, NeMo Gym, Megatron-LM을 통한 지도 미세 조정, RL 및 증류 — NVIDIA가 이름을 대고 레시피를 제공하는 툴체인입니다. 데이터 우위와 모델이 어떻게 동작해야 하는지에 대한 의견이 있다면, 베이스 체크포인트는 두 가지 모두를 실행에 옮길 수 있게 해주는 출발점입니다. 그렇지 않다면, 그것은 300억 매개변수짜리 문진입니다.

Hy-Memory-30B-A3B는 그 파이프라인의 반대쪽 끝에 있습니다. 그것은 이미 두 번에 걸쳐 포스트트레이닝을 거쳤으며, 전체 가치 제안은 그 작업을 할 필요가 없다는 것입니다 — 카드가 제공하는 스키마를 가져다가 하네스에 연결하면 메모리를 씁니다. 그것은 Nemotron보다 엄청나게 좁은 범위이며, Nemotron이 의도적으로 그렇지 않은 방식으로 완성되었습니다.

사양 및 포장, 치수당 한 줄

• 총 / 활성 파라미터 — 둘 모두 30B / ~3B. 두 모델이 일치하는 유일한 행입니다.

• 아키텍처 — Hy-Memory-30B-A3B는 하나의 dense 블록과 47개의 MoE 블록, top-8로 라우팅되는 128개의 expert와 공유 expert 하나를 갖춘 희소 트랜스포머입니다; Nemotron 3.5 Lightning 30B-A3B Base는 상태 공간, MoE, 어텐션 레이어를 교차 배치하고 Multi-Token Prediction 헤드를 갖춘 Mamba-2 하이브리드입니다.

• 컨텍스트 — Hy-Memory-30B-A3B는 구성상 262,144개 포지션, Nemotron은 최대 1M 토큰이며, 단일 H100에서 문서화된 실용적 수치는 256K입니다.

• 포스트 트레이닝 — Hy-Memory-30B-A3B에는 두 단계(온폴리시 증류, 그다음 어트리뷰티드 RL); Nemotron 베이스 체크포인트에는 전혀 없음.

• 가중치 메모리 사용량 — Hy-Memory-30B-A3B의 경우 다른 정밀도는 공개되지 않은 60.1GB BF16이며, NVIDIA의 BF16, NVFP4, FP8 빌드와 커뮤니티의 GGUF와 비교됩니다.

• 라이선스 — Apache 2.0 vs OpenMDW-1.1, 후자는 훈련 데이터와 레시피도 추가로 포함합니다.

• 서빙 경로 — Hy-Memory-30B-A3B용 OpenAI 호환 엔드포인트 뒤의 vLLM 0.31.0; Nemotron은 먼저 포스트트레인한 다음 서빙

• 호스팅 엔드포인트 — 어느 모델도 호스팅 추론 제공업체가 배포하지 않습니다. 두 모델 모두 자체 호스팅을 전제로 합니다.

증거: NVIDIA는 레시피를 공개하고, Hunyuan은 표를 공개한다

이것은 두 릴리스 사이에서 가장 극명한 차이이며, 숫자 자체에 관한 것이 아닙니다.

NVIDIA는 자사의 평가 방법론을 여러분이 실제로 활용할 수 있는 방식으로 공개합니다. Lightning 베이스 카드에는 정확도 수치가 일관된 하네스 — NeMo Gym과 NeMo Evaluator SDK, LM Evaluation Harness의 오픈소스 컨테이너를 감싸고, RULER는 NeMo Skills를 통해 실행 — 아래에서 측정되었다고 명시한 다음, 벤더들이 좀처럼 하지 않는 말을 덧붙입니다: 이 수치는 다른 벤더가 자체 보고한 수치와 다를 수 있다는 것입니다. 그리고 재현성 레시피 링크를 제공합니다. 수치는 여전히 NVIDIA 자체 실행 결과이지만, 하네스가 이름으로 명시되고 컨테이너화되어 다운로드 가능하다는 것은 "NVIDIA가 이것을 측정했다"와 "내가 이것을 측정했다" 사이의 거리가 연구 프로젝트가 아니라 몇 시간의 작업이라는 뜻입니다.

Hy-Memory 릴리스는 두 가지 뚜렷한 방식으로 확인하기가 더 어렵다. 평가 설계는 그 자체로는 타당하다 — 메모리 기록기만 바꾸고 하네스, 프롬프트, 검색 구성, 답변 모델, 채점자를 고정하는데, 이는 기록기의 기여도를 분리해내는 올바른 방식이다. 그러나 메인 매트릭스의 모든 벤치마크는 전체 집합이 아니라 고정된 20% 하위 샘플에서 실행되며, 핵심 격차도 작다: 매크로 평균 55.49 대 Claude Opus 5의 54.62로 0.87포인트 차이이고, MemOS 하네스는 0.01점으로 결정된다. 두 번째 장애물은 하드웨어다. NVIDIA의 기본 수치를 재현하려면 양자화 빌드가 존재하는 체크포인트를 로드해야 하고, Hy-Memory의 수치를 재현하려면 더 작은 대안이 공개되지 않은 60GB BF16을 로드해야 한다.

두 수치 모두 독립적으로 재현된 적이 없습니다. 차이는 당신이 그 일을 해낼 수 있는 사람일 가능성이 얼마나 그럴듯한가에 있습니다.

두 1차 자료를 나란히 놓으면 대비가 극명하다. Hy-Memory 평가는 아키텍처 설명과 훈련 방법이 담긴 논문에 있고, NVIDIA의 평가는 이름이 붙은 다운로드 가능한 하네스가 있는 모델 카드에 있다. 둘 다 벤더가 자기 숙제를 스스로 채점하는 셈이다. 그중 하나만이 당신에게 자를 건넨다.

라우터를 끌어들이는 두 가지 다른 이유

두 모델 모두 자체 호스팅되며, Hy-Memory-30B-A3B도 Nemotron 3.5 Lightning 30B-A3B Base도 OrcaRouter의 카탈로그에 없습니다. 우리는 둘 다 호스팅하지 않습니다. 두 모델로 가는 길은 가중치와 여러분의 자체 GPU입니다. 하지만 라우터 문제는 이 비교의 각 측면에서 다르게 다가오며, 이는 선택의 실질적인 형태이기 때문에 짚고 넘어갈 가치가 있습니다.

Nemotron 경로를 택한다면, 체크포인트를 포스트트레이닝하는 것입니다. 그러면 오직 당신의 인프라에만 존재하는 모델이 만들어지는데, 커스텀 체크포인트의 전형적인 문제는 그것이 놓일 자리가 없다는 점입니다. 어떤 카탈로그에도 없으니, 이를 원하는 모든 애플리케이션은 맞춤형 연결 작업을 갖춰야 하고, 모델이 중단될 때의 모든 폴백 경로도 손수 구축해야 합니다. 라우터가 바로 그 문제를 해결합니다 — 하나의 API 키로 200개 이상의 모델을 아우르고, 자체 엔드포인트를 그들과 나란히 등록할 수 있으며, 자동 페일오버가 성능이 저하될 때 작동합니다. 모델 퓨전은 여기서 알아둘 만한 또 다른 요소입니다. 하나의 호출로 여러 모델 패널을 함께 실행하는데, 이는 각각을 위한 하네스를 작성하지 않고도 갓 포스트트레이닝한 모델과 강력한 베이스라인을 비교할 수 있는 방법입니다.

Hy-Memory 경로를 택한다면, 작성기는 훨씬 더 큰 루프 안의 한 번의 호출일 뿐입니다. 메모리 하네스는 작성기를 호출한 다음, 답변 모델을 호출해 뱅크를 다시 읽고 응답하게 합니다. 그리고 그 두 번째 호출이 바로 일반적으로 호스팅 모델이 자리하는 곳입니다. OrcaRouter는 공급자 정가를 0% 마진으로 그대로 전달하므로, 답변 모델에 대한 벤더 가격 인하가 같은 날 우리 쪽에도 반영되며, 라우팅 DSL은 자체 호스팅 작성기와 호스팅 리더를 단일 호출로 구성합니다. 두 절반이 같은 곳에서 나올 필요도 없고, 빠진 한쪽을 추가하기 위해 두 번째 계약이 필요하지도 않습니다.

어느 것이 올바른 시작점인가요?

당신이 원하는 것이 다운로드한 당일에 바로 뭔가를 해 주는 모델 — 구체적으로는, 당신이 아무것도 훈련하지 않고도 에이전트의 메모리를 더 좋게 만들어 주는 모델 — 이라면, Hy-Memory-30B-A3B는 이 둘 중 그 요구에 부응하는 유일한 모델입니다. 그것은 또한 저렴하게 테스트할 수 없는 쪽이기도 하고, 그 대표적인 주장은 차이가 가장 근소한 주장이기도 합니다. 무엇을 알아보기도 전에 하드웨어에 돈을 쓸 각오로 시작하세요.

원하는 것이 직접 형태를 잡아 나갈 수 있는 기반이라면, Nemotron 3.5 Lightning 30B-A3B Base는 진지한 공개 작업물입니다. 긴 컨텍스트와 빠른 추론을 위해 설계된 하이브리드 아키텍처이며, 학습 레시피와 다시 실행해 볼 수 있는 평가 하네스와 함께 공개되었습니다. 이 모델은 포스트트레이닝을 하기 전에는 질문에 답하지 않는데, 그것은 결함이라기보다 조건입니다.

이름 충돌 때문에 이 둘은 계속 같은 문장에 등장하게 될 것이다. 파라미터 수는 계속 일치할 것이다. 그 밖의 다른 점은 그렇지 않을 것이며, 독자가 "30B-A3B"를 "같은 종류의 모델"과 구분할수록 그 비교는 더 빨리 유용해질 것이다.

다운로드 수치는 화면에 남겨 둘 가치가 있다. 양자화 빌드도, 호스팅된 엔드포인트도, 발표도 없이 어제 공개된 사후 학습된 전문 모델은 다운로드 0회에 좋아요 9개를 기록했다. 그리고 두 달 앞서 공개된 NVIDIA의 사전 학습 베이스 체크포인트는 수만 건대에 이른다. 이 격차는 품질에 대한 판단이 아니다. 그것은 각 팀이 그걸 시험해 보는 일을 얼마나 어렵게 만들었는지를 측정한 값이다.