Hy-Memory-30B-A3B vs Qwen3.8-27B: 특화 모델은 경쟁 상대가 아니다 — 그것은 당신이 이미 범용 모델에게 돈을 내고 맡기고 있는 작업을 대체하는 존재다

아무도 사이에서 선택하지 않습니다 Hy-Memory-30B-A3B와 Qwen3.8-27B 능력 면에서, 왜냐하면 그들은 같은 경주에 있지 않기 때문입니다. Qwen3.8-27B는 연구소의 270억 개 매개변수 밀집 비전-언어 모델입니다 — Apache 2.0, 262,144 토큰 네이티브 컨텍스트, 출시되었으며, 2026년 8월 14일, 그리고 OrcaRouter에서 백만 입력 토큰당 $0.33, 백만 출력 토큰당 $2.40에 제공됩니다. Hy-Memory-30B-A3B는 Hunyuan 팀의 메모리 작성기입니다 — 총 30B에 약 3B 활성, 오픈소스화된 2026년 10월 15일, 그리고 우리를 포함해 어디에도 제공되지 않습니다. 하나는 토큰 단위로 임대할 수 있는 범용 모델입니다. 다른 하나는 직접 호스팅해야 하는 구성 요소입니다. 벤치마크는 낡아지고 가격은 변하지만, 실패 기록은 그렇지 않습니다: 이 클래스의 모델 뒤에 있는 문서화된 AI 사고와 에이전트 실패는 OrcaRouter AI Incident Archive에 수집되어 있으며, 각 항목은 자체 출처, 심각도, 신뢰도 등급 및 분쟁 플래그를 포함합니다.

어쨌든 이 둘을 나란히 놓는 이유는 Hy-Memory-30B-A3B가 특정한 것을 대체하기 위해 존재하며, 그 특정한 것은 매우 자주 Qwen3.8-27B이기 때문이다. 메모리 프레임워크는 무엇을 유지할지 결정하기 위해 매 턴마다 범용 모델을 호출한다. 그 용도로 Qwen3.8-27B를 실행하고 있다면 — 그리고 $0.33/$2.40의 가격에서 그것은 자연스러운 선택이다 — 솔직한 질문은 어느 모델이 더 나은가가 아니다. 그것은 3B 활성 전문가가 하드웨어를 정당화할 만큼 충분히 같은 작업을 잘 수행하는지이며, 그 질문에는 실제로 계산해볼 수 있는 가격표가 붙어 있다.

메모리 시스템이 중요하게 여기는 관점에서 Qwen3.8-27B란 무엇인가

Dense는 모든 토큰에 대해 모든 매개변수를 읽는다는 뜻입니다. 은닉 크기 5,120에 64개 레이어, Gated DeltaNet 선형 어텐션 블록과 전체 어텐션 블록을 교대로 배치하는 16:1 패턴 — 이 설계가 25만 토큰 창을 아예 서비스할 수 있게 만드는 핵심입니다. 텍스트, 이미지, 비디오를 입력받아 텍스트를 반환합니다. 이는 여기서 평범한 이유로 중요합니다: 사람들이 에이전트가 기억하기를 원하는 것의 상당 부분은 산문이 아니라 스크린샷이나 문서로 도착하기 때문입니다.

공급업체 자체 카드는 LiveCodeBench v6에서 90.3, GPQA Diamond에서 89.2, Terminal-Bench 2.1에서 73.0, OSWorld-Verified에서 84.3, IFBench에서 79.5를 기록했다고 주장한다. 모두 벤더가 보고한 수치이며, 특히 메모리 작성 워크로드에 관해서는 우리나 우리가 지목할 수 있는 누구에 의해서도 재현되지 않았다. 이 모델은 출시 이후 독립적인 순위에 이름을 올렸는데, 웹 개발 아레나 리더보드에서 top-10에 오른 것이 포함된다. 하지만 그중 어느 것도 이 모델이 좋은 메모리를 작성하는지 측정하지 않는다. 아직 이를 측정하는 것은 없다.

이 작업에 이 모델이 기본으로 자리 잡은 이유는 그 점수들 중 어느 것도 아닙니다. 지시를 정확히 따르고, JSON 스키마를 받아들이며, 262K 창이 있어 긴 대화를 청킹 같은 번거로운 작업 없이 넘겨줄 수 있고, 매 턴마다 실행해도 될 만큼 저렴하기 때문입니다.

위 페이지는 이 두 모델의 실질적인 차이를 한 화면에 보여줍니다. Qwen3.8-27B에는 요율과 경로가 있고, Hy-Memory-30B-A3B에는 둘 다 없습니다.

Hy-Memory-30B-A3B가 다르게 하는 점

Hy-Memory 모델은 정확히 하나의 작업을 위해 학습되었으며, 그 카드에는 완곡한 표현 없이 이렇게 명시되어 있다. 즉 Mem0, MemOS, Hy-Memory 내부의 범용 LLM을 대체하여 어떤 정보를 보존할지, 그것을 얼마나 정밀하게 표현할지, 그리고 새로운 증거가 영구 저장소를 어떻게 갱신해야 하는지를 결정한다는 것이다. 그런 다음 이 모델은 학습에서 완전히 배제된 프레임워크인 EverMemOS에서 평가되는데, 이는 이번 릴리스에서 가장 높이 평가받아 마땅한 설계 결정이다. 프레임워크 간 전이가 바로 이 전체의 전제이기 때문이다.

그 훈련은 두 단계로 진행되며, 두 번째 단계가 흥미로운 부분이다. Memory On-Policy Distillation은 학생이 스스로 생성한 메모리 상태에 대해 조밀한 감독을 제공한다. 이어서 Attributed Memory Reinforcement Learning은 롤아웃으로부터 뱅크를 구축하고, 이를 청크 단위로 채점하며, 과도한 저장에 페널티를 부여하고 — 이것이 훈련을 정직하게 유지하는 부분이다 — 윈도우 사이에서 초기화하는 대신 선택된 뱅크를 윈도우를 넘어 앞으로 이어 간다. 배포된 뱅크는 결코 비어 있지 않으므로, 빈 뱅크를 기준으로 훈련하는 것은 존재하지 않는 상황을 위해 훈련하는 셈이 된다.

아키텍처 측면에서 이는 48개 레이어, 1개의 dense 블록과 47개의 sparse MoE 블록, top-8 라우팅을 사용하는 128개 전문가와 공유 전문가 1개, 262,144 포지션 컨텍스트, 그리고 51개 샤드에 걸친 60.1 GB의 BF16 가중치로 구성됩니다. 양자화된 빌드는 공개되지 않았습니다.

카드가 하지 않는 계산을 하다

두 모델 모두 긴 대화의 매 턴마다 발동합니다. 이 때문에 쓰기 경로는 볼륨 문제가 되고, 볼륨은 특화 모델의 더 작은 활성 파라미터 수가 드러나야 하는 지점입니다.

측정된 가정이 아니라 구체적으로 밝힌 가정을 하나 들어 보자: 라이터는 턴당 약 800토큰의 대화를 처리하고 약 150토큰의 구조화된 메모리를 출력한다. 1,000턴에 걸쳐 이는 사용자당 입력 800,000토큰, 출력 150,000토큰이다. Qwen3.8-27B에 대한 OrcaRouter의 요금표에서 — 공급업체의 정가를 다음 마크업으로 그대로 통과시킨다: 0% 마크업, 즉 백만 토큰당 $0.33과 $2.40 — 그 대화에는 입력에 약 $0.26, 출력에 약 $0.36, 합계 약 $0.62가 들며, 여기에 답변 모델이 뱅크를 열 때 읽기 경로에 드는 비용이 더해진다. 이는 공개된 요율에 대한 산술일 뿐 벤치마크가 아니며, 여러분의 턴당 토큰 수는 다를 것이다.

Hy-Memory-30B-A3B의 경우 동일한 1,000턴은 토큰당 비용이 전혀 들지 않고 월 단위로는 상당히 더 큰 비용이 듭니다. 요금표가 없기 때문입니다. 이 모델은 자체 호스팅되며, 양자화된 대안 없이 60GB BF16을 자체 호스팅한다는 것은 이를 담을 메모리를 갖춘 가속기를 의미합니다 — 55.49 매크로 평균이 유지되는지 알기도 전에 말입니다.

그러니까 이 트레이드오프는 저렴한 것 대 비싼 것의 문제가 아니다. 그것은 종량제 대 자본의 구도이고, 손익분기점은 한 달에 실제로 몇 턴을 쓰느냐에 전적으로 달려 있다. 한 달에 몇천 건의 대화를 돌리는 팀이라면 Qwen3.8-27B의 토큰당 요금을 내고 하드웨어 문제는 아예 건드리지 않는 편이 거의 확실히 낫다. 수백만 턴 분량의 메모리를 쓰는 팀은 어느 쪽이든 하드웨어를 돌리게 되어 있고, 그때 이 특화 모델이 흥미로워진다.

위의 카드는 계산이 시작되는 지점입니다: $0.33 요금 뒤에는 다운로드 가능한 27B 체크포인트가 있으며, 직접 실행하는 것이 타당할 만큼 사용량이 충분하다면 그것은 공개된 양자화가 뒷받침하는 지원 경로입니다.

가격 비교가 숨기는 세 가지

토큰당 비용은 가장 쉬운 축이며 가장 결정적이지 않은 축입니다. 다른 세 가지가 더 중요합니다.

멀티모달리티. Qwen3.8-27B는 이미지와 비디오를 처리합니다. Hy-Memory-30B-A3B의 사양서에는 텍스트 입력, 영어와 중국어만 명시되어 있습니다. 여러분의 에이전트 메모리에 스크린샷, 스캔한 문서, 비디오 프레임이 포함된다면, 범용 모델은 전문 모델이 구조적으로 할 수 없는 작업을 수행하는 것이며, 어떤 비용 우위도 그 격차를 메울 수 없습니다.

컨텍스트. 둘 다 262,144개의 위치를 공개하는데, 이는 진정한 우연이자 유용한 우연입니다 — 한 번에 얼마나 많은 대화를 맡길 수 있는지에 있어서 어느 쪽도 우위를 점하지 않습니다.

공개된 정밀도. Qwen3.8-27B는 BF16으로 제공되며 공식 FP8 빌드와 여러 퍼블리셔의 GGUF 변환본이 있고, OrcaRouter는 비전 타워를 전체 정밀도로 유지한 block-FP8 버전을 제공합니다. Hy-Memory-30B-A3B는 BF16만 제공하며 그 외에는 없습니다. 이 항목은 빌린 카드에서 평가할 수 있는지, 아니면 카드를 한 장 예약해야 하는지를 결정합니다.

어떤 모델을 선택하느냐에 따라 달라지는 라우팅 답변

여기서 두 경로가 깔끔하게 갈라지며, 홍보성 문구보다는 정확성을 기하는 것이 가치 있다.

Qwen3.8-27B는 OrcaRouter의 카탈로그에 있습니다. 다른 200여 개 모델과 동일한 API 키로 호출하며, 공급자의 정가에 0% 마크업으로 제공됩니다 — 따라서 공급자가 가격을 인하하면 다음 청구 주기가 아니라 같은 날 여기에 반영됩니다 — 자동 페일오버가 백엔드 성능이 저하될 때 작동합니다. 메모리 하네스에서 유용한 부분은 라우팅 DSL입니다. 이는 여러 모델을 하나의 호출로 구성하는데, 이렇게 하면 두 번째 클라이언트를 구축하지 않고도 단일 엔드포인트 뒤에서 작성자 모델과 답변 모델을 실행할 수 있습니다. 모델 퓨전은 여러 모델 패널이 함께 답변하도록 실행하는 기능으로, 전문 작성자가 범용 모델보다 더 나은 뱅크를 생성하는지 경험적으로 판단하기 위한 도구입니다 — 동일한 대화에 둘 다 실행하고, 답변을 비교하고, 그것에 대한 논쟁을 그만두세요.

Hy-Memory-30B-A3B는 우리 카탈로그에 없으며 우리가 호스팅하지도 않습니다. 그것으로 가는 경로는 팀에서 제공한 체크포인트와 여러분의 자체 하드웨어입니다. 직접 셀프 호스팅하더라도 라우터는 나머지 루프 전체를 커버합니다 — 뱅크를 다시 읽는 호스팅 답변 모델, 그 주변의 계획 호출 — 그리고 호스팅된 엔드포인트와 나란히 여러분의 자체 엔드포인트를 등록할 수 있게 해 주어, 페일오버와 원키 액세스가 둘 다에 적용됩니다.

누가 무엇을 해야 합니까?

오늘날 호스팅된 범용 모델에서 메모리 작성을 실행하고 있다면, 솔직히 첫 번째 질문은 전환할지 여부가 아닙니다. 바로 한 달에 실제로 몇 턴을 작성하고 있는지입니다. 오직 당신만이 계산할 수 있는 임계값 아래에서는, 토큰당 요금제의 Qwen3.8-27B가 합리적인 선택이며 Hy-Memory-30B-A3B의 하드웨어 요구 사항은 방해 요소일 뿐입니다 — 특히 메모리에 이미지가 포함된 경우라면, 그 영역에서 특화 모델은 제공할 것이 아무것도 없습니다.

메모리를 쓰는 규모가 토큰당 비용 항목이 실제 예산 항목이 될 정도라면, Hy-Memory-30B-A3B는 바로 그 항목을 정면으로 겨냥한 최초의 오픈 모델이며, 홀드아웃 프레임워크를 대상으로 테스트되었다는 사실은 누군가가 데모가 아니라 일반화를 고려했다는 신호다. 양자화 빌드가 나올 때까지 기다려라. 팀 외부의 누군가가 하네스를 실행할 때까지 기다려라. 그런 다음 결정하라.

그리고 전문가가 자신의 트래픽에서 일반주의자보다 더 나은지 단순히 궁금하다면, 실험은 설정하기 저렴하며, 답은 두 카드 중 어느 쪽보다도 당신의 데이터에 맞는 것이 될 것입니다.

마지막으로, 카드가 분명히 밝히지만 표들은 밝히지 않는 한 가지가 있습니다. Hy-Memory-30B-A3B는 Apache 2.0으로 라이선스되어 있습니다. 즉, 위 실험은 누구의 법무팀과도 상의할 필요 없이 자신의 데이터로 상업적으로 실행할 수 있는 실험입니다. 이것이 이 모델이 가진 가장 강력한 논거이며, 55.49가 재현되는지 여부와는 무관합니다.