Muse Spark Open 816B A42B vs Muse Spark 1.2: 오픈 모델, 마침내 서빙 스토리를 갖추다

이번 주까지, Muse Spark Open 816B A42B와 Muse Spark 1.2를 비교하는 일은 매번 같은 지점에서 무너졌다: 한쪽 열에는 측정치가 있었고 다른 쪽에는 저장소가 있었다. Meta는 Muse Spark Open 816B A42B — 420억 개의 활성 파라미터를 가진 8,160억 개 파라미터의 전문가 혼합 모델로, Hugging Face에 Muse-Spark-Open-816B-A42B로 패키징된 — 의 가중치를 2026년 10월 15일에 출시 행사도 보도 주기도 없이 공개했다. Muse Spark 1.2는 수개월 동안 독립적으로 목록에 오르고 측정되어 왔다. 그런 다음 2026년 10월 16일, NVIDIA는 이 공개 모델을 위한 43억 8천만 개 파라미터의 추측 디코딩 체크포인트를 공개했고, 비교의 형태가 바뀌었다. 왜냐하면 그 체크포인트는 816B 계층을 서비스 가능하게 만들기 위해 특별히 제작된 최초의 제3자 아티팩트이기 때문이다. 여기서 출시라고 할 것은 없고, 가격 인하라고 할 것도 없다. 달라진 것은 더 좁고 더 유용하다: 원장의 공개된 쪽은 그것이 실제로 어떻게 실행될지에 관한 첫 증거를 얻었다. 점수판이 측정하는 것과 배포가 실제로 마주하는 것 사이의 그 간극이 이 기록이 중요한 이유다: 이 등급의 모델과 관련해 문서화된 AI 실패 및 에이전트 사건들은 다음 자료에 수집되어 있다: the OrcaRouter AI Incident Archive 여기서 각 항목은 자체 출처, 심각도, 신뢰도 등급, 이의 제기 플래그를 갖는다.

빠져 있던 칼럼이 논증의 전부였다

가족 같은 유사성을 걷어내면, 이들은 한 제품의 두 가지 구성이 아니다. 이들은 다운로드 가능한 가중치 묶음과 임대된 엔드포인트이며, 실제 채택을 결정하는 숫자는 벤치마크 카드에 적힌 숫자가 아니다.

성능 면에서, 독립적인 Intelligence Index는 Muse Spark 1.2를 40점, Muse Spark Open 816B A42B를 39점으로 평가합니다. 이는 어떤 실질적 의미에서도 동점입니다. 1점 차이는 이런 복합 지표가 구성되는 방식에서 발생하는 노이즈 범위 안에 있으며, 어느 모델을 선택할 이유가 되지 못합니다.

속도와 비용에서, 그 격차는 격차가 아니라 구멍이었다. Muse Spark 1.2는 측정된 출력 속도, 공개된 토큰당 가격, 인덱스 작업당 비용을 갖고 있었다. Muse Spark Open 816B A42B에는 그중 어느 것도 없었다. 아무도 그것을 대규모로 서비스하고 결과를 보고하지 않았기 때문이다. 사람들이 실제로 논쟁하던 것은 바로 그 비대칭이었고, 바로 그 부분이 방금 움직였다.

NVIDIA의 체크포인트가 추가하는 것과 의도적으로 추가하지 않는 것

저장소 이름은 nvidia/Muse-Spark-Open-816B-A42B-DFlash2이며, 접근 제한이 없고, 드래프터입니다. 드래프터는 다음 토큰 블록을 추측하는 것만이 유일한 임무인 작은 모델로, 816B 타깃이 한 번에 한 토큰씩 출력하는 대신 한 번의 순전파로 전체 블록을 검증할 수 있게 해줍니다.

• 구성 요소 — BF16의 43.8억 개 밀집 파라미터, 5개의 디코더 레이어, 2,048토큰 윈도의 슬라이딩 윈도 어텐션, 블록 크기 8, 그리고 62개 레이어 대상의 5개 레이어에 대한 탭입니다. 이것은 모델이 아니라 부속물입니다. 자체적으로 텍스트를 생성하지 않으며, 초안을 작성하도록 훈련된 대상 없이는 실행할 수 없습니다.

• 보고 내용 — 그리디 디코딩에서 MT-Bench의 수용 길이 3.73, 샘플링 시 3.01, SPEED-Bench 처리량 비율 3.30 및 2.78, 권장 추측 토큰 수 7입니다. vLLM 또는 TensorRT-LLM을 통한 Blackwell GPU에서 이는 대상의 상당한 가속입니다.

• 보고하지 않는 항목 — 동일 조건의 비추측적 기준선 대비 초당 토큰 수로 나타낸 엔드투엔드 속도 향상입니다. 수락 길이는 드래프트가 자주 채택되고 있음을 알려줍니다. 수락 길이가 서버가 더 빨라졌다는 것을 알려주지는 않으며, 타깃이 이미 메모리 대역폭 병목 상태에 있을 때 이 둘은 크게 벌어질 수 있습니다.

• 실행 환경 — Linux 기반 NVIDIA Blackwell, 이름이 명시된 두 가지 엔진을 통해서만. Meta 자체의 DFlash V2 자료가 사용하는 런타임인 SGLang은 목록에 없습니다. 이것은 데이터센터용 산출물이며, 데스크톱 배포에 자연스럽게 녹아들 수 있는 것이 아닙니다.

그래서 솔직한 업데이트는 이렇습니다: 오픈 모델의 속도 열은 비어 있음에서 주석이 달린 상태로 바뀐 것이지, 비어 있음에서 채워진 상태로 바뀐 것이 아닙니다. 오늘 이 두 모델을 비교하는 독자는 이렇게 말할 수 있습니다 Muse Spark Open 816B A42B는 추측적 디코딩을 사용해 데이터센터 Blackwell에서 서빙 가능하다. 그 독자는 여전히 초당 몇 개의 토큰을 얻게 될지는 말할 수 없습니다.

차원별로, 증거 등급을 함께 붙여서

각 줄은 해당 차원, 양측, 그리고 승리한 쪽이 얼마나 잘 입증되었는지를 명시한다 — 왜냐하면 이 짝에서는 방향보다 증거 등급이 더 중요하기 때문이다.

• 능력 — Muse Spark 1.2는 40, Muse Spark Open 816B A42B는 39로, 둘 다 Artificial Analysis가 독립적으로 측정했다. 1점 이내. 결정적이지 않다.

• 속도 — Muse Spark 1.2, 결정적으로, 그리고 독립적으로: Artificial Analysis의 Muse Spark 1.2 목록에는 현재 초당 374.6토큰으로 측정된 186개 모델 중 1위로 나와 있으며, 첫 토큰까지 걸리는 시간은 12.67초입니다. 같은 목록의 이전 스냅샷에는 초당 361.4토큰으로 185개 중 1위로 기록되어 있었으니, 두 수치 중 어느 것이든 고정된 사실로 인용하기 전에 알아둘 만합니다 — 지속되는 주장은 순위이고, 소수점 자리는 아닙니다. Muse Spark Open 816B A42B는 누구로부터도 엔드투엔드 처리량 수치가 없습니다. 처리량에 근접한 수치라면 드래프터의 것뿐이며, 그것도 서버 처리량이 아니라 수용률입니다.

• 비용 — Muse Spark 1.2는 백만 입력 토큰당 $1.25, 백만 출력 토큰당 $4.25, 88% 캐시 입력 할인, 그리고 Intelligence Index 작업당 측정된 $0.97입니다. Muse Spark Open 816B A42B는 토큰당 가격이 없고 작업당 공개된 비용도 없습니다; 그 비용은 하드웨어, 전력, 그리고 누군가의 관심이며, 독립적인 수치는 존재하지 않습니다.

• 가중치 — Muse Spark Open 816B A42B, 전부 그리고 오직 그것만. BF16 기준 약 1.5TB에 NVFP4 빌드까지 포함되며, 약관 게이트 뒤에 있습니다. Muse Spark 1.2의 가중치는 어떤 형태로도 배포되지 않으며, 어떤 드래프터도 이를 바꾸지 못합니다.

• 파인튜닝 — Muse Spark Open 816B A42B, TorchTitan 지원이 가중치와 함께 제공됩니다. Muse Spark 1.2는 어떤 가격으로도 귀하의 데이터로 튜닝할 수 없습니다. 이것은 오픈 모델의 단 하나의 가장 큰 구조적 이점이며, NVIDIA가 발표한 그 무엇에도 영향을 받지 않습니다.

• 컨텍스트 — 1,048,576 토큰에서 동점이지만, 그 이면의 물리학은 다릅니다. 오픈 모델에서는 BF16으로 전체 길이 컨텍스트를 처리할 때 가중치에 더해 약 266GB의 KV 캐시 비용이 발생합니다. Muse Spark 1.2에서는 그것이 다른 누군가의 용량 문제입니다.

• 추론 강도 — 오픈 모델에서는 낮음, 중간, 높음, xhigh로 조절할 수 있으며, 각각 16, 64, 256, 512개의 추론 토큰에 매핑됩니다. 또는 시스템 프롬프트 힌트로 동일한 설정을 할 수 있습니다. 출력 토큰당 달러가 아니라 실제 시간으로 지불하기 때문에, 다이얼을 올리면 정확도 조정 시간이 들 뿐 미터기에는 아무 비용이 청구되지 않습니다. Muse Spark 1.2에서는 동일한 숙고가 출력으로 청구됩니다.

• 모달리티 — 이견이 있으며, 입수 가능한 증거에 따르면 Muse Spark 1.2 쪽으로 결론이 난다. Artificial Analysis는 1.2가 텍스트, 이미지, 음성 및 동영상을 입력으로 받는 것으로 측정했고, 그 오픈 모델은 텍스트와 이미지만 입력으로 받는 것으로 측정했다. 반면 Meta 자체 자료에서는 Muse Spark Open 816B A42B가 텍스트, 이미지, 동영상 및 오디오를 지원한다고 주장한다. 폭넓은 주장은 벤더가 단언한 것이고, 좁은 주장은 측정된 것이다.

• 라이선스 — Muse Spark Open 816B A42B는 Muse Model License에 따라 제공되며, 이 라이선스에는 연속 12개월 동안 모델 서비스(model-as-a-service) 수익이 2,000만 달러를 초과할 경우 별도의 서면 계약을 요구하는 조항이 있고, "Built with Muse Spark Open"이라는 출처 표기 문자열을 요구합니다. NVIDIA 기안자는 그 위에 NVIDIA Open Model Agreement를 중첩합니다. Muse Spark 1.2는 일반 API 약관에 따라 운영됩니다.

• 하드웨어 최소 기준 — 오픈 모델은 MLX 데스크톱 경로용으로 M5 Ultra Mac Studios 두 대가 필요하거나, TensorRT-LLM 경로용으로 Blackwell 노드 한 대, 또는 BF16 레시피용으로 4-GPU 노드 한 대가 필요합니다. 드래프터는 데스크톱 경로에 아무것도 추가하지 않습니다. Muse Spark 1.2에는 이 중 어느 것도 필요하지 않습니다.

• 지원 중단 위험 — Muse Spark 1.2의 자체 목록에는 더 새로운 릴리스인 Muse Spark 1.3이 출시되었음을 알리는 배너가 걸려 있습니다. 디스크에 있는 가중치는 당신의 발밑에서 빠져나가듯 지원 중단될 수 없으며, 이는 이 목록에서 소유가 선호가 아니라 사실에 근거해 이기는 유일한 항목입니다.

배너는 소유해야 하는 이유다

그 마지막 줄은 불릿 하나로 처리하기엔 아깝습니다. 당신이 대여하는 모델은 이미 해당 공급업체의 후속 모델에 의해 대체된 것으로 표시되어 있습니다. 이는 스캔들이 아니라 호스팅 티어가 작동하는 방식일 뿐이지만, 그렇다고 해서 비교가 “39 대 40, 빠른 쪽이 이긴다”처럼 깔끔하지는 않다는 뜻입니다.

Muse Spark 1.2를 기반으로 구축하는 팀은 앞으로 마이그레이션이 예정된 엔드포인트 위에서 구축하고 있는 것이다. 816B 가중치를 소유한 팀은 고정된 능력과 구성 가능한 동작을 가진 모델을 보유하게 되며, 마이그레이션 결정은 그들이 일정을 정할 수 있는 사안이 된다. 그 통제의 대가는 처리량, 하드웨어, 그리고 드래프터 이야기가 아직 절반도 끝나지 않았다는 사실을 받아들이는 것이다.

임차가 여전히 사는 것, 어떤 설계자도 고치지 못하는

추측 디코딩은 대규모 오픈 모델을 더 저렴하게 서빙할 수 있게 해준다. 하지만 그것이 상호작용 루프에서 빠른 호스팅 엔드포인트를 그대로 대체할 수 있는 대체재가 되게 해주는 것은 아니며, 바로 이 구분이 제품 팀에게 중요한 차이다.

Muse Spark 1.2의 초당 374.6토큰과 첫 토큰 12.67초는 표준화된 워크로드에서 측정됩니다. 에이전트 루프는 두 번째 숫자에 작업당 왕복 횟수를 곱하며, 캐시 할인은 당신이 아무것도 운영하지 않아도 제공자가 적용합니다. 직접 구축한다는 것은 용량 계획, 드라이버 스택, 그리고 직접 튜닝하는 추측 구성을 의미합니다. 드래프터의 수락 길이는 그 작업의 시작일 뿐, 끝이 아닙니다.

한쪽을 선택하는 대신 분할을 라우팅하기

결국 둘 다 운영하게 되는 대부분의 팀이 그 지점에 도달하는 이유는 워크로드가 실제로 다르기 때문입니다: 대화형 경로는 빠른 엔드포인트를 원하고, 배치 및 온프레미스 경로는 가중치를 원합니다. 실패 모드는 구성이 아니라 설계 문서에 존재하는 분할입니다.

OrcaRouter는 Muse Spark 1.2와 Muse Spark 1.1을 공급자의 정가로, 0% 마크업을 그대로 통과시켜 라우팅합니다, 따라서 공급업체의 가격 변경이 같은 날 여러분의 키에 도달하며, 여러분 쪽에서는 재가격 책정 작업이 전혀 필요하지 않습니다. 이 라우터는 Muse Spark Open 816B A42B나 이 DFlash2 드래프터를 라우팅하거나 호스팅하지 않으며, 이 글을 그렇게 주장하는 것으로 읽는 것은 잘못입니다. 가중치를 직접 보유할 수 있다는 점이 곧 가치인 모델은 여러분의 자체 하드웨어에서 실행하는 모델입니다. 라우터가 기여하는 것은 이 분할의 나머지 절반입니다 — 200개 이상의 모델을 아우르는 단일 API, 공급자가 성능 저하를 보일 때의 자동 장애 조치, 모델들을 결합하기 위한 모델 퓨전, 그리고 코드 변경이 아니라 구성으로 모델 간 트래픽을 이동시키는 라우팅 DSL. 마지막 부분은 검증되지 않은 자체 호스팅 경로가 준비되었는지, 프로덕션 경로를 그것에 걸지 않고 저렴하게 테스트하는 방법입니다.

끝나지 않은 비교를 어떻게 처리할까

측정된 처리량과 오늘 기준 작업당 측정된 비용이 필요하다면, 사람이 출력을 기다리고 있다면, 독립적으로 검증된 음성 및 비디오 입력이 필요하다면, 또는 GPU를 사지 않고 하나의 키로 Muse 모델을 사용하고 싶다면 Muse Spark 1.2를 선택하세요. 입력 $1.25, 출력 $4.25에 캐시된 입력 88% 할인이라면, 자사 공급업체의 목록이 1.3을 가리킨다는 점을 알고도 정당화할 수 있는 구매입니다.

작업이 TorchTitan으로 파인튜닝할 만큼 좁다면, 데이터가 네트워크 밖으로 나갈 수 없다면, 볼륨이 크고 꾸준해 하드웨어를 상각할 수 있을 만큼 충분하다면, 또는 무료 추론 다이얼이 포기하는 인덱스 포인트보다 더 가치 있다면 Muse Spark Open 816B A42B를 택하세요. NVFP4 빌드와 NVIDIA 드래프터가 함께라는 것은 데이터센터 경로가 10월에 중요했던 의미에서 더 이상 추측에 불과하지 않다는 뜻입니다 — 단지 정량화되지 않았을 뿐입니다.

해서는 안 되는 일은, 오픈 가중치가 무료라는 이유로 선택하거나 호스팅된 모델이 더 빠르다는 이유로 선택하면서, 그 두 문장이 서로 다른 질문에 답하고 있다는 사실을 알아차리지 못하는 것이다. 하나는 모델이 무엇인지에 관한 것이고, 다른 하나는 그것을 어떻게 실행할지에 관한 것이다. 지난주에는 두 번째 질문만 답이 있었다. 이번 주에는 처음으로 둘 다 답이 있다 — 그리고 오픈 모델의 답에는 오차 범위가 붙어 있다.

Muse Spark Open 816B A42B는 Muse Model License에 따라 다운로드할 수 있으며, Muse Spark 1.2는 토큰당 판매되고 OrcaRouter에서 정가로 라우팅됩니다.