Een gegenereerde hero-kaart voor het artikel 'Muse Spark Open 816B A42B vs Muse Spark 1.2', met als ondertitel 'Het open model heeft eindelijk een servingverhaal — nog geen snelheidscijfer'. Twee afgeronde panelen staan aan weerszijden van een ronde 'vs'-badge. 'Muse Spark Open 816B A42B — Gewichten die jij bezit' somt 816B MoE op met 42B actief, een context van 1M, BF16 op ongeveer 1,5TB plus NVFP4, 'wordt afgeschaft: nooit', Intelligence Index 39 en snelheid niet gemeten. 'Muse Spark 1.2 — Endpoint die je huurt' somt Intelligence Index 40 op, 374,6 tokens per seconde, gerangschikt als eerste van 186, $1,25 in en $4,25 uit met 88% cachekorting, $0,97 per Index-taak, en 'opgevolgd door 1.3 volgens de eigen vermelding'. Een voettekstregel meldt dat de gewichten op 15 oktober 2026 arriveerden zonder lanceerevenement, en dat wat op 16 oktober veranderde was dat NVIDIA het eerste artefact publiceerde dat gebouwd is om de 816B-tier te laten serveren — nog steeds geen doorvoersnelheidsgetal.
Engineering & Research

Muse Spark Open 816B A42B vs Muse Spark 1.2: Het open model heeft eindelijk een verhaal voor het serveren

Auteur

Rowan Sterling

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Tot deze week liep de vergelijking van Muse Spark Open 816B A42B met Muse Spark 1.2 elke keer op hetzelfde punt stuk: de ene kolom had metingen en de andere een repository. Meta publiceerde de gewichten voor Muse Spark Open 816B A42B — een mengeling van experts met 816 miljard parameters en 42 miljard actieve parameters, verpakt op Hugging Face als Muse-Spark-Open-816B-A42B — op 15 oktober 2026, zonder lanceringsevenement en zonder perscyclus. Muse Spark 1.2 wordt al maanden onafhankelijk vermeld en gemeten. Daarna publiceerde NVIDIA op 16 oktober 2026 een checkpoint voor speculatief decoderen met 4,38 miljard parameters voor het open model, en de vorm van de vergelijking verschoof, want dat checkpoint is het eerste artefact van een derde partij dat specifiek is gebouwd om de 816B-tier serveerbaar te maken. Niets hiervan is een lancering, en niets hiervan is een prijsverlaging. Wat is veranderd, is beperkter en nuttiger: de open kant van het grootboek kreeg voor het eerst bewijs over hoe die daadwerkelijk zal draaien. Dat gat tussen wat een scorebord meet en wat een deployment tegenkomt, is de reden dat het record ertoe doet: de gedocumenteerde AI-fouten en agentincidenten rond modellen in deze klasse zijn verzameld in het OrcaRouter AI Incident Archive waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwistingsmarkering heeft.

De ontbrekende column was het hele argument.

Haal de familiegelijkenis weg en dit zijn geen twee configuraties van één product. Het zijn een downloadbare set gewichten en een gehuurd endpoint, en de cijfers die echte adoptie bepalen, zijn niet de cijfers op de benchmarkkaart.

Qua capaciteit zet de onafhankelijke Intelligence Index Muse Spark 1.2 op 40 en Muse Spark Open 816B A42B op 39. Dat is in elk praktisch opzicht een gelijkspel; één punt valt binnen de ruis van hoe deze samengestelde scores worden opgebouwd, en het is geen reden om voor een van beide modellen te kiezen.

Op het gebied van snelheid en kosten was de kloof geen kloof maar een gat. Muse Spark 1.2 heeft een gemeten outputsnelheid, een gepubliceerde prijs per token en kosten per indextaak. Muse Spark Open 816B A42B had geen van die dingen, omdat niemand het op schaal had geserveerd en het resultaat had gerapporteerd. Die asymmetrie is waar mensen het eigenlijk over hadden, en dat is het deel dat net is verschoven.

Wat NVIDIA's checkpoint toevoegt, en wat het bewust niet doet

De repository heet nvidia/Muse-Spark-Open-816B-A42B-DFlash2, heeft geen toegangsbeperking, en is een draftmodel — een klein model waarvan de enige taak is het volgende blok tokens te raden, zodat het 816B-doelmodel een heel blok in één forward pass kan verifiëren in plaats van telkens één token te genereren.

• Waar het uit bestaat — 4,38 miljard dense parameters in BF16, vijf decoderlagen, sliding-window-attentie met een venster van 2.048 tokens, een blokgrootte van acht, en put uit vijf lagen van het 62-laags doelmodel. Het is een aanhangsel, geen model: het produceert geen eigen tekst en kan niet draaien zonder het doelmodel waarvoor het is getraind om conceptversies te genereren.

• Wat het rapporteert — acceptatielengtes van 3,73 op MT-Bench bij greedy decoding en 3,01 bij sampling, doorvoerverhoudingen van SPEED-Bench van 3,30 en 2,78, en een aanbevolen aantal speculatieve tokens van zeven. Op een Blackwell-GPU via vLLM of TensorRT-LLM is dat een aanzienlijke versnelling van het doel.

• Wat het niet rapporteert — een end-to-end versnelling, in tokens per seconde, ten opzichte van een overeenkomstige niet-speculatieve baseline. De acceptatielengte vertelt je dat de draft vaak wordt geaccepteerd. Die vertelt je niet dat de server sneller is geworden, en die twee kunnen flink uiteenlopen wanneer het doelmodel al geheugenbandbreedtegebonden is.

• Waar het draait — NVIDIA Blackwell met Linux, via twee genoemde engines. SGLang, de runtime die het eigen DFlash V2-materiaal van Meta gebruikt, ontbreekt in de lijst. Dit is een datacenter-artefact, niet iets dat in een desktopimplementatie past.

Dus de eerlijke update is dit: de snelheidskolom van het open model is van leeg naar geannoteerd gegaan, niet van leeg naar gevuld. Een lezer die deze twee modellen vandaag vergelijkt, kan zeggen Muse Spark Open 816B A42B is serveerbaar op datacenter-Blackwell met speculatieve decoding. Die lezer kan nog steeds niet zeggen hoeveel tokens per seconde die zal krijgen.

Dimensie voor dimensie, met de bewijsklasse eraan gekoppeld

Elke regel noemt de dimensie, beide zijden, en hoe goed onderbouwd de winnende zijde is — want bij deze combinatie weegt de bewijsklasse zwaarder dan de richting.

• Capabiliteit — Muse Spark 1.2 op 40, Muse Spark Open 816B A42B op 39, beide onafhankelijk gemeten door Artificial Analysis. Binnen één punt. Niet doorslaggevend.

• Snelheid — Muse Spark 1.2, beslist en onafhankelijk: in de vermelding van Muse Spark 1.2 bij Artificial Analysis staat momenteel 374,6 tokens per seconde, eerste van de 186 gemeten modellen, met een tijd tot eerste token van 12,67 seconden. Een eerdere momentopname van dezelfde vermelding gaf 361,4 tokens per seconde, gerangschikt als eerste van 185. Dat is goed om te weten voordat je een van beide cijfers als een vaststaand feit citeert — de rangorde is de houdbare bewering, het decimaalteken niet. Voor Muse Spark Open 816B A42B is er van niemand een end-to-end doorvoercijfer. De enige cijfers die iets met doorvoer te maken hebben, horen bij een drafter, en dat zijn acceptatieverhoudingen in plaats van serverdoorvoer.

• Kosten — Muse Spark 1.2 tegen $1,25 per miljoen invoertokens en $4,25 per miljoen uitvoertokens, een korting van 88% op gecachte invoer, en een gemeten $0,97 per Intelligent Index-taak. Muse Spark Open 816B A42B heeft geen prijs per token en geen gepubliceerde kosten per taak; de kosten zijn hardware, stroom en iemands aandacht, en er bestaat geen onafhankelijk cijfer.

• Gewichten — Muse Spark Open 816B A42B, volledig en uitsluitend. Ongeveer 1,5 TB in BF16 plus een NVFP4-build, achter een gebruiksvoorwaardenpoort. De gewichten van Muse Spark 1.2 worden in geen enkele vorm gedistribueerd, en geen enkel draftmodel verandert dat.

• Fine-tuning — Muse Spark Open 816B A42B, met TorchTitan-ondersteuning die samen met de gewichten wordt geleverd. Muse Spark 1.2 kan tegen geen enkele prijs op uw data worden afgestemd. Dit is het allergrootste structurele voordeel van het open model, en het wordt niet beïnvloed door wat NVIDIA ook heeft gepubliceerd.

• Context — een gelijke stand bij 1,048,576 tokens, met andere natuurkunde erachter. Op het open model kost een context van volledige lengte in BF16 in de orde van 266GB aan KV-cache bovenop de gewichten. Op Muse Spark 1.2 is het een capaciteitsprobleem van iemand anders.

• Reasoning-inspanning — het open model laat je laag, gemiddeld, hoog en xhigh instellen, wat overeenkomt met 16, 64, 256 en 512 reasoning-tokens, of je stelt hetzelfde in met een system-prompt-hint. Omdat je in wandkloktijd betaalt in plaats van in dollars per uitvoertoken, kost het hoger zetten van de knop nauwkeurigheidsgecorrigeerde tijd en niets op de meter. Op Muse Spark 1.2 wordt hetzelfde beraad als output gefactureerd.

• Modaliteiten — betwist, en op basis van het beschikbare bewijs wijst dit in de richting van Muse Spark 1.2. Artificial Analysis mat dat 1.2 tekst, afbeeldingen, spraak en video accepteert, en mat dat het open model alleen tekst en afbeeldingen accepteert, terwijl Meta's eigen materialen tekst, afbeelding, video en audio claimen voor Muse Spark Open 816B A42B. De brede claim is door de leverancier beweerd; de beperkte is gemeten.

• Licentie — Muse Spark Open 816B A42B onder de Muse Model License, die een clausule bevat die een afzonderlijke schriftelijke overeenkomst vereist als uw model-as-a-service-omzet in een willekeurige periode van twaalf opeenvolgende maanden de $20 miljoen overschrijdt, en die de attributiestring "Built with Muse Spark Open" vereist. De NVIDIA-opsteller stapelt de NVIDIA Open Model Agreement daarbovenop. Muse Spark 1.2 valt onder gewone API-voorwaarden.

• Minimaal vereiste hardware — het open model heeft twee M5 Ultra Mac Studios nodig voor het MLX-desktoppad, of een Blackwell-node voor het TensorRT-LLM-pad, of een node met vier GPU's voor het BF16-recept. De drafter voegt niets toe aan het desktoppad. Muse Spark 1.2 heeft niets daarvan nodig.

• Risico op deprecatie — de eigen vermelding van Muse Spark 1.2 bevat een banner die aankondigt dat een nieuwere release, Muse Spark 1.3, is uitgebracht. Gewichten op je schijf kunnen niet onder je vandaan gedeprecieerd worden, en dat is de enige regel in deze lijst waar bezit wint op basis van een feit in plaats van een voorkeur.

A generated two-column scoreboard titled 'Muse Spark Open 816B A42B vs Muse Spark 1.2 — the ledger, by evidence class'. The Muse Spark Open 816B A42B column lists Intelligence Index 39 (independent), end-to-end speed not measured by anyone, serving path 'NVIDIA DFlash2 drafter, Oct 16', drafter acceptance length 3.73 on MT-Bench at greedy decoding, no price per token, no published cost per Index task, downloadable BF16 and NVFP4 weights, fine-tuning with TorchTitan shipped, a reasoning-effort ladder of 16/64/256/512 with no meter, and measured modalities text plus image. The Muse Spark 1.2 column lists Intelligence Index 40 (independent), 374.6 tokens per second ranked first of 186, a provider-operated serving path, 12.67-second time to first token, $1.25 in and $4.25 out, $0.97 per Index task (independent), weights not distributed, no fine-tuning on your data, a reasoning-effort dial billed as output, and measured modalities text, image, speech and video. A footer notes that Open's speed column is still empty, that the drafter's acceptance lengths are not a server throughput figure, and that Muse Spark 1.2's own listing carries a banner pointing forward to Muse Spark 1.3.

De banner is het argument om te bezitten

Die laatste regel verdient meer dan een opsommingsteken. Het model dat je huurt, is door de opvolger van zijn leverancier al als achterhaald aangemerkt, wat geen schandaal is — zo werken gehoste tiers nu eenmaal — maar het betekent wel dat de vergelijking niet zo simpel is als "39 versus 40 en de snelle wint".

Een team dat op Muse Spark 1.2 bouwt, bouwt op een endpoint waarvoor een bekende migratie in het verschiet ligt. Een team dat de 816B-gewichten bezit, heeft een model met een vaste capaciteit en een configureerbaar gedrag, en het plannen van de migratie komt bij hen te liggen. De prijs van die controle is doorvoer, hardware en de acceptatie dat het drafterverhaal nog half af is.

Wat huren nog steeds biedt dat geen enkele opsteller oplost

Speculatief decoderen maakt een groot open model goedkoper om te serveren. Het maakt er geen directe vervanging van voor een snelle gehoste endpoint in een interactieve lus, en juist dat onderscheid is van belang voor productteams.

De 374,6 tokens per seconde en de eerste token na 12,67 seconden van Muse Spark 1.2 zijn gemeten onder een gestandaardiseerde workload. Een agentloop vermenigvuldigt het tweede getal met het aantal round-trips per taak, en cachekortingen worden door de provider toegepast zonder dat je iets hoeft te bedienen. Zelf je eigen oplossing bouwen betekent capaciteitsplanning, een driverstack en een speculatieve configuratie die je zelf afstelt. De acceptatielengtes van de drafter vormen het begin van dat werk, niet het einde ervan.

De splitsing routeren in plaats van een kant te kiezen

De meeste teams die uiteindelijk beide draaien, belanden daar omdat de workloads echt verschillen: interactieve paden willen de snelle endpoint, batchpaden en on-premisespaden willen de gewichten. De faalmodus is een splitsing die in een ontwerpdocument zit in plaats van in de configuratie.

OrcaRouter routeert Muse Spark 1.2 — en Muse Spark 1.1 — tegen de lijstprijs van de provider, met 0% opslag die rechtstreeks wordt doorgegeven, dus een prijswijziging van de leverancier bereikt je key dezelfde dag, zonder dat je aan jouw kant iets aan de prijsstelling hoeft te doen. Het routeert of host Muse Spark Open 816B A42B niet, of deze DFlash2 drafter, en het zou onjuist zijn dit stuk te lezen als een bewering van het tegendeel: een model waarvan de waarde is dat je de gewichten kunt vasthouden, is een model dat je op je eigen hardware draait. Wat de router bijdraagt, is de andere helft van de splitsing — één API voor 200+ modellen, automatische failover bij verslechtering van een provider, modelfusie om ze te combineren, en een routerings-DSL die verkeer tussen modellen verplaatst via configuratie in plaats van via een codewijziging. Dat laatste is de goedkope manier om te testen of een onbewezen self-hosted pad klaar is, zonder er een productieroute aan te wagen.

A screenshot of the Artificial Analysis model page for Muse Spark 1.2, showing Intelligence Index 40, output speed 374.6 tokens per second ranked first of 186 models, a 12.67-second time to first token, $1.25 per million input and $4.25 per million output with an 88% cached-input discount, a blended price of $0.78, a 1,048,576-token context window, $0.97 as the cost to run the Intelligence Index, and a page banner noting that a newer release, Muse Spark 1.3, has launched.

Wat te doen met een onafgemaakte vergelijking

Neem Muse Spark 1.2 als je vandaag gemeten doorvoer en gemeten kosten per taak nodig hebt, als er een mens op de uitvoer wacht, als je onafhankelijk bevestigde spraak- en video-invoer nodig hebt, of als je een Muse-model op één sleutel wilt zonder een GPU te kopen. Met $1,25 voor invoer en $4,25 voor uitvoer, met 88% korting op gecachte invoer, is het een verdedigbare aankoop, zelfs als je weet dat de vermelding van zijn eigen leverancier vooruitwijst naar 1.3.

Neem Muse Spark Open 816B A42B als de taak smal genoeg is om met TorchTitan te fine-tunen, als de data je netwerk niet kunnen verlaten, als het volume groot en stabiel genoeg is om de hardware af te schrijven, of als de gratis redeneerknop voor jou meer waard is dan het indexpunt dat je opgeeft. De NVFP4-build en de NVIDIA-drafter betekenen samen dat het datacenterpad niet langer speculatief is in de zin die er in oktober toe deed — het is alleen nog niet gekwantificeerd.

Wat je niet moet doen, is de open gewichten nemen omdat ze gratis zijn, of het gehoste model nemen omdat het sneller is, zonder te beseffen dat die twee zinnen antwoord geven op verschillende vragen. De ene gaat over wat het model is, de andere over hoe je het gaat draaien. Vorige week had alleen de tweede vraag een antwoord. Deze week, voor het eerst, hebben beide er een — en het antwoord van het open model komt met foutbalken.

A generated closing card titled 'What to do with an unfinished comparison', subtitled 'Both models now have a serving answer; only one of them has error bars'. Two panels give the pick criteria. 'Take Muse Spark 1.2 — Rent' covers a human waiting on output, confirmed speech and video input, a measured cost per task today, and a Muse model on one key without buying a GPU. 'Take Muse Spark Open 816B A42B — Own' covers a task narrow enough to tune, data that cannot leave the network, volume that is large and steady, and a free reasoning dial beating one index point. A footer line reads that the open side moved from an empty cell to an annotated one — serveable on datacenter Blackwell with speculative decoding, and still not a tokens-per-second figure.

Muse Spark Open 816B A42B is downloadbaar onder de Muse Model License; Muse Spark 1.2 wordt per token verkocht en wordt op OrcaRouter tegen listprijs gerouteerd.

Vergeleken in dit artikel1

Herkend uit dit artikel · Benchmarks: Artificial Analysis · dagelijks bijgewerkt