Titelkort för jämförelsen mellan Aion-1.0-Instruct-2.3B och Qwen 3.8, som kontrasterar en 2,3B Windows-modell på enheten mot en 27B vision-språkmodell med öppna vikter.
Guides & Insights

Aion-1.0-Instruct-2.3B vs Qwen 3.8: En Windows-komponent möter en 27B arbetshäst

Författare

jinhao.song

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Den 18 november 2026 dök ett repository som hette Aion-1.0-Instruct-2.3B upp i Microsofts Hugging Face-organisation med en enda commit som lyder "Duplicate from asgmodels/Aion-Instruct-v1". Inget blogginlägg, inget tillkännagivande i modellkortet, inget pressmeddelande, ingen rapportering. Modellkortet beskriver den som den grundläggande lilla språkmodellen för Windows-arbete på enheten och tillägger att en ytterligare optimerad version av den, paketerad med Microsofts modell för innehållsmoderering, kommer att bli Windows OS SLM i slutet av januari 2027. Jämför det med Q​wen3.8-27B, den 27B stora vision-språkmodellen med öppna vikter som A​libaba publicerade i augusti 2026, och de värdbaserade Q​wen3.8-Flash och Q​wen3.8-Maxnivåerna ovanför den, så slutar jämförelsen snabbt att handla om kvalitet. Den ena är en komponent dimensionerad för en bärbar dator. Den andra är en allmänmodell som du hyr per miljon token. Nästan allt som en benchmarktabell skulle säga dig är ovidkommande. Q​wen3.8-27B tillhandahålls som qwen/qwen3.8-27b i OrcaRouters katalog, med samma nyckel och slutpunkt som Q​wen3.8-Flash- och Q​wen3.8-Max-nivåerna.

Vad Aion-repositoriet faktiskt innehåller

Börja med det som går att kontrollera, eftersom listan är kort. Repositoriet skapades 17:05 UTC den 18 november 2026 och har inte ändrats sedan dess. Det har tre gilla-markeringar och, vid tidpunkten för skrivandet, noll nedladdningar. Vikterna utgörs av en enda BF16-safetensors-fil på 4,58 GB, vilket stämmer överens med 2,3B-namnet vid två byte per parameter. Ordförrådet är 200 029 token. Licensen är MIT.

Arkitekturen är mer ovanlig än storleken antyder. Tjugoåtta lager alternerar i ett hybridmönster – tjugoett använder sliding-window-attention med ett fönster på 2 048 token och sju använder full attention – och full-attention-lagren har en 16× YaRN-förlängning. Grupperad query-attention är 24 query-huvuden till 8 key-value-huvuden, inbäddningarna är bundna, och kortet instruerar dig att köra den med anpassad modelleringskod via trust_remote_code. Repositoriet levererar sin egen transformers-implementation i stället för att mappas mot en standardarkitektur.

Härkomsten är den del som inte är bekräftad. Commit-incheckningen säger att förvaret är en dubblett av asgmodels/Aion-Instruct-v1, och licenslänken pekar på det förvarets LICENSE-fil. Både asgmodels/Aion-Instruct-v1 och ett systerförvar hos Microsoft med namnet Aion-Instruct-Preview-Sample returnerar ett autentiseringsfel för anonyma API-anrop, så de är privata eller åtkomstbegränsade. Vi kan se att Microsoft kopierade checkpointen till ett offentligt förvar. Vi kan inte se vad originalet innehöll, vem som tränade det, på vilka data, eller varför organisationen heter asgmodels. Alla som beskriver den här modellens träning gissar.

Screenshot of the microsoft/Aion-1.0-Instruct-2.3B model card on Hugging Face, showing the Microsoft Windows Applied Sciences Group attribution, the on-device SLM description, the January 2027 Windows OS SLM target, and the note that only the unquantised model is published first.

Siffrorna på kortet, och vad de är värda

Modellkortet publicerar elva benchmarks. MMLU 55,15, MMLU-Pro 33,35, MMMLU 45,51, GPQA 28,18, GSM8K 74,91, GSMPlus 49,56, MATH-500 48,00, IFEval 83,90, IFBench 32,00, Multi-IF 64,70 och chrF++ 43,18. Metodraden säger att körningarna använde EleutherAI:s lm-evaluation-harness där en uppgiftsimplementation fanns, och i annat fall benchmarkens eget repo, med GPT-4o som domare för de uppgifter som markerats som domarbedömda. Poängen är procent.

Allt är leverantörsrapporterat och inget av det har reproducerats. För en modell så här liten är dock mönstret i tabellen mer informativt än någon enskild siffra. MMLU på 55,15 är respektabelt för 2,3B parametrar. MMLU-Pro på 33,35 och GPQA på 28,18 är inte det: det är de svårare, mer resonemangstunga kunskapstesterna, och de visar tydligt taket. GSM8K på 74,91 med lös matchning är ett väsentligt svagare resultat än samma siffra skulle vara med strikt matchning. IFEval 83,90 är det starkaste relativa resultatet på modellkortet – modellen följer formaterade instruktioner väl för sin storlek, vilket är precis vad en operativsystemassistent behöver göra.

Det finns ett andra förbehåll som modellkortet säger rakt ut och som är lätt att missa. Den publicerade checkpointen är den icke-kvantiserade modellen, och modellkortet säger att kvantiserade versioner kommer att följa. ONNX-bygget finns redan separat — Microsoft publicerade Aion-1.0-Instruct-2.3B-ONNX-WebGPU ungefär tre minuter efter BF16-repot, på ungefär 1,3 GB, med INT4 blockvis kvantiseringsmedveten träning med blockstorlek 32 för linjära lager och blockstorlek 64 för embeddings, med FP16-aktiveringar och KV-cache, med inriktning mot WebGPU via ONNX Runtime GenAI. Det är den distributionsartefakt som spelar roll, och det är en annan fil än den som de flesta laddar ner först.

Varför Q​wen3.8-27B är en annan typ av objekt

Qwen3.8-27B har 27,8 miljarder parametrar fördelade över arton BF16-shardar som totalt uppgår till 55,6 GB, med ett visionstorn för bild- och videoinmatning. Dess sextiofyra lager är ordnade som sexton återkommande block med tre Gated DeltaNet-lager för linjär uppmärksamhet till ett fullt Gated Attention-lager, dold storlek 5 120, med 48 value-huvuden i den linjära uppmärksamhetsvägen mot 16 query-key-huvuden. Kontexten är 262 144 token nativt och 1 000 000 med YaRN. Tänkande är aktiverat som standard, med upp till 262 144 resonemangstoken och 131 072 svarstoken, och den rekommenderade samplingen skiljer sig mellan tänkande och icke-tänkande lägen. Licensen är Apache 2.0.

Gapet som spelar roll är inte parametrar. Det är att en checkpoint på 55,6 GB inte körs på den enhet som Aion-modellen är byggd för. Hela Aion-modellens design – 2 048-token glidande fönster, INT4-kvantiseringsmedveten träning, en ONNX WebGPU-build på 1,3 GB – är ett argument om vad som får plats i minnet på en maskin som någon redan äger. Q​wen3.8-27B:s design förutsätter ett servingkluster. Man väljer inte mellan dem utifrån en resultattavla. Man väljer för att en av dem inte är en kandidat för den andras jobb.

Där siffrorna kan och inte kan läggas sida vid sida

Det finns en genuint användbar korshänvisning här, och den finns inte på någon av leverantörernas kort. Artificial Analysis mäter Qwen3.8-27B på Intelligence Index v5.0.1, som kombinerar nio utvärderingar: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 och Terminal-Bench-Sci. På det indexet får Qwen3.8-27B 20, mot en median på 10 för jämförbara modeller. Samma mätning anger den till 0,50 USD per miljon indatatokens och 3,00 USD per miljon utdatatokens, 3,53 USD per uppgift, 38,7 minuter per indexuppgift mot en median på 11,5, och 128 miljoner tokens förbrukade över indexet mot en median på 77,8 miljoner. Den är långsammare och mer ordrik än övriga, och det syns i kostnaden per uppgift även vid ett måttligt pris per token.

Comparison scoreboard for Aion-1.0-Instruct-2.3B and Qwen3.8-27B, contrasting parameters, context window, modality, licence, footprint and evaluation status.

Det finns ingen motsvarighet för Aion. Per den 19 november 2026 har Artificial Analysis ingen post för någon Aion-modell, och ingen oberoende testrigg har publicerat en körning. Så den ärliga resultattavlan har ett hål i sig, och hålet finns på den nyare modellens sida.

• Parametrar – Aion-1.0-Instruct-2.3B: ungefär 2,3B, en BF16-fil på 4,58 GB. Qwen3.8-27B: 27,8B, arton shards, 55,6 GB BF16.

• Kontext — Aion-1.0-Instruct-2.3B: 32 768 token enligt ONNX-byggets kort; BF16-kortet anger ingen siffra. Qwen3.8-27B: 262 144 inbyggda, 1 000 000 med YaRN.

• Modalitet — Aion-1.0-Instruct-2.3B: endast text. Q​wen3.8-27B: text, bild och video in, text ut.

• Licens — Aion-1.0-Instruct-2.3B: MIT. Qwen3.8-27B: Apache 2.0. Båda tillåter kommersiell användning; MIT är den mindre restriktiva av de två.

• Körbart minnesavtryck — Aion-1.0-Instruct-2.3B: 1,3 GB INT4 ONNX för WebGPU, eller 4,58 GB BF16. Qwen3.8-27B: 55,6 GB BF16, plus minne för servering.

• Oberoende utvärdering — Aion-1.0-Instruct-2.3B: inga. Qwen3.8-27B: Intelligence Index 20 på v5.0.1, plus ett leverantörskort som rapporterar LiveCodeBench v6 90.3, GPQA Diamond 89.2, Terminal-Bench 2.1 på 73.0, SWE-bench Pro 61.7 och HLE 30.8.

• Publiceringsdatum — Aion-1.0-Instruct-2.3B: 18 november 2026, en dag gammal och utan tillkännagivande. Qwen3.8-27B: tillkännagavs 3 augusti 2026, vikterna släpptes 14 augusti 2026.

Vad jämförelsen faktiskt avgör

Om du bygger en skrivbordsapplikation som behöver klassificera text, följa ett strukturerat format, sammanfatta ett dokument eller dirigera en förfrågan till operativsystemet utan en nätverksrunda, så ingår Aion-modellen i samtalet och Q​wen3.8-27B gör det inte. Fönstret på 32K räcker för en dokumentsammanfattning och är långt ifrån tillräckligt för en kodningsuppgift som omfattar ett helt kodförråd. MIT-licensen eliminerar behovet av juridisk granskning. ONNX WebGPU-bygget körs där en kontrollpunkt på 55.6 GB inte kan köras.

Om du behöver en agent som arbetar över långa kontexter, läser skärmbilder, skriver kod mot en stor kodbas eller kör verktygsslingor i flera steg, gäller det omvända. Q​wen3.8-27B har kontexten, modaliteten och oberoende mätning, och dess svagheter – latens och tokenutförlighet – är kända storheter som du kan prissätta. Aion-modellen har ingen oberoende körning alls, vilket i praktiken innebär att det är du som gör utvärderingen, på dina egna uppgifter, innan den rör något som spelar roll.

Det finns en tredje position som antagligen är rätt för de flesta team: att inte välja. En 2,3B-modell på enheten och en 27B-hostad modell kompletterar varandra, och arkitekturen som använder båda – en liten lokal modell för de frekventa, billiga, latenskänsliga anropen och en stor hostad modell för de sällsynta, dyra, svåra – är den som klarar mötet med en faktura. Qwen3.8-27B finns via OrcaRouter som qwen/qwen3.8-27b till 0,33 USD per miljon indatatokens och 2,40 USD per miljon utdatatokens, på samma nyckel och endpoint som Qwen3.8-Flash- och Qwen3.8-Max-nivåerna, med automatisk failover mellan leverantörer och utan påslag per token utöver leverantörens listpris. Vi kör dessa vikter själva, så en prisändring från leverantören landar här samma dag i stället för efter en omprissättningscykel. Aion-1.0-Instruct-2.3B finns inte på OrcaRouter – det är en nedladdning som du kör själv, och de två kan ligga i samma applikation utan att någon av dem känner till den andra.

Screenshot of the OrcaRouter model page for qwen/qwen3.8-27b, showing the Qwen3.8 27B listing with its 262K-token context, text and image and video input, text output, and pricing.

Vad man bör hålla utkik efter, och vad som skulle förändra den här artikeln.

Tre saker skulle i grunden förändra bilden, och ingen av dem har hänt ännu. Microsoft som publicerar ett tillkännagivande, ett modellkort med träningsdetaljer eller en benchmarkkörning utanför företagets eget utvärderingsramverk. Artificial Analysis som lägger till en Aion-post, vilket skulle ge den nyare modellen den oberoende motvikt som Qwen redan har. Eller att historien om kvantiserad BF16 kontra INT4 utmynnar i en publicerad noggrannhetsdelta, vilket är siffran som avgör om kvantisering på enheten faktiskt håller på den här arkitekturen.

Fram till dess, behandla Aion-1.0-Instruct-2.3B som det repot visar: en liten, textbaserad modell för Windows med tillåtande licens, publicerad utan pompa, en dag gammal, med en leverantörsbenchmarktabel och ingen oberoende granskning av den. Behandla Q​wen3.8-27B som en känd storhet med publicerad tredjepartsmätning, ett kontextfönster som är åtta gånger större och en serveringskostnad som matchar det. Fel fråga är vilken som vinner. Rätt fråga är vilket av dessa två objekt din applikation saknar.