Titelkarte für den Vergleich von Aion-1.0-Instruct-2.3B mit Qwen 3.8, die ein 2,3B-Gerätemodell für Windows einem 27B-Vision-Language-Modell mit offenen Gewichten gegenüberstellt.
Guides & Insights

Aion-1.0-Instruct-2.3B vs Qwen 3.8: Eine Windows-Komponente trifft auf ein 27B-Arbeitspferd

Autor

jinhao.song

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Am 18. November 2026 erschien ein Repository namens Aion-1.0-Instruct-2.3B in Microsofts Organisation auf Hugging Face mit einem einzigen Commit und dem Text „Duplicate from asgmodels/Aion-Instruct-v1“. Kein Blogbeitrag, keine Ankündigung in der Modellkarte, keine Pressemitteilung, keine Berichterstattung. Die Modellkarte beschreibt es als das grundlegende kleine Sprachmodell für geräteseitige Arbeit unter Windows und ergänzt, dass eine weiter optimierte Version davon, gebündelt mit Microsofts Inhaltsmoderationsmodell, bis Ende Januar 2027 zum Windows OS SLM werden soll. Vergleicht man das mit Q​wen3.8-27B, dem offenen 27B-Vision-Language-Modell mit offenen Gewichten, das A​libaba im August 2026 veröffentlichte, und den gehosteten Tarifen Q​wen3.8-Flash und Q​wen3.8-Max darüber, geht es bei diesem Vergleich sehr schnell nicht mehr um Qualität. Das eine ist eine auf ein Laptop zugeschnittene Komponente. Das andere ist ein Allzweckmodell, das man pro Million Token mietet. Fast alles, was eine Benchmark-Tabelle einem sagen würde, ist irrelevant. Q​wen3.8-27B wird als qwen/qwen3.8-27b in OrcaRouters Katalog, angeboten mit demselben Schlüssel und Endpunkt wie die Q​wen3.8-Flash- und Q​wen3.8-Max-Tarife.

Was das Aion-Repository tatsächlich enthält

Beginnen Sie mit dem, was überprüfbar ist, denn die Liste ist kurz. Das Repository wurde am 18. November 2026 um 17:05 UTC erstellt und seitdem nicht geändert. Es hat drei Likes und zum Zeitpunkt des Schreibens null Downloads. Die Gewichte sind eine einzelne 4,58 GB große BF16-safetensors-Datei, was mit dem Namen 2,3B bei zwei Bytes pro Parameter übereinstimmt. Das Vokabular umfasst 200.029 Tokens. Die Lizenz ist MIT.

Die Architektur ist ungewöhnlicher, als die Größe vermuten lässt. Achtundzwanzig Schichten wechseln sich in einem hybriden Muster ab – einundzwanzig verwenden Sliding-Window-Attention mit einem Fenster von 2.048 Token und sieben verwenden Full Attention –, und die Full-Attention-Schichten tragen eine 16×-YaRN-Erweiterung. Grouped-Query-Attention hat 24 Query-Heads gegenüber 8 Key-Value-Heads, die Embeddings sind gebunden, und die Modellkarte weist Sie an, es mit benutzerdefiniertem Modellierungscode über trust_remote_code auszuführen. Das Repository bringt seine eigene Transformers-Implementierung mit, statt auf eine Standardarchitektur abgebildet zu werden.

Die Herkunft ist der Teil, der nicht bestätigt ist. Der Commit besagt, dass das Repository ein Duplikat von asgmodels/Aion-Instruct-v1 ist, und der Lizenzlink verweist auf die LICENSE-Datei dieses Repositorys. Sowohl asgmodels/Aion-Instruct-v1 als auch ein Schwester-Repository von Microsoft namens Aion-Instruct-Preview-Sample liefern bei anonymen API-Anfragen einen Authentifizierungsfehler zurück, sind also privat oder zugangsbeschränkt. Wir können sehen, dass Microsoft den Checkpoint in ein öffentliches Repository kopiert hat. Wir können nicht sehen, was das Original enthielt, wer es trainiert hat, mit welchen Daten, oder warum die Organisation asgmodels heißt. Jeder, der das Training dieses Modells beschreibt, rät.

Screenshot of the microsoft/Aion-1.0-Instruct-2.3B model card on Hugging Face, showing the Microsoft Windows Applied Sciences Group attribution, the on-device SLM description, the January 2027 Windows OS SLM target, and the note that only the unquantised model is published first.

Die Zahlen auf der Karte und was sie wert sind

Die Modellkarte veröffentlicht elf Benchmarks. MMLU 55,15, MMLU-Pro 33,35, MMMLU 45,51, GPQA 28,18, GSM8K 74,91, GSMPlus 49,56, MATH-500 48,00, IFEval 83,90, IFBench 32,00, Multi-IF 64,70 und chrF++ 43,18. In der Methodikzeile heißt es, dass für die Durchläufe EleutherAIs lm-evaluation-harness verwendet wurde, wo immer eine Aufgabenimplementierung existierte, andernfalls das eigene Repository des Benchmarks, wobei GPT-4o als Judge für die als judge-scored markierten Aufgaben diente. Die Werte sind Prozentangaben.

Alles davon ist vom Anbieter gemeldet, und nichts davon wurde reproduziert. Für ein Modell dieser Größe ist jedoch das Muster in der Tabelle aussagekräftiger als jede einzelne Zahl. MMLU mit 55,15 ist für 2,3 Mrd. Parameter respektabel. MMLU-Pro mit 33,35 und GPQA mit 28,18 sind es nicht: Das sind die schwierigeren, stärker aufs Schlussfolgern ausgerichteten Wissenstests, und sie zeigen die Obergrenze deutlich. GSM8K mit 74,91 bei lockerer Übereinstimmungsprüfung ist ein deutlich schwächeres Ergebnis, als dieselbe Zahl bei strikter Übereinstimmungsprüfung wäre. IFEval 83,90 ist das relativ stärkste Ergebnis auf dem Modellblatt – das Modell befolgt formatierte Anweisungen für seine Größe gut, was genau die Aufgabe eines Betriebssystem-Assistenten ist.

Es gibt einen zweiten Vorbehalt, den die Modellkarte klar benennt und der leicht zu übersehen ist. Der veröffentlichte Checkpoint ist das unquantisierte Modell, und die Karte besagt, dass quantisierte Versionen folgen werden. Der ONNX-Build existiert bereits separat – Microsoft veröffentlichte Aion-1.0-Instruct-2.3B-ONNX-WebGPU etwa drei Minuten nach dem BF16-Repository, mit rund 1,3 GB, unter Verwendung von INT4-blockweisem Quantization-Aware Training mit Blockgröße 32 auf linearen Schichten und Blockgröße 64 bei Embeddings, mit FP16-Aktivierungen und KV-Cache, ausgerichtet auf WebGPU über ONNX Runtime GenAI. Das ist das entscheidende Deployment-Artefakt, und es ist eine andere Datei als die, die die meisten zuerst herunterladen werden.

Warum Qwen3.8-27B eine andere Art von Objekt ist

Qwen3.8-27B hat 27,8 Milliarden Parameter, verteilt auf achtzehn BF16-Shards mit insgesamt 55,6 GB, sowie einen Vision-Tower für Bild- und Videoeingaben. Seine vierundsechzig Schichten sind als sechzehn sich wiederholende Blöcke aus jeweils drei linearen Gated-DeltaNet-Attention-Schichten und einer vollständigen Gated-Attention-Schicht angeordnet; die Hidden-Size beträgt 5.120, mit 48 Value-Heads im Linear-Attention-Pfad gegenüber 16 Query-Key-Heads. Der Kontext umfasst nativ 262.144 Token und mit YaRN 1.000.000. Thinking ist standardmäßig aktiviert, mit bis zu 262.144 Reasoning-Token und 131.072 Antwort-Token, und die empfohlenen Sampling-Einstellungen unterscheiden sich zwischen Thinking- und Non-Thinking-Modus. Die Lizenz ist Apache 2.0.

Der entscheidende Unterschied liegt nicht bei den Parametern. Er besteht darin, dass ein 55,6-GB-Checkpoint nicht auf dem Gerät läuft, für das das Aion-Modell gebaut ist. Das gesamte Design des Aion-Modells – 2.048 Token große gleitende Fenster, INT4-quantisierungsbewusstes Training, ein ONNX-WebGPU-Build mit 1,3 GB – ist ein Argument dafür, was auf einem Rechner, den jemand bereits besitzt, in den Speicher passt. Das Design von Qwen3.8-27B setzt einen Serving-Cluster voraus. Man entscheidet nicht anhand einer Bestenliste zwischen ihnen. Man entscheidet sich, weil eines von beiden für die Aufgabe des anderen nicht infrage kommt.

Wo die Zahlen nebeneinandergelegt werden können und wo nicht

Hier gibt es einen wirklich nützlichen Querverweis, und er steht auf keiner der Karten beider Anbieter. Artificial Analysis misst Q​wen3.8-27B auf dem Intelligence Index v5.0.1, der neun Evaluierungen kombiniert: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 und Terminal-Bench-Sci. Auf diesem Index erreicht Q​wen3.8-27B 20 Punkte, gegenüber einem Median von 10 für vergleichbare Modelle. Dieselbe Messung weist es mit 0,50 US-Dollar pro Million Eingabe-Token und 3,00 US-Dollar pro Million Ausgabe-Token aus, 3,53 US-Dollar pro Aufgabe, 38,7 Minuten pro Index-Aufgabe gegenüber einem Median von 11,5 sowie 128 Millionen verbrauchten Token über den gesamten Index gegenüber einem Median von 77,8 Millionen. Es ist langsamer und wortreicher als das Feld und zahlt dafür mit den Kosten pro Aufgabe, selbst bei einem moderaten Preis pro Token.

Comparison scoreboard for Aion-1.0-Instruct-2.3B and Qwen3.8-27B, contrasting parameters, context window, modality, licence, footprint and evaluation status.

Für Aion gibt es kein Äquivalent. Stand 19. November 2026 hat Artificial Analysis keinen Eintrag für ein Aion-Modell, und keine unabhängige Testumgebung hat einen Lauf veröffentlicht. Die ehrliche Rangliste hat also eine Lücke, und diese Lücke befindet sich auf der Seite des neueren Modells.

• Parameter — Aion-1.0-Instruct-2.3B: etwa 2,3B, eine 4,58 GB große BF16-Datei. Q​wen3.8-27B: 27,8B, achtzehn Shards, 55,6 GB BF16.

• Kontext — Aion-1.0-Instruct-2.3B: 32.768 Tokens laut der Modellkarte des ONNX-Builds; die BF16-Modellkarte nennt keine Zahl. Q​wen3.8-27B: 262.144 nativ, 1.000.000 mit YaRN.

• Modalität — Aion-1.0-Instruct-2.3B: nur Text. Qwen3.8-27B: Text, Bild und Video als Eingabe, Text als Ausgabe.

• Lizenz — Aion-1.0-Instruct-2.3B: MIT. Q​wen3.8-27B: Apache 2.0. Beide erlauben die kommerzielle Nutzung; MIT ist die weniger eingeschränkte der beiden.

• Lauffähiger Footprint — Aion-1.0-Instruct-2.3B: 1,3 GB INT4 ONNX für WebGPU oder 4,58 GB BF16. Q​wen3.8-27B: 55,6 GB BF16, plus Serving-Speicher.

• Unabhängige Bewertung – Aion-1.0-Instruct-2.3B: keine. Q​wen3.8-27B: Intelligence Index 20 auf v5.0.1, zudem eine Anbieterkarte, die LiveCodeBench v6 90,3, GPQA Diamond 89,2, Terminal-Bench 2.1 mit 73,0, SWE-bench Pro 61,7 und HLE 30,8 ausweist.

• Veröffentlichungsdatum — Aion-1.0-Instruct-2.3B: 18. November 2026, einen Tag alt und nicht angekündigt. Qwen3.8-27B: angekündigt am 3. August 2026, Gewichte veröffentlicht am 14. August 2026.

Was der Vergleich tatsächlich entscheidet

Wenn Sie eine Desktop-Anwendung entwickeln, die Text klassifizieren, ein strukturiertes Format einhalten, ein Dokument zusammenfassen oder eine Betriebssystemanfrage ohne Netzwerk-Roundtrip weiterleiten muss, kommt das Aion-Modell infrage und Qwen3.8-27B nicht. Das 32K-Fenster reicht für eine Dokumentzusammenfassung und bei Weitem nicht für eine repositoryweite Programmieraufgabe. Die MIT-Lizenz erspart die rechtliche Prüfung. Der ONNX-WebGPU-Build läuft dort, wo ein 55,6-GB-Checkpoint nicht hin kann.

Wenn Sie einen Agenten brauchen, der über lange Kontexte hinweg arbeitet, Screenshots liest, Code für eine große Codebasis schreibt oder mehrstufige Tool-Schleifen ausführt, gilt das Umgekehrte. Q​wen3.8-27B verfügt über den Kontext, die Modalität und unabhängige Messungen, und seine Schwächen – Latenz und Token-Wortfülle – sind bekannte Größen, mit denen Sie kalkulieren können. Das Aion-Modell hat überhaupt keinen unabhängigen Lauf, was in der Praxis bedeutet, dass Sie die Evaluierung selbst vornehmen – an Ihren eigenen Aufgaben –, bevor es irgendetwas berührt, das zählt.

Es gibt eine dritte Position, die für die meisten Teams wahrscheinlich die richtige ist: nicht zu wählen. Ein On-Device-Modell mit 2,3B und ein gehostetes Modell mit 27B ergänzen sich, und die Architektur, die beide nutzt – ein kleines lokales Modell für die häufigen, günstigen, latenzkritischen Aufrufe und ein großes gehostetes Modell für die seltenen, teuren, schwierigen – ist diejenige, die den Kontakt mit einer Rechnung übersteht. Qwen3.8-27B ist über OrcaRouter als qwen/qwen3.8-27b für 0,33 $ pro Million Eingabe-Token und 2,40 $ pro Million Ausgabe-Token verfügbar, mit demselben Schlüssel und Endpunkt wie die Tarife Qwen3.8-Flash und Qwen3.8-Max, mit automatischem Failover zwischen Anbietern und ohne Aufschlag pro Token gegenüber dem Listenpreis des Anbieters. Wir betreiben diese Gewichte selbst, daher schlägt eine Preisänderung des Anbieters hier noch am selben Tag durch und nicht erst nach einem Neupreiszyklus. Aion-1.0-Instruct-2.3B ist nicht auf OrcaRouter – es ist ein Download, den du selbst ausführst, und die beiden können in derselben Anwendung laufen, ohne dass eine von der anderen weiß.

Screenshot of the OrcaRouter model page for qwen/qwen3.8-27b, showing the Qwen3.8 27B listing with its 262K-token context, text and image and video input, text output, and pricing.

Worauf man achten sollte und was dieses Stück verändern würde

Drei Dinge würden das Bild wesentlich verändern, und keines davon ist bisher eingetreten. Microsoft, das eine Ankündigung veröffentlicht, eine Modellkarte mit Trainingsdetails oder einen Benchmark-Lauf außerhalb der eigenen Testumgebung des Unternehmens. Artificial Analysis, das einen Eintrag für Aion hinzufügt, was dem neueren Modell das unabhängige Gegengewicht geben würde, das Q​wen bereits hat. Oder die Geschichte um quantisiertes BF16 versus INT4, die sich zu einem veröffentlichten Genauigkeitsunterschied auflöst – die Zahl, die entscheidet, ob On-Device-Quantisierung auf dieser Architektur tatsächlich standhält.

Bis dahin behandle Aion-1.0-Instruct-2.3B als das, was das Repository zeigt: ein kleines, permissiv lizenziertes, rein textbasiertes, Windows-orientiertes Modell, ohne großes Aufhebens veröffentlicht, einen Tag alt, mit einer Benchmark-Tabelle des Anbieters und ohne unabhängige Prüfung. Behandle Qwen3.8-27B als bekannte Größe mit veröffentlichter Drittanbieter-Messung, einem achtmal größeren Kontextfenster und einer entsprechenden Serving-Rechnung. Die falsche Frage ist, welches gewinnt. Die richtige ist, welches dieser beiden Objekte in deiner Anwendung fehlt.